Ya está aquí DetectGPT, una herramienta para identificar el uso de ChatGPT

Los profesores han llegado a un punto en el que ya no solo deben detectar si los alumnos copian en los exámenes presenciales, el nivel de la tecnología avanza tan rápido que las herramientas de inteligencia artificial se han convertido en un auténtico problema para los docentes y en especial ChatGPT, que supone un gran inconveniente. Esta herramienta de inteligencia artificial es capaz de redactar textos complejos sin esfuerzo y muchos estudiantes ya han comenzado a darle uso a la hora de crear trabajos enteros y plagiar contenido.

Para poder plantar cara a esta herramienta tan viral, un grupo de desarrolladores ha creado DetectGPT, una nueva herramienta que hace que los profesores puedan identificar aquellos textos que han sido creados por IA y así puedan evitar el fraude de sus alumnos.

Combate IA con IA

ChatGPT es, sin duda, una herramienta de inteligencia artificial que se ha hecho viral gracias a sus asombrosas prestaciones. La capacidad de generar textos coherentes y con un nivel de redacción óptimo que llevarían horas de esfuerzo a cualquier persona normal es asombrosa y lo mejor es que esto es posible con un solo click. Por ese mismo motivo muchas investigaciones han empezado a centrarse en el desarrollo de nuevas herramientas capaces de identificar si un texto ha sido generado con inteligencia artificial.

Al igual que ocurre con todo, esta herramienta puede usarse de mejor o peor forma, siendo más o menos éticos, pero a partir de ahora y gracias a la llegada de DetectGPT, su uso inadecuado ya no será impune. La Universidad de Stanford ha sido la encargada de desarrollar esta nueva herramienta que pretende ser una de las primeras útiles para combatir el uso de textos generados por una máquina.

A pesar de que su correcto funcionamiento no está del todo probado por el momento, DetectGPT hace uso de la curvatura de probabilidad para así encontrar texto generado por IA gracias a las probabilidades y las estadísticas. Este método otorga una fiabilidad casi del 100% ya que durante las pruebas pudo identificar textos generados por IA 14 de cada 15 veces incluso si dicho texto estaba parafraseado por humanos llegando a detectar el uso de este tipo de herramientas hasta en un 25% del texto.

La “curvatura negativa” del texto

Esta nueva idea y necesidad para los docentes se ha llevado a cabo gracias a un parámetro que identifica si los textos los ha generado una máquina sin la necesidad de entrenar una IA. Todos aquellos textos creados por una inteligencia artificial tienen lo que se conoce como “curvatura negativa” de su propia función de probabilidad logarítmica, mientras que los seres humanos tendemos a realizar textos con “curvatura positiva”, por lo que la mayoría de veces esto es fácil de detectar para una inteligencia artificial.

De esta forma, la aparición de esta nueva herramienta se convierte en un avance importante a la hora de detectar si textos como este mismo han sido, o no, generados con una inteligencia artificial.