OpenAI ha desarrollado una marca de agua para textos generados por ChatGPT que es efectiva en el 99,9% de los casos. Sin embargo, la compañía está valorando su lanzamiento debido a que presenta complejidades y su impacto podría tener un impacto negativo entre los usuarios de sus servicios.
Según fuentes cercanas a la compañía citadas por The Wall Street Journal, el proyecto ha estado sumido en un debate intenso durante aproximadamente dos años, y llevan alrededor de uno planteándose ponerlo a disposición de los usuarios. En concreto, habría ideado un "método técnicamente prometedor" para detectar texto generado con ChatGPT, aunque considera que éste "tiene riesgos importantes" que están sopesando mientras investigan otras alternativas.
Esto significa que la herramienta "antitrampas" cambiaría la forma en la que otras soluciones de detección seleccionan los tokens, unos cambios que introducirían un patrón de marca de agua imperceptible para el ojo humano, pero sí detectable por la tecnología de OpenAI. Esta herramienta, que tiene una efectividad del 99,9 por ciento cuando ChatGPT ha creado suficiente texto nuevo, está generando dudas a la compañía, que actualmente valora su lanzamiento debido a una serie de complejidades que presenta su uso.
En una publicación sobre su investigación en la detección de texto generado por IA, OpenAI declara que han desarrollado un método de marca de agua para texto que siguen considerando mientras investigan alternativas. De todas formas, hay que indicar que las marcas de agua en los textos no están exentas de problemas y complejidades, y pueden afectar negativamente al contenido generado. Sin embargo, la empresa afirma que su método, desarrollado exclusivamente para contenido generado por ChatGPT, es muy preciso y tiene tasas de falsos positivos muy bajas.
Además, para aumentar el abanico de detectores, OpenAI ha creado una herramienta que puede identificar textos escritos por ChatGPT con un alto grado de precisión, de esta manera, se "podría atrapar a los estudiantes que hacen trampa". Según el diario The Wall Street Journal, esta innovación es una "marca de agua" que identifica los textos escritos por una inteligencia artificial, sin embargo, la compañía de Sam Altman sigue debatiendo su lanzamiento. El motivo se debe a que dicho detector está adoptando un "enfoque deliberado" debido a "las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI".
Por su parte, la compañía considera que las marcas de agua son susceptibles a métodos simples para eliminarlas, como la traducción del texto a otro idioma a través de Google y su posterior traducción de vuelta al idioma original, o la adición y eliminación periódica de emojis por parte del 'chatbot', según un empleado de la empresa.
Debido a la complejidad de estas cuestiones, la empresa percibe un desafío en determinar quién tendría acceso a esta herramienta de detección. Si el acceso fuese limitado, tendría poco valor, pero si se ofreciera a un gran número de personas, los actores malintencionados podrían descifrar la técnica de marca de agua de OpenAI.
Como resultado, se ha considerado la posibilidad de proporcionar el detector directamente a educadores o empresas externas que podrían ayudar a las escuelas a identificar textos escritos por IA y trabajos plagiados.
Antes de tomar una decisión, OpenAI ha consultado a los usuarios de ChatGPT para conocer su opinión sobre este detector. Según el sondeo, el 69% de los usuarios considera que esta tecnología podría dar lugar a acusaciones falsas de uso de IA. Casi el 30 por ciento indicó que utilizaría menos el 'chatbot' si se implementaran estos cambios.
La empresa también está preocupada por el posible impacto negativo de esta herramienta en la calidad del texto generado por ChatGPT. Aunque a principios de este año se realizó una prueba que reveló que las marcas de agua no afectaban el rendimiento del 'chatbot', aún persisten las inquietudes sobre este aspecto. Estas preocupaciones se centran en el impacto potencial en la calidad del texto generado por ChatGPT y en la percepción de los usuarios sobre el uso de esta tecnología.
Si (
No(
