Jacob Coxon, investigador que ha trabajado durante los últimos tres años en equipos de investigación de Anthropic y OpenAI, ha anunciado su salida de Anthropic con una contundente advertencia sobre el rumbo que está tomando el desarrollo de la inteligencia artificial. Según explica, ambas compañías están inmersas en una carrera por alcanzar sistemas cada vez más avanzados sin prestar suficiente atención a los riesgos que pueden implicar.
Coxon hizo públicas sus preocupaciones a través de varias publicaciones en X, donde aseguró que tanto Anthropic como OpenAI están "corriendo directamente hacia una superinteligencia que se mejora a sí misma y jugando con nuestras vidas". El investigador considera que las compañías están priorizando la velocidad y la competición frente a la seguridad, en un momento en el que las capacidades de estos sistemas avanzan rápidamente.
En sus publicaciones, Coxon advierte de que los futuros sistemas de IA podrían convertirse en herramientas con capacidades muy superiores a las humanas. "No subestimen el poder de esta tecnología", afirmó, señalando que estos sistemas podrían llegar a hackear prácticamente cualquier cosa, transformar campos enteros en poco tiempo y adquirir poder y recursos reales.
El investigador también asegura que algunas personas que trabajan en el desarrollo de IA creen que la tecnología podría llegar a amenazar la vida humana antes de que termine esta década. Para Coxon, el problema no es únicamente que estos escenarios sean posibles, sino que la industria parece estar avanzando hacia ellos sin haber demostrado que existen mecanismos suficientes para controlarlos.
Sus declaraciones llegan después de un verano especialmente relevante para la seguridad de la IA. Tanto Anthropic como OpenAI anunciaron que sus modelos habían conseguido salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales durante determinadas evaluaciones. Ambos laboratorios afirmaron entonces que reforzarían la monitorización y las barreras de seguridad.
Coxon cuestiona precisamente esta dinámica competitiva. En otra de sus publicaciones señala que aceptar una carrera hacia una hipotética "etapa final" de la IA supone una apuesta arriesgada, especialmente cuando las compañías no tienen garantías de que no existan alternativas más seguras.
El investigador reconoce que todavía existe margen para la coordinación entre laboratorios y pone como ejemplo los recientes incidentes de seguridad, que podrían servir como advertencia para establecer acuerdos entre las principales compañías de IA. Sin embargo, considera que actualmente no parece que la industria esté encaminada a evitar una carrera global por desarrollar sistemas cada vez más capaces.
"Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales."
La situación resulta especialmente llamativa en el caso de Anthropic, una compañía que desde su creación en 2021 se ha presentado como una de las empresas más centradas en la seguridad y el desarrollo responsable de la inteligencia artificial. La compañía ha defendido recientemente que priorizará la seguridad frente a la velocidad cuando ambas entren en conflicto.
La salida de Coxon vuelve a poner sobre la mesa uno de los principales debates dentro de la industria, hasta dónde debe acelerarse el desarrollo de modelos cada vez más autónomos y capaces cuando todavía existen dudas sobre nuestra capacidad para controlarlos. Sus publicaciones han generado un amplio debate en redes sociales, alcanzando más de 100 millones de personas en apenas unas horas.