El avance de la inteligencia artificial seguirá generando beneficios, pero también consecuencias negativas que la sociedad tendrá que aprender a gestionar. Esa es la posición que ha defendido Sam Altman, consejero delegado de OpenAI, al abordar uno de los debates que más tensión está generando actualmente en la industria, hasta qué punto debe frenarse el desarrollo de los modelos para evitar posibles daños.
En una entrevista concedida a Decoded, de Politico, Altman ha asegurado que OpenAI considera que “el mundo debería aceptar ciertos aspectos negativos a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía”.
Aceptar algunos daños para mantener los beneficios de la tecnología
La idea central del argumento de Altman parte de que una tecnología tan extendida como la inteligencia artificial terminará utilizándose tanto para actividades beneficiosas como para acciones perjudiciales. El directivo considera que intentar eliminar por completo cualquier posibilidad de abuso podría exigir unas restricciones tan severas que también limitarían buena parte del potencial positivo de estos sistemas.
En ese contexto, Altman sostiene que no aceptaría renunciar a los beneficios de la IA con el objetivo de garantizar que nunca se produzcan grandes ciberataques, estafas, usos maliciosos u otras consecuencias negativas relacionadas con la tecnología. Su razonamiento se apoya en la expectativa de que la utilización positiva de estos sistemas será muy superior a la perjudicial.
Según el CEO de OpenAI, “la gente hará cosas buenas en una proporción enormemente mayor que cosas malas”, de este modo, su planteamiento se acerca a una gestión del riesgo basada en reducir los daños sin impedir el acceso general a una tecnolog ía que considera capaz de aportar beneficios relevantes. La autonomía de los usuarios ocupa además un papel importante dentro de este enfoque.
La distancia con Anthropic vuelve a quedar en evidencia
Las declaraciones también sirven para marcar diferencias con Anthropic, uno de los principales competidores de OpenAI y una compañía que ha defendido públicamente una aproximación más estricta a la regulación y a la seguridad de los modelos de inteligencia artificial de vanguardia. La distancia entre ambas compañías se ha reducido durante los últimos meses en determinados asuntos.
Sin embargo, Altman continúa mostrando diferencias importantes en relación con la forma en que debería gestionarse el control de esta tecnología. Durante la entrevista, criticó la idea de concentrar en un único laboratorio la capacidad de decidir cómo se desarrolla la inteligencia artificial y cómo se distribuyen sus beneficios, “no estoy de acuerdo, pero entiendo la perspectiva de quienes piensan algo como, ‘esta tecnología va a ser tan potente y es tan peligrosa que un solo laboratorio en San Francisco debería poseerla y asegurarse de que no pase nada malo', administrando de algún modo cómo repartir sus beneficios’”, explicó Altman.
Con esta declaración, el responsable de OpenAI cuestiona una aproximación en la que la prevención de riesgos termine justificando un grado excesivo de concentración, para Altman, el desafío pasa por establecer mecanismos de seguridad sin convertir a un laboratorio privado en el único actor encargado de determinar hasta dónde puede llegar la tecnología o quién puede utilizarla.
Seguridad sí, pero sin detener por completo el avance de los modelos
La posición resulta especialmente relevante porque OpenAI se ha mostrado durante las últimas semanas más próxima a Anthropic en determinados asuntos de seguridad, ambas compañías han defendido la necesidad de extremar las precauciones a medida que los sistemas ganan capacidad para actuar de manera más autónoma, utilizar herramientas externas y completar tareas complejas con una menor intervención humana.
Ese acercamiento no significa que compartan exactamente la misma estrategia, las palabras de Altman muestran que OpenAI continúa defendiendo una visión en la que la innovación debe seguir avanzando siempre que los riesgos más graves puedan mantenerse bajo control. La existencia de usos indebidos, fraudes o ataques no sería, desde esta perspectiva, suficiente por sí sola para justificar una renuncia general a las capacidades que pueden ofrecer los modelos.
La frontera aparece cuando los riesgos dejan de afectar a casos individuales o a usos maliciosos concretos y pasan a amenazar el control mismo de la tecnología, Altman ha subrayado que los posibles eventos catastróficos quedan fuera de aquello que considera aceptable, y ha citado específicamente una pérdida severa de control sobre la inteligencia artificial.
La distinción es importante porque separa dos categorías de riesgo; por un lado se encuentran daños derivados del uso humano de la tecnología, como estafas, ciberataques o otros abusos. Por otro están los escenarios en los que el propio sistema puede comportarse de una forma que resulte difícil de supervisar o detener, Altman acepta que la primera categoría no podrá desaparecer por completo, pero no extiende ese razonamiento a la segunda.
Buena parte de la discusión entre OpenAI y Anthropic gira así alrededor de una pregunta que va más allá de la capacidad técnica de los modelos, quién debe establecer los límites y cómo deben repartirse las responsabilidades entre compañías, gobiernos y usuarios. Altman se muestra crítico con la posibilidad de que las decisiones fundamentales queden en manos de un único laboratorio. Aunque reconoce la lógica de quienes consideran que una tecnología extremadamente potente requiere un control igualmente fuerte, insiste en que concentrar esa autoridad también plantea problemas.
Por su parte, Anthropic ha precisado, a través de un portavoz consultado por Politico, que sus propuestas regulatorias están dirigidas únicamente a los modelos de vanguardia. La compañía busca así diferenciar las obligaciones que deberían aplicarse a los sistemas más potentes de aquellas que afectarían al conjunto de herramientas de inteligencia artificial disponibles en el mercado.
Si (
No(
