Accenture y Anthropic han acordado invertir al menos 2.000 millones de dólares, unos 1.743 millones de euros al cambio actual, durante los próximos cinco años para reforzar la seguridad en el desarrollo de inteligencia artificial.
Cada compañía aportará un mínimo de 1.000 millones de dólares a una colaboración que tendrá como uno de sus principales pilares la evaluación técnica de los modelos de Anthropic antes y durante su evolución.
El acuerdo contempla la creación de un equipo de evaluadores que se incorporará a Anthropic y colaborará directamente con los equipos internos y los socios especializados en seguridad de la compañía de inteligencia artificial. Su trabajo se centrará en analizar los modelos, localizar posibles vulnerabilidades, evaluar su alineamiento y someter a prueba las salvaguardas diseñadas para limitar comportamientos o resultados no deseados.
La iniciativa pone el foco en una de las áreas que cobra peso a medida que aumenta la capacidad de los sistemas de inteligencia artificial: las pruebas independientes y especializadas sobre el comportamiento de los modelos y la eficacia real de sus mecanismos de seguridad.
Accenture aportará su experiencia en inteligencia artificial responsable y sumará las capacidades técnicas de Faculty, la compañía especializada en IA aplicada que adquirió la consultora. Faculty cuenta con experiencia en pruebas y evaluaciones de modelos para algunos de los principales laboratorios de inteligencia artificial, además de proyectos desarrollados en sectores como administraciones públicas, defensa, sanidad e infraestructuras.
Entre sus trabajos figura el Sistema de Alerta Temprana desarrollado para el Servicio Nacional de Salud británico (NHS) durante la pandemia de Covid-19, una experiencia que trasladará ahora al equipo especializado que trabajará con Anthropic.
“La seguridad requiere tanto un profundo conocimiento técnico como una comprensión clara de cómo se utiliza la IA en el mundo real”
“La seguridad requiere tanto un profundo conocimiento técnico como una comprensión clara de cómo se utiliza la IA en el mundo real”, ha señalado Julie Sweet, presidenta y consejera delegada de Accenture.
La directiva considera la evaluación integrada un ámbito emergente dentro del desarrollo de la inteligencia artificial. En este sentido, Accenture prepara un equipo con perfiles especializados en IA y seguridad, pero también con conocimiento de diferentes industrias, con el objetivo de analizar los sistemas desde una perspectiva técnica y desde sus posibles aplicaciones reales.
De las pruebas técnicas a la IA “segura por diseño”
La colaboración también busca ampliar el número de profesionales especializados en evaluación y seguridad de modelos. La intención de Accenture es que el trabajo conjunto contribuya al desarrollo de estas capacidades dentro del ecosistema de seguridad de la inteligencia artificial durante los próximos cinco años.
Además de detectar vulnerabilidades, el equipo realizará evaluaciones de alineamiento, un ámbito destinado a comprobar hasta qué punto el comportamiento de los modelos responde a los objetivos y restricciones establecidos. Asimismo, pondrá a prueba las medidas de protección incorporadas por Anthropic para comprobar su funcionamiento.
Marc Warner, director de Tecnología de Accenture y consejero delegado de Faculty, ha defendido que esta última nació bajo la premisa de que la inteligencia artificial debe ser “segura por diseño”. Según Warner, su integración en Accenture permite ahora trasladar estas capacidades a una escala mayor y con impacto en diferentes sectores.
La inversión conjunta de Accenture y Anthropic sitúa así la evaluación de modelos como una parte específica del proceso de desarrollo de la IA.
Si (
No(
