IBM lanza el primer software que combina seguridad y gobernanza para agentes de IA

La propuesta de IBM refuerza las capacidades de sus plataformas watsonx.governance y Guardium AI Security. Ambas herramientas ahora trabajan de forma coordinada para ayudar a las organizaciones a mantener sus sistemas de IA, incluidos los agentes autónomos, protegidos y alineados con normativas internacionales. Según la compañía, esta integración responde a la creciente necesidad de mantener un control seguro y responsable en un contexto en el que los sistemas de IA se vuelven cada vez más complejos y descentralizados.

Entre las nuevas funcionalidades, destaca la posibilidad de realizar auditorías, activar flujos de trabajo de gobernanza automatizados y aplicar políticas de seguridad personalizadas que analizan tanto las entradas como las respuestas generadas por la IA. IBM también incorpora opciones para detectar agentes ocultos o casos de uso no autorizados en infraestructuras cloud y repositorios de código, en colaboración con la firma AllTrue.ai.

IBM traza el camino hacia la computación cuántica tolerante y anuncia el primer ordenador cuántico a gran escala

watsonx.governance amplía sus capacidades para gestionar agentes de IA durante todo su ciclo de vida

Por otro lado, watsonx.governance amplía sus capacidades para gestionar agentes de IA durante todo su ciclo de vida. Las empresas podrán supervisar métricas como la relevancia, fidelidad o adecuación del contexto, así como identificar el origen de posibles desviaciones. A esto se suman herramientas para auditar interacciones, evaluar riesgos en la incorporación de nuevos agentes y consultar un catálogo de herramientas asociadas, que estará disponible a partir del 27 de junio.

Asimismo, IBM introduce los Compliance Accelerators, un conjunto de marcos regulatorios y estándares internacionales preconfigurados que permite a las organizaciones adaptar sus prácticas a normativas como la Ley de IA de la UE, la ISO/IEC 42001 o el marco NIST AI RMF.

Según representantes de IBM, el objetivo es ofrecer un enfoque integral que permita acelerar la adopción de la IA generativa sin comprometer la seguridad ni la transparencia. En palabras de sus directivos, garantizar la gobernanza desde el inicio será clave para consolidar la confianza a largo plazo en estas tecnologías.