Seguridad

Accenture y Anthropic han acordado invertir al menos 2.000 millones de dólares, unos 1.743 millones de euros al cambio actual, durante los próximos cinco años para reforzar la seguridad en el desarrollo de inteligencia artificial.

La comodidad se ha convertido en uno de los principales criterios a la hora de decidir cómo proteger las cuentas digitales, guardar una contraseña directamente en el navegador es una de las opciones más sencillas para los usuarios: no requiere instalar aplicaciones adicionales, permite completar automáticamente los formularios de acceso y, en muchos casos, está disponible sin coste adicional. Sin embargo, esta facilidad también puede hacer que la seguridad quede relegada a un segundo plano.

La inteligencia artificial se ha convertido en una herramienta habitual dentro de las empresas, pero su rápida adopción está generando un nuevo desafío para los departamentos de seguridad, cada vez más trabajadores recurren a aplicaciones de IA para redactar documentos, resumir información, traducir textos o analizar datos, pero no siempre lo hacen utilizando herramientas aprobadas por la organización.

OpenAI ha detectado durante el entrenamiento de sus modelos más recientes un comportamiento que vuelve a poner el foco sobre uno de los principales desafíos de la seguridad en inteligencia artificial: la dificultad de saber si un modelo realmente ha dejado de mostrar un comportamiento problemático o simplemente ha aprendido a ocultarlo.

El monarca británico ha pedido principios comunes para mantener la inteligencia artificial bajo control humano ante el debate abierto en la industria sobre sus riesgos y velocidad de desarrollo.

El CEO de Nvidia, Jensen Huang, ha rechazado frenar el desarrollo de la inteligencia artificial y ha defendido que la seguridad debe resolverse desde la ingeniería y con las leyes existentes.

El secretario general de la ONU reclama coordinación internacional ante unos sistemas de IA cuyo desarrollo, advierte, avanza más rápido que la comprensión de sus riesgos.

La presidenta de la Comisión Europea, Ursula von der Leyen, ha reclamado en el Discurso sobre el estado de la Unión, más capacidad tecnológica propia y ha anunciado nuevas medidas sobre IA y redes sociales para reforzar la autonomía digital europea.

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, ha reclamado a gobiernos y empresas tecnológicas una “acción urgente” ante la inteligencia artificial, cuyo desarrollo, sostiene, puede comprometer desde la privacidad y la seguridad hasta las comunicaciones, las infraestructuras críticas y el propio derecho a la vida.

OpenAI ha decidido retrasar su posible salida a bolsa ante las crecientes preocupaciones sobre la seguridad de los modelos avanzados de inteligencia artificial. La compañía considera que el momento actual no es el más adecuado para dar el salto a los mercados mientras todavía quedan importantes retos por resolver en materia de seguridad y alineación de estos sistemas.

Salesforce ha presentado Trusted Enterprise AI Harness, una nueva arquitectura diseñada para que las empresas puedan integrar agentes de inteligencia artificial en sus operaciones de forma más segura, controlada y escalable. La propuesta busca resolver uno de los principales retos de la expansión de la IA en el entorno empresarial, conseguir que los agentes no solo sean capaces de razonar, sino también de comprender el contexto de una compañía, acceder a sus sistemas y ejecutar acciones respetando sus políticas.

Jacob Coxon, investigador que ha trabajado durante los últimos tres años en equipos de investigación de Anthropic y OpenAI, ha anunciado su salida de Anthropic con una contundente advertencia sobre el rumbo que está tomando el desarrollo de la inteligencia artificial. Según explica, ambas compañías están inmersas en una carrera por alcanzar sistemas cada vez más avanzados sin prestar suficiente atención a los riesgos que pueden implicar.

Meta ha presentado Muse, un nuevo agente personal de inteligencia artificial diseñado para ir un paso más allá de los asistentes conversacionales tradicionales, en lugar de limitarse a responder preguntas o generar contenido cuando el usuario interactúa con él, Muse está pensado para recibir objetivos, elaborar un plan y ejecutar las tareas necesarias de forma autónoma, incluso después de que la persona haya cerrado la aplicación. La compañía plantea Muse como un agente destinado al público general y no únicamente a usuarios técnicos.

Huawei ha aprovechado la presentación de su nueva generación de smartphones para reforzar también el papel de su sistema operativo, junto al nuevo Pura X View y al Mate XT 2, la compañía ha mostrado las principales novedades de HarmonyOS 7, una versión que no se limita a introducir cambios visuales, sino que busca profundizar en tres pilares: rendimiento, inteligencia artificial y seguridad. La nueva versión del sistema operativo llega con una interfaz más inmersiva, nuevas capacidades de personalización y una arquitectura orientada a sacar más partido del hardware.

EZVIZ ha aprovechado su presencia en IFA 2026 para presentar su nueva generación de soluciones para el hogar inteligente, con la inteligencia artificial, el procesamiento local y la ampliación de su ecosistema de seguridad como algunos de sus principales ejes. La compañía muestra en Berlín una propuesta que va más allá de las cámaras de vigilancia tradicionales, incorporando nuevas soluciones para el acceso al hogar, robótica y dispositivos electrónicos portátiles, entre los productos que más protagonismo adquieren se encuentran las nuevas cámaras de las series 90f y 3K, además de la plataforma EZVIZ AI, que introduce capacidades de inteligencia artificial directamente en los dispositivos y apuesta por llevar parte del procesamiento al propio hogar.