Anthropic ha identificado y bloqueado varios intentos de utilizar sus modelos de inteligencia artificial para actividades potencialmente peligrosas, entre ellas investigaciones biológicas que podrían haber contribuido al desarrollo de armas. La compañía ha recogido estos casos en su nuevo informe sobre el uso indebido de sus sistemas, en el que también detalla amenazas relacionadas con ciberataques, vigilancia y campañas de influencia política.
Uno de los casos más destacados se produjo cuando un usuario intentó utilizar Claude para elaborar una solicitud de financiación científica relacionada con investigaciones de ganancia de función sobre el virus chikungunya. El proyecto buscaba estudiar mutaciones destinadas a aumentar progresivamente la transmisibilidad del virus y su capacidad para evadir el sistema inmunitario.
Anthropic reconoce que este tipo de investigaciones pueden tener aplicaciones legítimas, como mejorar vacunas o tratamientos, pero también podrían utilizarse para hacer que un patógeno sea más peligroso. Por este motivo, el sistema bloqueó la petición de ayuda para preparar la propuesta.
La compañía explica que sus modelos anteriores, como Claude Opus 4 y Claude Sonnet 4.5, se encontraban por debajo del nivel necesario para proporcionar una ayuda significativa a usuarios sofisticados que quisieran realizar investigaciones biológicas peligrosas. Sin embargo, Anthropic considera que los modelos actuales son capaces de participar en tareas científicas mucho más complejas y que ya no puede garantizar que se encuentren por debajo de ese umbral.
Ante esta evolución, la compañía ha incorporado protecciones más estrictas en sus modelos recientes, restringiendo el acceso a un abanico más amplio de consultas relacionadas con investigaciones biológicas de doble uso. El objetivo es evitar que las nuevas capacidades de la IA puedan facilitar actividades que, aunque tengan una finalidad científica legítima, también puedan emplearse para causar daños.
El informe, que analiza actividades detectadas entre diciembre de 2025 y agosto de 2026, también recoge casos de ciberataques, vigilancia y operaciones coordinadas de influencia. Anthropic asegura que consiguió bloquear las actividades identificadas y que compartió información con autoridades y otros actores de la industria para ayudar a detectar patrones similares.
La publicación llega además un día después de que Jacob Coxon, uno de los investigadores de Anthropic, anunciara su salida de la compañía por sus preocupaciones sobre el ritmo de desarrollo de la inteligencia artificial y los riesgos asociados a sistemas cada vez más capaces.
Anthropic sostiene que estos casos demuestran que la seguridad de los modelos debe evolucionar al mismo ritmo que sus capacidades. La compañía considera que el desafío ya no consiste únicamente en impedir que una IA genere contenido peligroso, sino también en detectar y detener usos reales de sus modelos antes de que puedan convertirse en amenazas.