Anthropic detectó intentos de usar su IA para investigar armas biológicas y guiar misiles

Anthropic, la empresa que desarrolla el asistente de inteligencia artificial Claude, publicó el 10 de septiembre su informe sobre usos indebidos de su tecnología. El documento cubre lo que la compañía detectó y frenó entre diciembre de 2025 y agosto de 2026, y el apartado que más preocupación generó es el de las armas biológicas.

Según el informe, hubo al menos cinco intentos de usar Claude para investigaciones que podrían servir al desarrollo de armas biológicas. El caso más detallado ocurrió en mayo: un científico pidió ayuda para redactar una solicitud de financiamiento para un trabajo que buscaba introducir mutaciones en el virus chikungunya para volverlo más dañino y capaz de infectar de forma repetida a animales vivos. Anthropic señaló que la investigación parecía vinculada a un instituto de investigación militar.

Quienes estaban detrás de estos pedidos esquivaron los bloqueos geográficos de la plataforma e intentaron ocultar el verdadero objetivo de sus consultas. La empresa suspendió las cuentas y reforzó los controles sobre las preguntas vinculadas a investigación biológica de doble uso.

El informe también documenta seis casos relacionados con armas convencionales: tres en China, dos en Rusia y uno en Yemen, con consultas sobre armas de fuego, misiles, drones armados y bombas. En el caso de Yemen, actores del norte del país usaron Claude para desarrollar software de guiado de misiles. Anthropic no los identificó de forma directa, pero la descripción apunta a los rebeldes hutíes, respaldados por Irán.

Hubo además usos con fines políticos. Medios estatales rusos recurrieron a Claude para producir propaganda disfrazada de periodismo independiente, con acusaciones falsas sobre las elecciones en Moldavia, y actores ligados a los gobiernos de China e Irán lo usaron para vigilar a disidentes y a comunidades de la diáspora.