Anthropic publicó un informe sobre sus esfuerzos para detectar y prevenir el uso indebido de sus modelos. El informe examinó actividades cibernéticas, de influencia, vigilancia, fraude y desarrollo de armas llevadas a cabo entre diciembre de 2025 y agosto de 2026 por grupos que se cree que contaban con apoyo estatal, delincuentes y organizaciones de propaganda; los modelos más utilizados fueron “Claude Haiku”, “Sonnet” y “Opus”.
La empresa informó que Claude fue utilizado por tres actores en China, dos en Rusia y uno en Yemen en el desarrollo de software para armas convencionales, así como en procesos de inteligencia y adquisición. Un grupo del norte de Yemen realizó con Claude Code trabajos de guiado, navegación, estabilización y simulación para cohetes y misiles guiados; no se hallaron pruebas de que hubiera desarrollado armas operativas y sus cuentas fueron cerradas. También se indicó que otro actor con sede en China utilizó Claude en el software de control de fuego y el plan de pruebas de un sistema antitorpedos, y que se consideró que sus actividades estaban vinculadas a un fabricante de defensa.
Entre los ejemplos cibernéticos figuraron el espionaje ruso, el reconocimiento de redes vinculado a China, delitos con fines financieros y ataques contra estructuras políticas y medios de comunicación en Francia. En junio de 2026 también se prohibió una cuenta que seguía a Irán y al Golfo Pérsico.
Por qué es importante
El informe muestra que las herramientas de inteligencia artificial pueden utilizarse no solo para la generación de contenidos, sino también en ámbitos de alto riesgo como el software de sistemas militares, la inteligencia, las operaciones cibernéticas y el fraude. Este panorama revela que, además de las estructuras vinculadas a Estados y los grupos delictivos, las actividades relacionadas con fabricantes de defensa también entran en el ámbito de supervisión de los proveedores de modelos. Aunque el cierre de las cuentas muestra que Anthropic intenta limitar el uso indebido no solo detectándolo, sino también cortando el acceso, el informe no permite concluir que se hayan bloqueado todas las actividades examinadas. La cuestión fundamental que sigue abierta es qué proporción de usos similares puede detectarse y dentro de qué límites puede supervisarse el uso de modelos, especialmente en el desarrollo de armas y los procesos de inteligencia.
Antecedentes
Anthropic no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 24 noticias en las que aparece este nombre; la más reciente está fechada el 20 de septiembre de 2026.