La empresa Anthropic informó el 10 de septiembre que ha evitado muchos casos de uso de modelos de inteligencia artificial (IA) de la empresa para actividades de vigilancia, al tiempo que advierte sobre la situación de aprovechar la IA para rastrear comunidades minoritarias y disidentes, informó AFP.
Según el informe sobre el abuso del modelo de la aerolínea, los incidentes fueron detectados y neutralizados en el período de enero a julio de 2026, originados en varias áreas, incluidas Irán y África Occidental.
En un caso, sujetos en Irán desarrollaron un método de identificación personal a través de sus cuentas de redes sociales.
En otro caso, un contratista que trabajaba para la agencia de seguridad nacional de Malí utilizó a Claude "para diseñar software de plataforma para actividades de recopilación de inteligencia".
La IA se está utilizando en lugar de un equipo de ingenieros", señala el informe.
Anthropic dijo que también ha impedido los esfuerzos de los usuarios para diseñar armas, llevar a cabo investigaciones biológicas sospechosas y crear trucos de citas fraudulentas.
