La empresa de inteligencia artificial Anthropic ha revelado que ha frustrado varios intentos en los que se intentó utilizar sus modelos de IA para llevar a cabo investigaciones que podrían facilitar el desarrollo de armas biológicas. En su informe, la compañía también señala que Irán empleó su modelo de IA denominado Claude para planificar potenciales ataques contra Estados Unidos. Anthropic indicó que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si las investigaciones tenían intenciones legítimas o maliciosas, optando por el bloqueo ante el riesgo que implicaban.
La compañía, con sede en California, destacó que, aunque las evaluaciones de capacidad son útiles, no pueden demostrar de manera concreta que tales capacidades se vayan a utilizar para desarrollar armas biológicas en la práctica. Hasta la fecha, Anthropic ha negado tener conocimiento de que alguna empresa privada haya compartido públicamente pruebas sobre el posible mal uso de sus plataformas para tales fines.
Además, Anthropic presentó en otro comunicado una extensa lista de casos detectados en los últimos ocho meses, donde se evidenció el uso indebido de sus modelos de IA, incluido el chatbot Claude, en países como Irán, China, Rusia y Yemen. Este informe se publica en un contexto de creciente preocupación entre expertos del sector tecnológico sobre el uso dual de la IA, que puede ser útil en investigaciones biológicas, pero también ser utilizada para fines peligrosos.
La empresa ha desarrollado sistemas de detección para identificar y bloquear usos que puedan representar un riesgo en sus modelos de IA. En el informe, se detalla que actores vinculados al Gobierno de Irán usaron Claude para apoyar operaciones de vigilancia, incluyendo la planificación de ataques contra objetivos estadounidenses y la propaganda. La compañía subraya que estas herramientas pueden facilitar la identificación de objetivos y procesar grandes volúmenes de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los gobiernos optimizar sus sistemas de vigilancia existentes.
En el caso específico de Irán, se menciona que los usuarios utilizaron mecanismos para eludir las restricciones de acceso a Claude, que no está disponible oficialmente en el país. Para ello, emplearon redes privadas virtuales y números de teléfono extranjeros para acceder al servicio. Anthropic también informó que un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para generar recomendaciones de ataques contra las fuerzas navales estadounidenses en la región.
Etiquetas: Inteligencia Artificial, Estados Unidos, IA, Anthropic
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión