La empresa tecnológica Anthropic ha tomado la decisión de bloquear intentos de investigadores que buscaban utilizar sus modelos de inteligencia artificial (IA) para estudios que podrían llevar a la fabricación de armas biológicas. En un informe detallado, la compañía describe varios casos de uso indebido de sus modelos de IA y explica que su intervención se debió a la imposibilidad de determinar si las intenciones detrás de estas investigaciones eran legítimas o maliciosas. Anthropic señala que existía el riesgo de contribuir a la creación de patógenos peligrosos, lo que les llevó a actuar con precaución y restringir el acceso a una amplia gama de consultas de investigación biológica de doble uso.
El documento presenta hasta cinco casos en los que la empresa tuvo que evaluar si un uso biológico específico era potencialmente peligroso. Entre estos casos, se destaca un investigador que dedicó varias semanas a planificar experimentos sobre la adaptación de la gripe aviar a mamíferos utilizando el modelo Claude, así como otro que desarrolló un atlas de péptidos de veneno y un sistema para optimizar moléculas dirigidas a objetivos que podrían causar parálisis y alivio del dolor.
Ante la detección de estas actividades, Anthropic suspendió las cuentas de los usuarios implicados e integró los resultados de su investigación en sus medidas de seguridad, normativas y procesos de inteligencia sobre amenazas para mejorar la prevención y detección de situaciones similares en el futuro.
La empresa también espera que la divulgación de estos datos fomente un debate en la industria de la IA y con los gobiernos sobre los riesgos biológicos emergentes y las formas más efectivas de abordarlos. Anthropic reconoce que el mal uso biológico representa uno de los riesgos más serios asociados a los modelos de IA avanzados, manifestando su preocupación por el potencial de estos modelos para aumentar la peligrosidad de patógenos existentes o incluso para crear nuevos.
Adicionalmente, la compañía subraya que, sin las medidas de seguridad adecuadas, las capacidades de estos modelos podrían dar lugar a consecuencias catastróficas, resaltando la importancia de establecer protocolos efectivos para el manejo responsable de la inteligencia artificial en contextos sensibles.
Etiquetas: Inteligencia Artificial, IA, Anthropic
Sin comentarios
Para comentar debes tener una cuenta. ¡Es gratis!
Regístrate gratis Iniciar sesión