La empresa de inteligencia artificial Anthropic reveló que detectó y bloqueó cinco casos en los que sus modelos fueron utilizados para realizar investigaciones de laboratorio que podrían haber contribuido al desarrollo de armas biológicas.
En un nuevo informe de seguridad, la compañía detalló distintos usos potencialmente peligrosos de sus sistemas de IA, entre ellos actividades relacionadas con armas biológicas y convencionales, ciberseguridad y operaciones de influencia.
Según Anthropic, los casos ocurrieron durante este año y fueron realizados principalmente con versiones anteriores de sus modelos. La empresa señaló que sus sistemas más recientes cuentan con mecanismos de seguridad más sofisticados para dificultar su utilización con fines maliciosos.
Investigan virus para hacerlo más dañino
Entre los casos que más preocupación generaron se encuentra el de un científico vinculado con un instituto de investigación militar que utilizó Claude para solicitar asistencia en la elaboración de una propuesta de investigación sobre el virus chikungunya.
Aunque este tipo de estudios puede tener aplicaciones legítimas, como el desarrollo de vacunas y tratamientos, Anthropic detectó que la investigación buscaba diseñar mutaciones capaces de incrementar la peligrosidad del virus después de pasar repetidamente por animales vivos.
La empresa decidió bloquear las consultas debido al riesgo de que los conocimientos obtenidos pudieran utilizarse para aumentar la capacidad dañina del patógeno.
Otros casos estuvieron relacionados con investigaciones para incrementar la capacidad de contagio de la gripe aviar, modificar el virus de la viruela para hacerlo más resistente al sistema inmunológico y recopilar información sobre toxinas producidas por animales venenosos.
Anthropic reconoció que no en todos los casos pudo determinar si existía una intención maliciosa, por lo que evitó identificar públicamente a los responsables. Además, algunos usuarios accedieron a sus modelos desde países donde el servicio no está disponible mediante revendedores o cuentas falsas.
También detectan uso para fabricar armas
El informe incluye un caso relacionado con el desarrollo de armamento convencional en el norte de Yemen. Anthropic señaló que un grupo considerado terrorista habría intentado utilizar Claude para trabajar en tres proyectos: un cohete guiado cuyo sistema de navegación emplearía un chip de teléfono celular y dos tipos de misiles, uno de ellos con un alcance superior a 2 mil kilómetros.
La compañía advirtió que el uso de modelos de IA por organizaciones terroristas para desarrollar capacidades armamentísticas representa uno de los riesgos más inmediatos.
El nuevo reporte llega en medio de un creciente debate sobre los límites y riesgos de la inteligencia artificial. Anthropic sostiene que sus informes buscan mostrar no sólo los usos que sus modelos pueden tener, sino también las decisiones que las empresas deben tomar para distinguir entre investigaciones científicas legítimas y actividades que podrían representar una amenaza.
El documento también plantea una preocupación mayor: mientras la IA puede acelerar avances científicos y tecnológicos, las mismas capacidades podrían ser aprovechadas por personas, organizaciones criminales o grupos respaldados por gobiernos para desarrollar herramientas con consecuencias potencialmente graves.