Orden de Trump
Anthropic suspende el acceso a sus dos modelos de IA más avanzados tras vetar EEUU su uso a los extranjeros
¿Qué ha pasado? Apenas dos días después del lanzamiento de 'Fable 5', la Casa Blanca envió una directiva a la empresa diciendo que tal decisión se debía a motivos de "seguridad nacional".
Resumen IA supervisado
La empresa de inteligencia artificial Anthropic ha suspendido sus modelos 'Claude Fable 5' y 'Mythos 5' tras una directiva del Gobierno de EE.UU., que restringe su uso a ciudadanos extranjeros por "seguridad nacional". Aunque la orden no detalla los motivos, Anthropic deduce que se ha encontrado una forma de eludir la seguridad del programa. La empresa defiende que sus modelos ya contaban con salvaguardas para evitar usos indebidos y critica la falta de transparencia del Gobierno. El veto llega poco después del lanzamiento de 'Claude Fable 5', que estaba restringido a organizaciones del 'Project Glasswing' para evitar usos maliciosos.
* Resumen supervisado por periodistas.
La empresa de inteligencia artificial Anthropic ha anunciado la suspensión a sus modelos más avanzados, 'Claude Fable 5' y 'Mythos 5', en cumplimiento de una directiva del Gobierno de EEUU en la que se restringe su uso a ciudadanos extranjeros por motivos de "seguridad nacional".
Así lo han confirmado en un comunicado oficial, donde explican que la orden no detalla los motivos específicos de la restricción aunque deducen que han encontrado una manera para eludir los límites de seguridad del programa.
"Hemos recibido la directiva del Gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que creen haber descubierto algún método para eludir o desbloquear 'Fable 5", han informado.
Anthropic, en su defensa, afirma que el modelo ya tenía estrictas salvaguardas para reducir el riesgo de uso indebido en tareas de ciberseguridad. Además, han criticado que la Casa Blanca solo les notificara las presuntas vulnerabilidades del sistema de manera verbal.
"Como hemos manifestado públicamente, creemos que el Gobierno debería tener la facultad de bloquear despliegues inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios", han denunciado.
El veto gubernamental se produce apenas dos días después del lanzamiento de 'Claude Fable 5' como el primer modelo disponible de la clase 'Mythos'. Es una tecnología de alta capacidad distribuida tan solo de forma restringida para organizaciones asociadas al programa 'Project Glasswing'.
Con tal de evitar usos maliciosos, la empresa había implementado un sistema de contención que limita de manera automática las respuestas ante consultas sensibles sobre ciberseguridad, biología o química.
En logar de procesar dicha información, el sistema redirige de manera interna todas estas solicitudes a un modelo de IA de menor capacidad.
Con este protocolo, buscaban ofrecer asistencia general en tales materias pero bloqueando la entrega de datos críticos que pudieran usarse para ciberataques a gran escala o desarrollar armas biológicas.