Anthropic ha detenido el lanzamiento público de su modelo Claude Mythos Preview. La compañía considera que sus capacidades son demasiado peligrosas para la sociedad general.
En lugar de liberarlo, la empresa lo utiliza dentro de un programa defensivo de ciberseguridad con un grupo reducido de socios. El sistema localizó fallos en el núcleo de Linux y una vulnerabilidad de 27 años en OpenBSD. Estos sistemas operan servidores mundiales e infraestructuras críticas.
La valoración supera los 900.000 millones de dólares
Anthropic estudia valorar Mythos en más de 900.000 millones de dólares. Esta cifra colocaría a la startup por delante de OpenAI como la compañía de inteligencia artificial más valiosa del sector.
El pasado lunes, la firma anunció una empresa conjunta con Blackstone, Hellman & Friedman y Goldman Sachs. El compromiso de capital asciende a casi 1.500 millones de dólares. Su objetivo es integrar Claude en las operaciones de empresas medianas y pequeñas a nivel global.
"Es una opinión que no me gusta dar, porque las implicaciones son tan enormes que me siento abrumado por ellas, y no estoy seguro de que la sociedad esté preparada para los cambios que implicaría lograrlo." - Jack Clark, cofundador de Anthropic
Jack Clark calcula que existe más del 60 % de posibilidades de que antes de finales de 2028 surja un sistema capaz de entrenar de forma autónoma a su propio sucesor sin intervención humana significativa.
Washington estudia vetar modelos antes de su lanzamiento
La Agencia de Seguridad Nacional de Estados Unidos ya tiene acceso a Mythos y realiza pruebas con el modelo. La Casa Blanca analiza una orden ejecutiva para supervisar y vetar nuevos sistemas de inteligencia artificial antes de su salida al mercado. Esta medida modificaría la estrategia de cero regulaciones mantenida hasta ahora por Donald Trump.
Dean Ball y Ben Buchanan, expertos en inteligencia artificial vinculados a los dos grandes partidos de Estados Unidos, alertan sobre las ambiciones chinas. China posee objetivos documentados para usar la IA con ventaja militar y de inteligencia.
Si Pekín hubiera creado Mythos, habría empleado la herramienta para hallar vulnerabilidades en sistemas gubernamentales estadounidenses. El almirante al mando del Comando Indo-Pacífico afirmó el mes pasado que el gobierno chino usaría la IA avanzada para reforzar su capacidad bélica.
Ball y Buchanan señalan que Estados Unidos y sus aliados democráticos mantienen una capacidad de procesamiento casi 100 veces superior a la de China. Prácticamente todos los sistemas de inteligencia artificial se entrenan con chips estadounidenses.
Europa exige acceso temprano para evaluar riesgos
El Gobierno español advierte que la habilidad de Mythos para encontrar puertas traseras afecta a casi todos los sectores económicos. El impacto se extiende a infraestructuras esenciales.
Carlos Cuerpo, vicepresidente y ministro de Economía de España, sostiene que la Unión Europea necesita un acceso temprano a Mythos. Debe evaluar qué vulnerabilidades poseen los sistemas financieros europeos. Europa no puede ser una región de segunda.
"Nos encontramos en un vacío regulatorio total. Y sabemos lo que ocurre cuando hay una amnistía corporativa completa: aparece la talidomida , las tabacaleras incitan a los niños a fumar, el amianto causa cáncer de pulmón. Así que resulta irónico que su propia resistencia a tener leyes que regulen el uso de la IA ahora se les esté volviendo en contra." - Max Tegmark, físico del Instituto de Tecnología de Massachusetts y fundador del Future of Life Institute
En 2023, Tegmark ayudó a organizar una carta abierta firmada por más de 33.000 personas, incluido Elon Musk. Solicitaban una pausa en el desarrollo de la inteligencia artificial avanzada.
Los expertos Dean Ball y Ben Buchanan proponen que Estados Unidos coopere con China y otros competidores frente a riesgos catastróficos. Amenazas como el posible uso terrorista de armas biológicas basadas en Inteligencia Artificial requieren acuerdos internacionales.
China se quejará de que las restricciones estadounidenses la frenan. No obstante, Estados Unidos ha firmado repetidamente acuerdos con países hostiles para controlar tecnologías peligrosas, como las armas nucleares, mientras les negaba acceso a sistemas de vanguardia. La administración Trump y el Congreso deberían aplicar esta misma lógica a la Inteligencia Artificial.