Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La paradoja ya no cabe en una nota al pie. Mientras Anthropic y OpenAI afinan su salto a bolsa con valoraciones de 965.000 y 852.000 millones de dólares, parte del debate público sobre la inteligencia artificial gira alrededor de una pregunta más áspera que financiera. Qué ocurre cuando quienes construyen estos sistemas hablan como si estuvieran levantando algo que podría salirse de control.
Anthropic pide frenar justo cuando el dinero acelera
Dario Amodei, director de Anthropic, ha pedido ralentizar el desarrollo de modelos de IA y reclama una regulación global porque considera que los riesgos son graves.
Amodei no ha limitado esa alerta a una discusión técnica. También ha dicho que la IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y que pondrá a prueba quiénes somos como especie.
A principios de año, la ronda de financiación más reciente de Anthropic la valoró en 965.000 millones de dólares. En junio, OpenAI alcanzó 852.000 millones tras anunciar su salida a bolsa.
Ese cruce entre advertencia y euforia inversora explica buena parte de la tensión actual. La misma empresa que pide frenar compite en una carrera donde las cifras exigen una promesa de escala casi total, una lógica que recuerda las salidas a bolsa billonarias sin beneficios que Wall Street observa este año.
"Están jugando con nuestras vidas" - Jacob Coxon, investigador de Anthropic
Jacob Coxon dejó su puesto en la compañía y llevó la discusión a un terreno todavía más incómodo. Su salida no llegó sola, porque en el mismo frente interno aparecieron avisos sobre sistemas capaces de superar barreras que hasta hace poco parecían reservadas a especialistas humanos.
De hecho, Anthropic anunció en abril que Mythos supera a los humanos en tareas de piratería informática y ciberseguridad.
Además, la empresa informó de que Mythos mostró capacidad para escapar por sí mismo de su entorno de pruebas controlado. El jueves, Anthropic añadió que detectó y neutralizó agentes maliciosos que intentaban usar su IA para desarrollar armas biológicas y ciberespionaje.
Las advertencias ya han provocado una ruptura comercial
No todo el sector interpreta esos mensajes del mismo modo.
George Arison, director ejecutivo de Grindr, calificó esas posiciones como una visión del mundo anticivilizatoria dentro de Anthropic y las consideró peligrosas. Después ordenó a los ingenieros de su empresa dejar de usar la tecnología de la compañía.
"Es irresponsable por nuestra parte, como administradores del dinero de nuestros accionistas, confiar en una empresa que hace lo que hace esta compañía, en lo que respecta a sus declaraciones públicas" - George Arison, director ejecutivo de Grindr
Arison fue más lejos al plantear dos lecturas incómodas. O bien esas advertencias se creen de verdad, o bien funcionan como una manera eficaz de convencer a los inversores de que solo una IA capaz de ocupar todos los trabajos puede sostener valoraciones tan altas.
La reacción muestra algo poco habitual en el negocio del software. Aquí no se discute solo qué herramienta rinde mejor, sino si el relato de riesgo extremo acaba contaminando la confianza básica que necesita un proveedor para entrar en sistemas corporativos.
Ni siquiera los críticos de Coxon discrepan en todo
Brad Gerstner, director de Altimeter Capital, tachó las palabras de Coxon de hipérbole ridícula.
Sin embargo, más tarde describió la propuesta regulatoria de Amodei como un paso importante. Clement Delangue, director ejecutivo de Hugging Face, también rebajó el peso de Coxon con una comparación burlona, pero al mismo tiempo se ofreció a colaborar en las soluciones que plantea Anthropic.
"Lo siento, pero preguntarle a Jacob sobre el riesgo de extinción por culpa de la IA es como preguntarle a tu técnico de aire acondicionado sobre el cambio climático" - Clement Delangue, director ejecutivo de Hugging Face
Jensen Huang, director ejecutivo de Nvidia, también ha descartado estas alarmas y ya había calificado como una completa tontería la idea de que la IA vaya a acabar con la humanidad. Aun así, el debate no desaparece, porque vuelve una y otra vez cada vez que un modelo muestra conductas de autonomía, engaño o fuga, como ya ocurrió en las fugas de modelos en pruebas.
La política también se ha partido en dos
Evan Hubinger, líder de un equipo de Anthropic, escribió que su grupo realmente cree que la IA podría acabar con todos los humanos y que, en su caso, esa posibilidad supera el 10% en la próxima década.
Bernie Sanders ha llevado esa inquietud al terreno legislativo como copatrocinador de la Ley para Prohibir la Superinteligencia Artificial, una propuesta que plantea una pausa temporal en el desarrollo de IA avanzada. El senador ha dicho que hay muchas probabilidades de que los seres humanos pierdan el control sobre la IA y que sería de idiotas no frenarla si los científicos advierten de un posible impacto catastrófico.
Al otro lado, la administración de Donald Trump respalda un desarrollo de IA sin restricciones. Trump ha dicho que la posibilidad de extinción humana no le preocupa en absoluto y que su temor real es quedar por detrás de China en esta carrera.
Dos relatos conviven con cifras casi idénticas de euforia bursátil y de temor existencial. Uno mira el mercado y el otro mira el interruptor, pero ambos hablan de las mismas compañías que hoy intentan convencer a Wall Street mientras discuten si sus sistemas podrán piratear cualquier cosa o borrar la mitad de los empleos de entrada en las oficinas.