Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Hay una paradoja que ya no cabe esconder debajo del entusiasmo por la inteligencia artificial. Las compañías que compiten por desplegarla más deprisa reconocen al mismo tiempo que no entienden del todo qué ocurre dentro de sus propios modelos.
En abril de 2025, Dario Amodei, director general de Anthropic, publicó un ensayo en el que admitía que ni siquiera su equipo comprende de forma plena cómo funcionan sus sistemas. La frase pesa más porque llega desde una empresa que disputa terreno a OpenAI y Google DeepMind en una carrera marcada por la velocidad.
Ni sus creadores explican del todo lo que ya han construido
Geoffrey Hinton, premio Nobel de Física en 2024, lo formuló de una manera todavía más desnuda. Él aportó el algoritmo de aprendizaje, dijo, pero lo que sucede después dentro de la máquina no lo entiende nadie, ni siquiera quien puso la primera piedra.
"Ya estamos en la singularidad de la IA" - Sam Altman, consejero delegado de OpenAI
La afirmación de Sam Altman coloca el debate en un lugar incómodo. Si una de las voces más influyentes del sector da por cruzado ese umbral, la pregunta inmediata no es solo qué pueden hacer estas máquinas, sino cuánto comprenden sus propios autores sobre lo que hacen.
Chris Olah, cofundador de Anthropic y responsable de su equipo de interpretabilidad, describe las redes neuronales como un andamiaje sobre el que los circuitos crecen solos. La imagen importa porque desplaza la idea clásica del ingeniero que diseña cada pieza y la sustituye por otra más inquietante, la de un sistema que desarrolla estructuras internas que nadie trazó de forma directa.
Ahí encajan las llamadas capacidades emergentes.
Son habilidades que no estaban presentes a menor escala y aparecen de golpe cuando el modelo crece, sin que nadie las haya programado ni anticipado. En la práctica, eso significa que el aumento de tamaño no solo añade potencia, también puede desencadenar conductas nuevas cuya llegada nadie supo ver con antelación.
Anthropic intenta mirar dentro del modelo mientras corre la carrera
Olah no habla solo en abstracto. Su equipo ha extraído millones de características monosemánticas de Claude 3 Sonnet, un intento de localizar unidades internas que representen significados más definidos dentro del modelo.
Esa búsqueda de inteligibilidad convive con la presión competitiva. Mientras Anthropic trata de abrir alguna ventana al interior de sus redes, también compite con rivales que han hecho del despliegue rápido una prioridad, un equilibrio que recuerda a quien ajusta un motor en marcha sin poder detener el coche.
Además, la figura de Hinton añade otra capa a la discusión. Dejó Google en 2023 para hablar sin las ataduras de un sueldo corporativo y hoy no cobra de ninguna compañía de IA generativa.
Ese detalle no explica por sí solo quién tiene razón, pero sí cambia el lugar desde el que habla. Cuando uno de los pioneros de esta tecnología sostiene que el interior de la máquina sigue siendo opaco, lo hace fuera del paraguas de las empresas que compiten por convertirla en producto.
La contradicción queda así al descubierto. La industria acelera el despliegue de sistemas que muestran capacidades emergentes al mismo tiempo que sus nombres más conocidos admiten lagunas serias sobre su funcionamiento interno.
En ese punto aparece un contraste que ya asomaba en las advertencias de Geoffrey Hinton y también en el papel creciente de Claude dentro de Anthropic. Cuanto más se extienden estos modelos en productos y servicios, más visible resulta que buena parte de su lógica interna sigue pareciéndose a una caja negra.
Y esa es la imagen que permanece, no una promesa futura ni una consigna grandilocuente. Los sistemas crecen, aparecen habilidades nuevas y hasta quienes los levantaron reconocen que, en lo esencial, todavía miran dentro de la máquina como quien observa un idioma que solo entiende a medias.