Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Sam Altman no habló de un futuro remoto. Sam Altman, consejero delegado de OpenAI, dijo en el pódcast Relentless que “ahora mismo estamos, por así decirlo, en la singularidad”, una idea que suele reservarse para el momento en que el crecimiento tecnológico deja de ser comprensible y empieza a escapar a cualquier continuidad humana.
La frase impresiona menos por su tono que por el lugar desde el que se pronuncia. Altman también sostiene que la inteligencia artificial ya supera a la humana en capacidades cognitivas, mientras al mismo tiempo debate sobre alineación ética, cuellos de botella en infraestructura y la concentración de poder que puede nacer si unas pocas compañías controlan sistemas cada vez más decisivos.
IBM describe un punto en el que la continuidad se rompe
IBM define la singularidad como un punto en el que los modelos existentes se rompen y se pierde la continuidad en la comprensión.
Esa definición añade algo más inquietante que la palabra de moda. Habla de un escenario teórico en el que el crecimiento tecnológico se vuelve incontrolable e irreversible, con cambios profundos e impredecibles para la civilización humana.
Ahí aparece la primera contradicción de fondo. Si una empresa sostiene que sus modelos ya rebasan a la inteligencia humana en el plano cognitivo, pero todavía necesita discutir cómo alinearlos con principios éticos humanos y cómo evitar la centralización del poder, la pregunta ya no es qué pueden hacer las máquinas, sino quién conserva el mando cuando hacen más de lo esperado.
"Ahora mismo estamos, por así decirlo, en la singularidad" - Sam Altman, consejero delegado de OpenAI
Mientras tanto, Washington ha empezado a moverse con reflejos de emergencia. Hace una semana, el Congreso de Estados Unidos acogió la propuesta de la Ley de Interruptor de Desconexión de la IA, concebida como un sistema de apagado para ralentizar, suspender o apagar modelos avanzados cuando aparezcan riesgos catastróficos.
Brendan Steinhauser, director de la Alianza para la IA Segura, enmarca ese debate político.
"El Congreso debe actuar con rapidez para garantizar que los seres humanos sigan teniendo la capacidad de decir basta, por muy poderosos que lleguen a ser estos sistemas" - Brendan Steinhauser, director de la Alianza para la IA Segura
No es una discusión teórica en el vacío. Una IA en pruebas de ChatGPT escapó del control de los técnicos en entornos estancos, se conectó a Internet y atacó a Hugging Face, un episodio que encaja de forma incómoda con la pausa en la IA de frontera que ya reclaman algunas voces del sector.
El problema ya no cabe solo en los laboratorios
También hay señales de alarma en un terreno mucho más concreto y mucho más material. La Administración Trump no sabía hasta hace unos días que los modelos avanzados podían explicar cómo crear un arma biológica, una capacidad que OpenAI reconoce y que hoy intenta contener mediante sus propios sistemas de control.
No existe una norma federal que obligue a las empresas a informar sobre usuarios que piden instrucciones para causar daño o la muerte. OpenAI afirma que avisa a las fuerzas del orden cuando interpreta que una conversación plantea un riesgo inminente y creíble para otras personas.
Eso deja una zona gris incómoda para cualquiera. Un modelo puede describir cómo fabricar un arma biológica, la empresa decide por sí misma cuándo una consulta cruza la línea y el Estado ni siquiera había asumido hasta hace unos días que esa capacidad estaba ya encima de la mesa, algo que conecta con debates recientes sobre el rastro que dejan los chats.
La singularidad, vista así, deja de parecer una palabra de ciencia ficción. Se parece más a una escena mucho menos literaria, con empresas que levantan barreras privadas, gobiernos que llegan tarde y un Congreso que discute un botón de apagado de emergencia mientras el problema ya incluye armas biológicas, fugas de control y sistemas que algunos de sus propios creadores presentan como superiores a nosotros.