Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Yoshua Bengio ha puesto nombre a un miedo que hasta hace poco sonaba a ciencia ficción.
El investigador canadiense de 62 años, una de las figuras más influyentes de la inteligencia artificial, ha advertido que el siguiente gran riesgo podría ser una dictadura de la IA. La frase no llega en un momento cualquiera, porque el debate ya no gira solo alrededor de cuánto hacen estas herramientas, sino de quién vigila a quién cuando empiezan a tomar decisiones con efectos reales.
Bengio quiere que unos modelos vigilen a otros
Su respuesta a ese problema se llama LawZero, una iniciativa pensada para desarrollar modelos científicos orientados a supervisar otros sistemas. La idea introduce una separación clara entre investigación y negocio, algo especialmente sensible cuando la misma tecnología que promete eficiencia también concentra poder.
LawZero plantea pruebas antes del despliegue y supervisión externa en usos de alto impacto.
Ahí aparece uno de los puntos más delicados. La propuesta también fija límites para esos usos de alto impacto y defiende que los modelos de investigación no queden mezclados con los modelos comerciales, como si el laboratorio y el escaparate necesitaran puertas distintas para no confundirse.
Google DeepMind anticipa capacidades mientras OpenAI pierde confianza
Mientras tanto, el clima dentro del sector añade más tensión al diagnóstico. El texto sitúa en el mismo plano las capacidades que anticipa Google DeepMind y la pérdida de confianza dentro de OpenAI, una combinación que recuerda algo incómodo, cuanto mayor parece el poder técnico, más visible resulta la fragilidad institucional.
No es una discusión abstracta.
Cuando una empresa anticipa capacidades cada vez mayores y otra atraviesa una erosión de confianza, el centro del debate cambia de sitio. Ya no basta con preguntar si un sistema puede hacer algo, también hay que preguntar quién decide cuándo sale, con qué controles y bajo qué margen de error, como ya ocurrió en la revisión previa de modelos antes de llegar al mercado.
Europa ya discute dónde acaban los datos y dónde empiezan los derechos
En Europa, ese conflicto aterriza sobre cuestiones muy concretas. El uso de estas herramientas se conecta con la discusión sobre derechos, datos y supervisión judicial, tres palabras que parecen jurídicas pero que en realidad describen escenas muy cotidianas, desde una decisión automatizada hasta la dificultad de impugnarla cuando nadie entiende bien cómo se tomó.
Esa preocupación ya ha aparecido en debates sobre multas por vulnerar derechos y sobre el papel de la supervisión humana cuando una herramienta afecta a personas concretas. Bengio empuja la misma pregunta desde otro ángulo, si las máquinas ganan capacidad a gran velocidad, los controles no pueden llegar siempre después.
Por eso su advertencia pesa más de lo que sugiere una sola frase. No habla solo de un riesgo lejano, también señala una contradicción muy presente, la tecnología avanza hacia sistemas con más autonomía al mismo tiempo que gobiernos, empresas y tribunales siguen discutiendo quién responde cuando esa autonomía toca derechos, datos o justicia.