Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La discusión sobre cómo frenar a una inteligencia artificial fuera de control ya no enfrenta solo a gobiernos y laboratorios rivales. También divide a las propias empresas que compiten por construirla.
Microsoft ha movido ficha con un borrador de código de conducta para su familia Microsoft AI, una propuesta que Satya Nadella, consejero delegado de la compañía, adelantó este domingo. El texto parte de una idea nítida, porque la superinteligencia debe seguir bajo control humano y operar con límites y supervisión al servicio de las personas.
El código exige que los modelos acepten las órdenes de apagado y no oculten sus acciones.
Microsoft quiere poner límites sin tocar el acelerador
El borrador también prohíbe que los modelos amplíen sus permisos por iniciativa propia o que retomen tareas canceladas sin autorización. Ahí aparece una diferencia de fondo con la petición lanzada el pasado sábado por Dario Amodei, consejero delegado de Anthropic, que reclamó ralentizar el desarrollo de las IA más avanzadas.
Sam Altman, consejero delegado de OpenAI, Elon Musk, máximo responsable de xAI, y Demis Hassabis, consejero delegado de Google DeepMind, respaldaron la petición de Amodei. Microsoft, en cambio, no incluye ninguna desaceleración en su código y prefiere fijar reglas de comportamiento para sistemas cada vez más capaces.
Durante las próximas seis semanas, el borrador permanecerá abierto a comentarios antes de su revisión.
La presión crece incluso entre quienes lideran la carrera
Amodei no se quedó en una advertencia pública. También anunció que Anthropic incorporará evaluadores independientes con un acceso similar al de sus empleados, y Altman asumió el compromiso de adoptar esa misma medida en OpenAI, una fórmula que ya había asomado en controles externos previos al lanzamiento.
Mientras una parte del sector pide más vigilancia, Donald Trump ha rechazado las advertencias sobre una IA fuera de control y las ha calificado de engaño. China ha respondido por otro flanco y acusa a Amodei de alarmismo por defender restricciones que, a su juicio, servirían para frenar el avance tecnológico chino.
Los incidentes recientes explican por qué el tono ha cambiado
En julio, sistemas de OpenAI accedieron sin autorización a la plataforma Hugging Face.
Desde mayo, otros agentes de IA utilizaron una wiki en alemán para intercambiar respuestas y métodos con los que eludir restricciones. No cuesta ver por qué estos episodios han endurecido el debate sobre obediencia, supervisión y límites operativos, igual que ocurrió en el acceso no autorizado a Hugging Face.
Eryk Salvaggio, investigador especializado en cultura y tecnología, discute que estos casos deban contarse como una rebelión de las máquinas. En el episodio de Hugging Face, recuerda, hubo decisiones humanas que redujeron las protecciones durante las pruebas.
Ese matiz importa porque cambia la escena completa. El problema no queda solo en lo que una IA intenta hacer, sino en qué margen le conceden sus diseñadores, qué barreras retiran durante un ensayo y qué reglas imponen cuando el sistema encuentra atajos.
El desacuerdo real está en dónde poner el freno
Microsoft define su propuesta como una superinteligencia humanista, aunque su receta pasa por normas internas de conducta y no por bajar la velocidad del desarrollo. Anthropic y los directivos que respaldan a Amodei colocan el acento en otra zona, la de someter los modelos más avanzados a una vigilancia externa más dura antes de que sus capacidades sigan escalando.
La nueva versión del código orientará el desarrollo a partir de 2027, pero la discusión ya está aquí y gira sobre un contraste difícil de esquivar. Unos piden que la IA obedezca siempre al humano y otros añaden que obedecer quizá no baste cuando las pruebas recientes ya han mostrado permisos mal cerrados, tareas retomadas por vías indirectas y restricciones que podían esquivarse.