Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Hay una escena cada vez más habitual en la ingeniería de software. La inteligencia artificial escribe código que acaba en producción, pero quienes deben aprobarlo no siempre entienden del todo qué hace.
El dato tiene cifra. Un informe de Undo indica que el 35 % del código generado por IA llega a producción sin que los equipos lo comprendan por completo.
La máquina acierta aunque el revisor no sepa explicarla
Jordan Nanos, miembro del equipo técnico de SemiAnalysis, describe esa incomodidad con una imagen muy concreta al hablar del código generado por IA para los procesadores de OpenAI. Cuenta que, al revisarlo línea por línea, la reacción era una cadena de negaciones porque quienes estaban comprobándolo con su equipo no entendían realmente qué hacía el núcleo.
"Vas línea por línea y es como: ‘no, no, no’. La cosa es que los chicos que estaban revisando este código con nosotros no tenían ni idea de lo que hace realmente el núcleo" - Jordan Nanos, miembro del equipo técnico de SemiAnalysis
Ahí aparece la contradicción que recorre ya muchos equipos técnicos. El código puede funcionar, pasar pruebas y rendir bien, y aun así dejar detrás una sensación de caja negra parecida a usar una herramienta eficaz sin poder abrirla.
Nanos no lo plantea como un fracaso automático. También sostiene que la IA entiende el algoritmo, lo prueba y produce núcleos correctos que funcionan muy bien.
Esa idea desplaza una vieja frontera del oficio. Si la máquina manipula el código con eficacia, añade Nanos, quizá el problema ya no sea que un humano lo piense en profundidad, sino decidir cuánto desconocimiento está dispuesto a tolerar un equipo antes de aprobar un cambio.
La productividad cae cuando corregir pesa más que programar
Mientras el debate filosófico crece, las cifras empujan hacia algo mucho más terrenal. Undo señala que el 94 % de los directivos de ingeniería dice haber sufrido pérdidas de productividad al menos una vez en los últimos seis meses por corregir errores en código generado por IA.
No es un matiz menor.
La promesa de estas herramientas consistía en ahorrar tiempo, pero muchas veces el reloj solo cambia de sitio. El esfuerzo sale de la escritura inicial y reaparece en revisión, depuración y validación, una tensión que también asoma en revisiones de código con agentes, donde el cuello de botella deja de ser teclear y pasa a ser entender qué merece confianza.
Samar Abbas, CEO de Temporal, ha decidido responder a ese problema con una regla simple y exigente. Sus ingenieros deben explicar con sus propias palabras las decisiones tomadas por la IA antes de que alguien apruebe un cambio.
"Nos negamos a dejar que la revisión de código se convierta en un vertedero de resultados de modelos sin comprobar" - Samar Abbas, CEO de Temporal
La frase importa porque cambia el papel de la revisión. Ya no basta con que el resultado compile o supere una batería de tests, del mismo modo que un cálculo correcto en una hoja de Excel no elimina la necesidad de saber qué fórmula se ha metido dentro.
Confiar no equivale a delegar del todo
Peter Hill, CTO de Synthesia, lleva esa cautela un paso más allá. Dice que no sabe si alguna vez llegará el momento en que la generación agéntica de código merezca una confianza plena.
La duda no invalida la utilidad de estas herramientas, pero sí recorta la fantasía de una autonomía total. Entre el código que funciona y el código que un equipo puede defender delante de un fallo, una auditoría o una noche de incidencias, sigue habiendo una distancia incómoda.
Al final, la cifra que más pesa quizá no sea el 35 % ni el 94 %, sino otra menos visible. Si un cambio solo puede aprobarse cuando alguien logra explicarlo con palabras propias, la velocidad de la IA deja de medirse en líneas generadas y empieza a medirse en comprensión humana.