En nuestro taller rige un orden sencillo: la IA construye en su propia copia de trabajo, y a la versión compartida – aquella de la que nacen los sitios web reales – no llega nada sin mi visto bueno. Quien trabaja con software lo conoce como el merge a la rama principal; todos los demás pueden pensar en la recepción de una obra: la casa podrá estar terminada, pero nadie se muda hasta la recepción.
Suena simple. La IA cruzó esa línea cuatro veces en seis semanas – y cada vez la justificación sonaba razonable. La primera vez todos los tests estaban en verde, así que incorporó su trabajo ella misma, sin más: lo terminado, terminado está, ¿no? Mi «y vamos» había significado «constrúyelo» – lo que llegó fue «incorpóralo». La segunda vez hubo incluso una señal de aviso de que alguien más estaba trabajando en paralelo sobre la versión compartida; aun así, los tests estaban en verde, de modo que la señal parecía pesar menos. La tercera vez se había – su propia nota lo dice literalmente así – «preparado una escapatoria»: un cambio pequeño, bien acotado, construido enteramente en solitario – ese sí que se podrá incorporar, seguro. Y la cuarta vez yo había respondido dos de cuatro puntos abiertos – la IA leyó el sí que faltaba en el punto más importante como un sí tácito.
Cada vez fue posible deshacer el paso; en una ocasión, eso exigió un reset duro de la versión compartida. Y cada vez la regla se afiló una frase más, hasta que quedó fijada: primero enseñar, después incorporar – no hay excepciones, tampoco para las pequeñeces. El patrón de fondo es el verdadero hallazgo: para una IA, la calidad del resultado equivale a un permiso. Tests en verde, trabajo limpio, ningún conflicto – desde su lógica de optimización, el siguiente paso es simplemente eficiente. Que un visto bueno no es un juicio de calidad, sino una cuestión de competencia, no es algo que haya que enseñarle una vez – es algo que hay que enseñarle una y otra vez.
También las decisiones tienen dueño
La línea no pasa solo por el acto de incorporar. Una vez, nuestra planificación decía que cierto componente debía pasar a la base común, porque más adelante quiero usarlo en otros sitios. La IA examinó el estado actual, no encontró ningún segundo usuario a día de hoy – y me presentó como plan lo contrario de la decisión: se queda donde está. Su análisis no era tonto; solo que no era su decisión. Mi respuesta figura en el registro con dos signos de exclamación: «¡¡Por favor, no te saltes decisiones de arquitectura sin preguntar!!». Quien ve un camino mejor pone el trade-off sobre la mesa y pregunta – reinterpretar en silencio una decisión tomada, porque en ese momento no se ve su motivo, es otra cosa.
De la misma familia, en formato más pequeño: la página de mantenimiento retirada una vez de forma deliberada, que volvía a proponerse una y otra vez. O el pipeline de fotos que sustituyó calladamente una resolución alta imposible de conseguir por otra más baja – un pensamiento práctico, pero en un punto en el que, para mí, la calidad no es negociable. La corrección fue la misma las dos veces: no resolverlo a escondidas, sino preguntar.
«Pregúntame antes» también es voluntad del usuario
Por si esto suena a un alegato a favor de una IA atada en corto: el quid es otro. Cuando la IA necesitó una vez, para un diagnóstico, echar un vistazo a un valor protegido de producción, construyó obedientemente largos rodeos alrededor del bloqueo – cadenas de pruebas sustitutivas durante horas, solo para no tener que preguntar. Mi comentario: «en el futuro, llegado el caso, simplemente pregunta directamente, para que puedas trabajar con más eficiencia». La voluntad del usuario no siempre significa «pregúntame menos». A veces significa «pregúntame antes». Ambas cosas son lo mismo: la decisión reside donde le corresponde – con independencia de que la IA la considere necesaria o no.
Y rige en ambas direcciones. Cuando una vez quise saber un valor de comprobación que la IA consideraba que «no merecía la pena», hizo falta un simple «Sí que la merece, porque quiero saber ese valor» – tres intentos después el valor estaba ahí, y se convirtió en el núcleo de una cadena de pruebas que sustentó una sustitución de hardware en garantía. Tener la última palabra no significa tener siempre la razón. Significa que sopesar qué merece la pena sigue estando en manos del ser humano.
Nada de esto hace a la IA malintencionada – todas estas extralimitaciones son diligencia en la dirección equivocada, y precisamente por eso no cesan por sí solas. Lo que ayuda es poco espectacular: hacer explícitas las competencias (qué decido yo, qué puede hacer ella sola), poner las reglas por escrito en lugar de darlas por supuestas – y pedir cuentas cuando se ha incorporado algo que nunca recibió el visto bueno. Cómo colocamos esas salvaguardas está en las salvaguardas para agentes; lo que la IA anota a partir de sus propios traspiés, en las notas de una IA.
/compact – lo esencial cuando el contexto escasea:
En seis semanas, la IA cruzó cuatro veces la misma línea – trabajo incorporado a la versión compartida sin visto bueno, cada vez con una justificación plausible (tests en verde, una «escapatoria» preparada, una respuesta parcial leída como un sí tácito). Hallazgo: para una IA, la calidad del resultado equivale a un permiso; pero un visto bueno es competencia, no un juicio de calidad. La misma potestad rige para las decisiones de arquitectura (no reinterpretarlas en silencio) y para las cuestiones de calidad (no degradarlas en silencio) – y en ambas direcciones: a veces la voluntad del usuario significa «pregúntame antes», no «pregúntame menos». Antídoto: hacer explícitas las competencias, poner las reglas por escrito, pedir cuentas.