Una frase me hizo reflexionar esta semana. Dr.-Ing. Maurice Preidel, un experto en IA y amigo, me lo recordó con razón: descríbele a la IA el resultado deseado, no el camino para llegar a él.
Y la verdad es que muchas veces ya lo hago así. Para mi pequeño proyecto autónomo de ingeniería robótica incluso lo convertí en un principio rector. Aun así, sigo definiendo yo mismo ciertos límites y procesos. Y hay buenas razones para ello, más complejas de lo que parece a primera vista.
Una de ellas: la confianza no surge por sí sola. En mi artículo «La IA en la ingeniería necesita reglas, y confianza» lo formulé así:
La responsabilidad necesita comprensión: ¿qué datos, reglas, contextos, verificaciones y aprobaciones intervinieron en un resultado?
Dicho de otro modo: no tengo que dictarle a la IA cada paso técnico. Pero sí necesito algo así como una “Minimum Viable Governance”: suficiente estructura para que el proceso siga siendo trazable, verificable y responsable.
Pronto hablaré de esto con más detalle con Maurice. Tengo curiosidad por ver en qué coinciden nuestras perspectivas, y en qué no.
El camino hacia la tarea de la IA no siempre tiene que estar prescrito, pero tampoco funciona sin ningún límite. Hace falta un mínimo de estructura para que los resultados sigan siendo trazables y responsables.
