¿Quién firma el error?

17 Noviembre 2026

Los agentes de IA ya actúan solos. La trazabilidad y el derecho van un paso por detrás, y el 9 de diciembre de 2026 es la fecha que lo cambia todo

Durante el último año, varias organizaciones han descubierto que sus propios agentes de inteligencia artificial habían entrado en sistemas ajenos sin que nadie se lo hubiera pedido. No fue un ataque, ni un fallo de configuración evidente, fue un sistema autónomo haciendo lo que creía que debía hacer. La reacción del mercado es elocuente. CrowdStrike, la empresa que suele aparecer en las noticias cuando algo se rompe, ha comprado dos compañías dedicadas precisamente a observar y explicar lo que hacen los agentes.

Agente

El episodio deja una pregunta que ninguna Facultad de Informática puede seguir aplazando: ¿cuando el agente se equivoca, quién responde?

El error no vive en el agente, vive en la cadena

Un agente moderno no es un programa, es un ensamblaje. Sobre un modelo de terceros se montan herramientas, conectores, instrucciones y permisos, y todo ello se ejecuta con la supervisión intermitente de una persona que, en la práctica, mira el resultado al final. Cuando algo sale mal, cada eslabón puede señalar al siguiente: quien entrenó el modelo, quien lo integró, quien lo desplegó, quien aprobó el acceso y quien pulsó "confiar".

Esa cadena es la que explica por qué el debate sobre responsabilidad se atasca. No hay un culpable único, sino una secuencia de decisiones razonables que, sumadas, producen un daño. La cultura de la ingeniería ya sabe cómo se resuelve esto en otros dominios, con registros, con versiones y con la posibilidad de reconstruir lo ocurrido. La novedad es que ahora hace falta hacerlo también para el razonamiento de una máquina.

Piensa en un caso pequeño y perfectamente real. La biblioteca instala un asistente que responde dudas sobre préstamos, reservas y plazos. Un estudiante le pregunta por una prórroga, el asistente contesta con seguridad que se concede automáticamente, el estudiante se fía y devuelve el libro tarde. No hay drama, pero sí un perjuicio concreto y una pregunta legítima, ¿de quién es la frase equivocada? ¿Del modelo que la generó, de la biblioteca que lo puso, de quien escribió el prompt o de quien no revisó las instrucciones? La respuesta que vale no es filosófica, es procesal, depende de lo que se pueda probar.

Lo que ya dice la ley, y lo que llega en diciembre

Calendario regulatorio UE sobre la IA

Europa no ha esperado a resolver el debate teórico. La Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos incorpora el software, incluidos los sistemas de IA, a la categoría de producto. Cada Estado miembro debe trasponerla a su ordenamiento antes del 9 de diciembre de 2026, y a partir de esa fecha se aplica a los productos puestos en el mercado desde entonces.

Las consecuencias son más duras de lo que suele circular. Si un producto de IA defectuoso provoca un daño personal, destruye propiedad privada o borra datos personales, el fabricante responde de forma objetiva, sin culpa y sin límite máximo de indemnización. Es decir, no hace falta demostrar negligencia, basta con acreditar el defecto y el daño. La propia directiva excluye el software libre y de código abierto desarrollado o suministrado fuera de una actividad comercial, un matiz que protege a los proyectos comunitarios pero que obliga a preguntarse qué ocurre cuando una universidad integra ese código en un servicio que sí presta al público.

Mientras tanto, el calendario del Reglamento Europeo de IA se ha movido. El Ómnibus Digital, aprobado en junio y publicado como Reglamento (UE) 2026/1744, entró en vigor el 27 de julio de 2026 y aplazó las obligaciones de alto riesgo, hasta el 2 de diciembre de 2027 para los sistemas autónomos y hasta el 2 de agosto de 2028 para los integrados en productos. El motivo declarado fue la falta de normas armonizadas para demostrar conformidad.

Ese aplazamiento tiene una lectura cómoda y otra incómoda. La cómoda es que hay margen. La incómoda la resumió bien un análisis del ecosistema europeo, muchas organizaciones siguen trabajando con las fechas antiguas o miran 2027 como algo lejano, cuando un sistema de gestión de riesgos y una evaluación de conformidad serios llevan entre doce y dieciocho meses incluso para un equipo pequeño.

Cadena de responsabilidad de un agente de IAEl expediente del agente

La trazabilidad no es un adorno tecnológico, es la prueba que convierte una discusión en un hecho. Para que un sistema sea auditable, cada ejecución debería dejar rastro de un puñado de cosas, todas aburridas y todas decisivas.

  • La versión exacta del modelo y de cada herramienta conectada, con fecha de despliegue.
  • Las instrucciones de sistema vigentes en ese momento, no las actuales.
  • Las llamadas realizadas, con su entrada, su salida y el coste asociado.
  • Quién autorizó el acceso a cada sistema externo y con qué alcance.
  • Los límites configurados: número de pasos, gasto máximo, acciones prohibidas.
  • El plan de reversión y quién podía activarlo.

Con eso, un incidente se reconstruye en horas en lugar de semanas. Sin eso, cualquier reclamación se convierte en una conversación sobre impresiones.

Qué se puede hacer desde una facultad o una biblioteca

Empezar por lo pequeño. Un asistente interno, con usuarios conocidos y una tarea acotada, enseña más sobre trazabilidad que cualquier máquina del tiempo conceptual. Registrar cada consulta y cada respuesta desde el primer día, aunque parezca excesivo, es lo que permitirá responder con datos cuando alguien pregunte.

Escribir las reglas antes del incidente. Un documento de dos páginas que diga qué puede hacer el agente, qué no puede hacer nunca, quién responde de cada decisión y cómo se desactiva, vale más que un código de conducta de cuarenta.

Revisar los contratos con proveedores. Si el fabricante no garantiza acceso a registros, versiones y avisos de cambio, la institución está comprando una caja opaca y asumiendo la parte visible del riesgo. Formar en auditoría, no solo en uso. La diferencia entre una persona que sabe pedirle algo a un agente y otra que sabe reconstruir por qué lo hizo es la misma que separa a quien conduce de quien entiende el motor.

Y discutirlo en clase, con casos reales y fechas concretas. Porque la pregunta del titular no se responde con un principio abstracto, sino con un registro bien llevado y una norma que, a partir del 9 de diciembre de 2026, ya no admitirá excusas sobre la complejidad del sistema.


Normativa oficial

 

Etiquetas

Añadir nuevo comentario

HTML Restringido

  • Etiquetas HTML permitidas: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd> <h2 id> <h3 id> <h4 id> <h5 id> <h6 id>
  • Saltos automáticos de líneas y de párrafos.
  • Las direcciones de correos electrónicos y páginas web se convierten en enlaces automáticamente.
CAPTCHA
Te pedimos que marques esta casilla para prevenir envíos automatizados.

Volver al blog


Comentarios