Frankenstein y la ética de la IA: cuando el creador deja de controlar su creación

¿Qué tiene que ver una novela de 1818 con el Reglamento Europeo de IA? Más de lo que parece.

Cuando Mary Shelley publicó Frankenstein, o The Modern Prometheus en 1818, la inteligencia artificial pertenecía al territorio de la ciencia ficción. La electricidad, la experimentación científica y la posibilidad de intervenir sobre la vida ya alimentaban debates científicos y filosóficos, pero nadie podía imaginar los sistemas capaces de generar textos, imágenes, código o decisiones a partir de enormes cantidades de datos.

La novela plantea una pregunta que sigue siendo útil para pensar la tecnología actual: ¿qué responsabilidad tiene quien crea algo cuando esa creación produce consecuencias que ya no puede controlar por completo?

Mary Shelley no escribió únicamente una historia de terror sobre un monstruo. Escribió sobre un científico que alcanza un logro extraordinario y, cuando su creación cobra vida, huye de la responsabilidad. Víctor Frankenstein abandona a su criatura, no le da un nombre, un propósito ni unos límites. El conflicto surge después de ese abandono.

Del laboratorio gótico a los sistemas de IA de alto riesgo

Si sustituimos la palabra «criatura» por «sistema de IA», la historia adquiere una lectura contemporánea. La pregunta que plantea Frankenstein en 1818 sigue siendo reconocible en 2026: ¿qué responsabilidad tiene quien crea una tecnología cuando sus efectos escapan a las previsiones iniciales?

Hay varios aspectos de la novela que ayudan a entender el debate regulatorio actual:

1. La ambición necesita un marco de responsabilidad

Víctor Frankenstein persigue el conocimiento sin detenerse a considerar qué ocurrirá después de alcanzar su objetivo. El problema aparece cuando consigue crear vida sin haber pensado suficientemente en su finalidad, sus límites y las consecuencias de ponerla en el mundo.

El paralelismo con la inteligencia artificial está en la gestión del riesgo. El Reglamento Europeo de IA, conocido como AI Act, no trata todos los sistemas de la misma manera. Las obligaciones dependen de su uso y del riesgo que puedan representar para las personas.

La cuestión cambia cuando un sistema puede intervenir en ámbitos como el empleo, la educación, el acceso a determinados servicios o el ejercicio de derechos. En esos casos, la evaluación de riesgos, la documentación, la supervisión y los controles deben formar parte del proceso antes y después del despliegue.

2. La falta de información también genera riesgos

La criatura de Frankenstein carece de orientación sobre cómo desenvolverse en el mundo. Nadie supervisa su evolución y Víctor desaparece precisamente cuando sería necesario comprender qué ha creado y cómo está reaccionando.

En términos actuales, podría compararse con un sistema desplegado sin suficiente documentación, trazabilidad o supervisión.

El AI Act establece requisitos específicos para determinados sistemas de alto riesgo, entre ellos obligaciones relacionadas con la documentación técnica, los registros de actividad, la transparencia y la supervisión humana. Estos mecanismos permiten conocer cómo se ha diseñado y utilizado un sistema y facilitan la detección de errores o comportamientos problemáticos.

La llamada «caja negra» de la IA plantea una cuestión similar. Cuando no sabemos cómo funciona un sistema o no podemos reconstruir por qué ha producido determinado resultado, resulta más difícil identificar el origen del problema y determinar quién debe intervenir.

3. La responsabilidad no termina cuando se pone el sistema en producción

El error de Víctor Frankenstein no consiste únicamente en crear algo que no puede controlar por completo. También consiste en abandonar la responsabilidad sobre aquello que ha creado.

Esta cuestión afecta a las organizaciones que desarrollan, comercializan o utilizan sistemas de IA. Poner una herramienta en producción no pone fin a la gestión del riesgo. El comportamiento del sistema debe seguir supervisándose y, cuando sea necesario, deben aplicarse medidas correctoras.

El AI Act distribuye obligaciones entre los distintos actores que participan en el ciclo de vida de un sistema. Los proveedores y los responsables del despliegue tienen deberes diferentes, pero ambos intervienen en las decisiones que determinan cómo se utiliza la IA y qué controles existen cuando aparecen riesgos.

Por eso, la responsabilidad no puede reducirse a una pregunta como «¿quién creó el modelo?». En cada caso puede ser necesario analizar quién lo desarrolló, quién lo integró, quién decidió utilizarlo, con qué finalidad y qué medidas de supervisión se establecieron.

Por qué esta historia, y por qué ahora

Frankenstein resulta especialmente útil para hablar de IA porque plantea un conflicto que sigue siendo reconocible: la distancia entre crear una tecnología y hacerse cargo de sus consecuencias.

Mary Shelley no escribió sobre algoritmos, modelos fundacionales ni sistemas automatizados. Su novela pertenece a otro contexto científico y social. Pero su pregunta sobre la responsabilidad del creador conserva vigencia cuando una tecnología adquiere suficiente capacidad para producir consecuencias que afectan a otras personas.

En 2026, esa cuestión ya forma parte del derecho europeo. El AI Act establece obligaciones concretas para determinados sistemas y asigna responsabilidades a quienes los desarrollan y utilizan. La supervisión deja de depender únicamente de las decisiones internas de cada organización y pasa a formar parte de un marco regulatorio común.

Aquí está la diferencia esencial entre Víctor Frankenstein y una organización que desarrolla IA hoy. Víctor descubre demasiado tarde que crear algo también implica hacerse cargo de lo que sucede después. El marco europeo intenta que esa reflexión ocurra antes del despliegue y continúe durante el uso del sistema.

La pregunta de Mary Shelley sigue siendo pertinente, pero podemos formularla con el vocabulario tecnológico de 2026:

¿Quién responde cuando un sistema de IA produce consecuencias que su creador no había previsto?

La respuesta ya no pertenece únicamente a la literatura. También está escrita, en buena medida, en las obligaciones que establece el AI Act.

Doscientos años después, seguimos necesitando la misma pregunta que se hizo Mary Shelley: no si podemos crear, sino si estamos dispuestos a responsabilizarnos de lo que creamos.

La lección para las organizaciones

Frankenstein no es una advertencia contra la innovación. Víctor no fracasa por crear vida; fracasa por abandonar lo que crea. La lección para cualquier organización que desarrolla o adopta IA no es «no innoves», es:

• Documenta y explica lo que construyes (transparencia).
• No sueltes un sistema al mundo sin supervisión continua (gobernanza).
• Asume que la responsabilidad no termina en el despliegue, empieza ahí (accountability).