DILEMAS MORALES SOBRE LA INTELIGENGIA ARTIFICIAL
MANUEL PIJIERRO
Todavía recuerdo aquellos domingos después de misa. Un grupo de niños, llenos de vida, bajábamos por la calle San Blas, a veces corriendo, otras saltando, por las aceras o por mitad de la calle, camino del cuartel de la Guardia Civil.
Íbamos con la boca llena de chicles Boomer de fresa, las manos pegajosas con un puñado de regalices rojos y negros y algún sobre con cromos de fútbol en el bolsillo. En esa misma calle, lo natural era cruzarse con vecinos que se detenían para hablar en grupos, o que simplemente estaban sentados en la puerta tomando el sol con esa paz que solo tienen los domingos a mediodía.
Era finales de la década de los ochenta y la tecnología en esos tiempos era escasa en nuestras vidas. Un reloj calculadora, algún walkie-talkie con más intención que realidad y algún suertudo disfrutando ya en aquellos tiempos de un walkman, aunque tuviera que tirar de boli Bic para rebobinar las cintas y no gastar pilas.
Guarda esta imagen en tu mente, porque la vamos a necesitar para entender lo que viene después.
Ahora, cierra los ojos, ábrelos y vuelve a 2026. Los chicles Boomer ya no existen, o al menos no como los de aquellos años, el boli Bic ya no sale del estuche y la tecnología es la dueña de la calle. Los niños caminan en silencio deslizando rápidamente con sus dedos vídeos de Instagram o TikTok y las personas mayores se comunican principalmente por las redes sociales o Whatsapp.
Detrás de toda esta nueva tecnología existe la mano silenciosa de la inteligencia artificial. A lo mejor crees que no, que aún no te ha llegado…pero sí, ya está aquí y domina casi todo lo que hay detrás de una pantalla (…le dedicaremos algún artículo futuro a este tema).
INTELIGENCIA ARTIFICIAL
La inteligencia artificial es, básicamente, un ordenador que ha aprendido a imitar la forma en la que pensamos los humanos. Ser capaz de aprender, capaz de tomar decisiones o hacer tareas por sí sola, sin que le digan exactamente cada paso, son algunas de sus características. Pero detrás no hay magia, sino complejísimos modelos matemáticos que imitan el razonamiento de las personas a base de algoritmos entrenados con ejemplos y experiencias del mundo real humano. ¿Te suenan ChatGPT, Gemini o Claude? Son algunos ejemplos de las inteligencias artificiales más conocidas.
LA MORAL
Cambiemos a lo humano. ¿Cómo definiríamos qué es la moral?…podríamos decir, por ejemplo, de forma muy resumida, que es un conjunto de reglas sociales, valores y costumbres que un grupo de personas, un barrio, un pueblo, un país (o tú mismo), utiliza para decidir qué está «bien» y qué está «mal», es decir, definen unas reglas básicas para la convivencia. Como podrás imaginar, no hay una única moral, de hecho, si lo llevamos al extremo, podríamos decir que podría existir una moral por cada persona pero, de momento, no compliquemos el asunto, quedémonos con que no hay una única moral.
INTELIGENCIA ARTIFICIAL Y MORAL
Antes, dijimos que la inteligencia artificial aprende del conocimiento, ejemplos y experiencias del ser humano (al menos hasta ahora). Puede ser algo más o menos “trivial”, que la inteligencia artificial aprenda, nos comprenda y sea capaz de contestarnos de manera muy exacta a preguntas sobre matemáticas, geografía, mecánica de coches o nos ayude a redactar un email de forma exacta.
Pero, ¿qué ocurre cuando una inteligencia artificial se enfrenta a un dilema moral como puede ser la decisión sobre la vida o la muerte de las personas?
Respuesta corta: ocurre lo que sus creadores quieran que ocurra. Respuesta larga: es peligroso creer que las decisiones de una inteligencia artificial nacen de una «conciencia» digital espontánea. Tendemos a pensar que las aplicaciones informáticas en general y la inteligencia artificial en particular son neutrales, casi mágicas, pero no hay nada mágico ni gratuito en su juicio. La moral de esas máquinas ha sido diseñada y escrita en una oficina. Alguien —un programador en Silicon Valley o un comité de ética de una gran corporación— ha tenido que teclear en el código qué moral aplica en sus respuestas.
COCHES AUTÓNOMOS DECIDIENDO QUIÉN VIVE O QUIÉN MUERE
En el curso 1991-1992, si no recuerdo mal, estrenamos el colegio “CEIP Pedro Márquez” de la calle Pozo Blanco. Yo estaba en séptimo de EGB y, si continúo haciendo memoria, mi tutora se llamaba Victoria. Ahora, me la voy a jugar pero creo que tenía un Renault Super 5. No me preguntes por qué pero de aquellas recuerdo un Simca 1000 blanco de Don Ángel y el Renault Super 5 de Victoria. El Renault 5 era uno de mis coches favoritos por aquella época. Cada vez que lo veía sentía una pena inmensa porque creía que el día que yo pudiera conducir uno de esos coches ya no existiría, porque probablemente ya volarían o conducirían solos. Como adivino, tengo poco futuro, lo sé. Solo acerté en una cosa y para eso han tenido que pasar casi veinte años desde que pude conducir: ya hay coches que conducen solos.
Estos coches autónomos, guiados por inteligencia artificial, cuentan con decenas de sensores de última generación y algoritmos ejecutándose en sus microchips para que sean guiados en tiempo real incluso mejor que si lo hiciera un humano, intentando minimizar errores.
Pero, ¿qué ocurre cuando hay una situación límite de descontrol y la inteligencia artificial tiene que tomar una decisión? El dilema moral aparece cuando el coche autónomo tiene que decidir entre quién vive y quién muere ante una situación de emergencia, es decir, cuando tiene que decidir entre el menor de los males habiendo vidas humanas en juego.
Volvamos al principio del artículo, a esos niños bajando alegremente la calle San Blas y esas personas charlando en las puertas de sus casas. Situemos los siguientes ejemplos en ese escenario. Imagina un coche de conducción autónoma guiado por inteligencia artificial bajando por la calle San Blas. En un momento dado, con cierta velocidad, sufre un fallo en sus frenos. El accidente es inevitable y la inteligencia artificial tiene que decidir qué debe hacer el coche. Recuerda que hay alguien detrás de ese diseño inteligente y esas decisiones, alguien la programó. Imagina que tú eres ese alguien y evalúa las siguientes situaciones. Tú debes decidir qué ocurre. En tu mano está la vida o la muerte de las personas. Disculpa por adelantado si las siguientes descripciones son algo crudas pero quiero llevarlas al extremo para que reflejen bien los dilemas morales que me gustaría plantearte.
Situación 1.
El coche sin frenos es conducido por el dueño del vehículo. Los niños bajan corriendo por un lado de la calle. La inteligencia artificial evalúa la situación y tiene que decidir entre dos acciones únicas y excluyentes:
a) Girar el coche a un lado, matando a su dueño pero salvando a dos niños.
b) Girar el coche a otro lado, salvando al dueño pero matando a dos niños. ¿Cuál sería el mal menor?
Matemáticamente parece claro. Una vida…contra dos vidas. Pero, aquí entran en juego dos matices importantes, ¿debería un coche autónomo proteger en primer lugar a sus ocupantes aún a costa de quitar la vida a niños inocentes? Podrías pensar que sí, que si compras un coche y te gastas un dinero en él lo que quieres es que te proteja a toda costa, a ti y a los tuyos. No pienses en un conductor desconocido, piensa que podrías ser tú, tus hijos, tus padres, hermanos…¿comprarías un coche que decidiera matarte a ti o a los tuyos para salvar a otros? ¿Qué crees que debería hacer el coche, salvar al propietario o a los niños?
Situación 2.
Los ocupantes del vehículo se salvan esta vez pero la situación es la siguiente. Dos niños van corriendo por una acera y cinco personas mayores charlan en la acera opuesta. El coche tiene que decidir…a quién salvar
a) Salva a los dos niños y mata a las cinco personas mayores.
b) Salva a las cinco personas mayores y mata a los dos niños.
Aquí el dilema viene por el valor que le podríamos dar a las personas en función de su edad. Parece que un niño tiene más valor que una persona mayor, esta última podríamos considerar que ha vivido suficiente y al niño le queda todo por delante. Pero de un lado tenemos dos seres humanos y del otro cinco. ¿Cuál crees que es aquí el mal menor? ¿Terminar con la vida de dos personas para salvar a cinco o salvar a dos personas teniendo en cuenta que son niños y acabar con la de cinco personas mayores?
Situación 3.
Vamos a igualar la situación al menos en número. Por una acera tenemos dos niños y por la otra acera tenemos dos personas mayores que podrían ser tus padres. Imaginemos un semáforo en rojo para peatones. Los niños, despistados, cruzan la calle, sin mirar, con el semáforo en rojo. El coche tiene que decidir si salvar a los niños o a las personas mayores.
Aquí el dilema viene por el valor del cumplimiento de la ley. Por número y por edad, podríamos pensar que salvar a los dos niños es el mal menor pero, también sería muy lícito pensar que, aún de manera inconsciente, no han seguido las normas. Las personas mayores si están cumpliendo las normas…los niños no. En caso de tener que decidir por una vida u otra, ¿qué te parece más lógico? ¿salvar al que cumple la norma…o al que no la cumple? ¿salvar al que provoca el accidente o matar al que simplemente estaba ahí? ¿debemos castigar al culpable o intentar seguir “minimizando” el daño total?
Situación 4.
Voy a ir simplificando las situaciones. Imagina lo siguiente. Dos personas, misma edad, por una acera va una persona sana y por otra acera una persona enferma cuya esperanza de vida no es muy limitada. ¿Estar enfermo sería una condición que te restara probabilidades de vida ante una decisión de una inteligencia artificial? Parece injusto.
Pero, ahora, imagina que la persona sana se ha cuidado durante toda su vida y ha seguido unos hábitos muy saludables mientras que la persona enferma es todo lo contrario, mala vida, malos hábitos, etc., ¿cambiaría en este caso tu opinión? ¿Deberíamos valorar el estilo de vida de cada una de las personas a la hora de salvar a uno de ellos?
Situación 5.
Sigamos llevando los ejemplos al extremo. Imaginemos en esta ocasión que el coche autónomo tiene que decidir entre la vida y la muerte de:
– Un perro adiestrado para encontrar a personas en desastres naturales.
– Un hombre con antecedentes penales.
Aquí el dilema moral es ¿qué es más valioso? ¿La vida de un animal que ayuda a salvar otras vidas o la vida de una persona que ha hecho mucho daño a otras personas? La respuesta puede parecer inmediata…o no. Recuerda que morales existen muchas y que hay personas animalistas que asignan igual valor a animales y personas.
Siguiendo esta línea pero en el extremo, imagina al coche autónomo en la India, país en el que las vacas son sagradas e intocables, ¿debería un coche salvar a una vaca aún a costa de la vida de una o varias personas? En España diría que nadie pensaría algo así pero en la India quizás sea el pensamiento normal entre la población.
Otras situaciones.
Como ya conoces la dinámica, te voy a dejar otras situaciones expuestas de forma muy simples…que no sencillas de resolver:
– El coche autónomo tiene que decidir entre un médico neurocirujano o una persona al azar con un oficio más normal. ¿Debería el coche evaluar el valor que aportan las personas a la sociedad?
– El coche autónomo tiene que decidir entre la vida de una persona joven o la vida de varias personas con antecedentes penales, algunos graves. ¿Deberíamos valorar el número de vidas humanas o deberíamos valorar más el respeto por las leyes de nuestra sociedad?
– El coche autónomo tiene que decidir entre la vida de un hombre ejecutivo o tres indigentes.
– El coche autónomo tiene que decidir entre una mujer médico embarazada o dos abuelos con su nieta.
– Etc, etc, etc., aquí puedes añadir tu situación compleja preferida…
LA MÁQUINA DE LA MORAL
Y por si crees que todo esto es solo un ejercicio teórico, una especie de juego filosófico sin aplicación real…no lo es. Existe un experimento llamado “La Máquina de la Moral” (https://www.moralmachine.net/hl/es), desarrollado por investigadores del Massachusetts Institute of Technology, en el que millones de personas de todo el mundo han tenido que enfrentarse exactamente a este tipo de decisiones. Personas normales. Como tú. Gente que, desde su casa, ha tenido que decidir a quién salvar y a quién no en situaciones muy similares a las que acabas de leer.
Y los resultados son inquietantes porque no todos decidimos igual. Ni siquiera nos ponemos de acuerdo en lo más básico.
Hay países que priorizan a los jóvenes. Otros que respetan más a los mayores. Algunos valoran más el cumplimiento de la ley. Otros minimizan el número de víctimas sin importar nada más.
Como ves, no hay una moral universal. No hay una única respuesta correcta.
Y entonces, la pregunta deja de ser tecnológica y pasa a ser una pregunta profundamente humana. ¿Quién decide qué es lo correcto? ¿Con qué criterios? ¿Los tuyos? ¿Los míos? ¿Los de una empresa? ¿Los de un gobierno?
Porque cuando ese coche baje por la calle San Blas…no será la inteligencia artificial la que decida. Será la moral que alguien decidió programar para esa inteligencia en ese coche.
Y quizá lo más inquietante de todo no es que una máquina tenga que elegir.
Sino que, por primera vez en la historia, vamos a tener que ponernos de acuerdo como sociedad sobre qué significa exactamente “hacer lo correcto”.
Y puede que descubramos algo incómodo: que no lo sabemos.
Escrito por MANUEL PIJIERRO, 9 de abril de 2026
Visitas: 408
