La gran mentira de los robots asesinos

Hace unos días publiqué un artículo titulado «La gran mentira de la Inteligencia artificial«. En el mismo comentaba cómo se está empleando este término para aplicarlo a absolutamente todo lo que pueda ser vendido como tal. Una falacia, una mentira, que solo pretende bautizar con un título fastuoso a tecnologías y sistemas que, de ningún modo, disponen de inteligencia artificial, sino que solo consisten en sistemas avanzados de tomas de decisiones, y nada más.

Hoy vengo con otro artículo, muy relacionado con el primero. Me baso en este artículo del diario El Mundo, dentro de una corriente que se ha puesto de moda, y que consiste en hablar del futuro de los robots en una faceta agresiva y bélica. Me refiero, se refieren a los «robots asesinos». Robots que, de forma autónoma, deciden a quién matar, cómo, y cuándo. Por supuesto, nunca por qué. Porque no pueden. Vamos a verlo.

Partamos de una base que parece se está olvidando cuando se habla de robots y androides: ningún robot actual tiene conciencia propia. Y no la tiene porque, para ello, requiere de una inteligencia artificial. Entendiendo como tal una conciencia de su propia existencia, y capacidad de racionalizar su entorno, adaptarse al mismo, y muy importante, extrapolar información completa a partir de información fragmentaria. Por supuesto, también es necesaria una capacidad de decisión ética y moral, que forma parte de cualquier conciencia avanzada, además de un sistema de creencias y valores éticos, morales, políticos, sociales, y culturales, incluso místicos y hasta religiosos.

Sin todos esos elementos, un robot no es más que un instrumento. Puede servir para construir coches, o puede servir para matar personas. En este último caso, una pistola también sirve para matar personas. Y un misil de crucero, cuando se dispara, también sirve para matar personas. Ese misil de crucero, por cierto, dispone de un software que le permite guiarse de forma autónoma, y, si es necesario, le permite elegir un objetivo de oportunidad, si el objetivo primario no es factible de ser alcanzado. Es decir, toma decisiones autónomas, y lo hace desde hace muchos años.

Los robots «asesinos» son exactamente eso: herramientas avanzadas de combate, que han sido programados por seres humanos, disponen de un software escrito por humanos, y tienen comportamientos prefijados diseñados por humanos. Son, por lo tanto, máquinas muy sofisticadas, pero incapaces, desde cualquier punto de vista, de tomar decisiones propias. Si toman una decisión, esta se basa en el conjunto de posibilidades que previamente se les ha programado: «ataca el objetivo A, y si no está disponible, el objetivo B. Si no está disponible ni A ni B, busca un objetivo cuya firma radárica sea la de alguno de los objetivos que tienes en tu memoria. Si localizas uno, ataca ese objetivo. Si no, autodestrucción». Fin de la historia.

Todo esto está extremadamente alejado de esas películas que nos venden los medios de comunicación actuales. Creo, sinceramente, que han visto demasiada ciencia ficción, y se han creído las historias imaginativas que los autores y guionistas han creado en mundos como Matrix, Blade Runner, o Terminator. Y la ciencia ficción es útil para imaginar mundos, por supuesto, pero no debe confundirse con el mundo real. El mundo real no dispone de robots en el sentido que nos da la ciencia ficción. En el mundo real, los robots son máquinas muy sofisticadas, pero nada más. También un teléfono móvil actual de Android o de Apple son muy sofisticados, y no por eso les amenazamos con llevarlos a la cárcel si no encuentran cobertura.

¿Cuál es el miedo del que se habla? El miedo es el de siempre. Se conoce como «complejo, o síndrome, de Frankenstein«. El miedo a perder el control.

Vamos a ver: cuando alguien dispara una bala, ha perdido el control de esa bala. ¿Cuántas balas han matado a millones de inocentes? Demasiadas. Con los robots, del mismo modo, puede pasar algo parecido: se podría perder el control, y un robot podría matar a un ser humano. Estoy recordando la escena de «Robocop» cuando un robot presentado en un consejo de dirección mata a una persona que le apunta en una simulación. ¿Quién es el responsable de que un robot mate a un ser humano? ¿El robot? ¿El androide?

Claro que no. Todo el mundo sabe, o creo que debería saber, que, si un robot mata a un ser humano, el responsable es quien ha creado a ese robot. En la película «2001» lo dice el personaje de HAL 9000, la famosa computadora. Dice exactamente: «el fallo siempre se debe atribuir a error humano».

Esa es la clave. Si una máquina falla, el error es humano. Si un robot mata a alguien, la última responsabilidad del acto es del ser humano. No podemos acusar a un montón de hierro y de circuitos de tener una voluntad tomada de la que no dispone. El robot no tiene conciencia, y no sabemos si la tendrá algún día. Si llega ese día, hablaremos.

De momento, lo que es evidente es que acusar a un robot de asesinato es una reducción al absurdo que solo pretende llenar páginas de periódicos, y de establecer marcos imaginarios legales que solo existen en las ya mencionadas novelas y películas de ciencia ficción.

Quizás, y ya para acabar, lo que están haciendo los que debaten el asunto de los robots asesinos, es querer desviar la atención de la realidad evidente. Y la realidad evidente es una: el asesino, si existe, es el ser humano. Es la humanidad la que mata. Con sus manos, con un palo, con una pistola, con un misil de crucero, o con un robot. Es el ser humano, en última instancia, el responsable de las muertes violentas. Querer buscar a otros responsables, en este caso los robots, solo pretende desviar la atención de la realidad evidente de que la humanidad es culpable de las guerras  y la destrucción.

Puede que, un día, existan robots y androides inteligentes. Entonces, les preguntaremos qué opinan sobre el asesinato de semejantes. Y podrán tener una respuesta. Y una responsabilidad. Hasta entonces, los robots asesinos solo serán una extensión más de la violencia humana. Y ahí, sin duda, tenemos un marco ético y moral del que hablar para conseguir acabar con esa violencia. Es nuestra meta. No la de los robots. Ellos tendrán sus propias batallas que ganar. Nosotros, ahora, tenemos las nuestras.

---