Las Tres Leyes no funcionan, y nunca lo harán

He hablado recientemente de la falacia de la robótica, y de la inteligencia artificial, como argumentos que se pretende usar para un futuro de máquinas inteligentes y autosuficientes, capaces de tomar decisiones, y, por lo tanto, moralmente responsables de sus actos. Un argumento que, como ya expliqué en esos dos textos, carece de valor.

Pero sigo encontrándome textos fantásticos y llenos de argumentos, explicando las presuntas responsabilidades que los robots tendrán cuando sean autónomos. Que, de hecho, ya lo son, en muchos sentidos, no en el principal: el de disponer de conciencia, y de una moral y ética que les permita poder responsabilizarse de sus propios actos.

Mientras ese momento no llegue, tendremos que entender que los robots, por muy sofisticados que sean, seguirán siendo máquinas, instrumentos, y responsabilidad de la humanidad.

isaac-asimov
Isaac Asimov, creador de las Tres Leyes de la Robótica

Leer más “Las Tres Leyes no funcionan, y nunca lo harán”

Anuncios

El factor desestabilizador

Nota: para leer el capítulo anterior de esta serie, ambientada en el siglo XXIV, y que es continuación de “Las entrañas de Nidavellir”, y anterior a “La insurrección de los Einherjar”, pulse o piense en este enlace.

Sandra ha huido de Kenia, mientras la Coalición del Sur ha descubierto que es una androide. Pero no tienen ninguna prueba de ello, y será difícil creer que un simple androide puede engañar a los sensores de bioidentificación. Sin embargo, su búsqueda va a ser un objetivo primordial, pues conocer esa tecnología, y otras que ella pueda tener, es fundamental para el esfuerzo de guerra contra el Gobierno del Norte. Además de estar acusada de la muerte de Marcus Whitman, su superior en la factoría de androides.

lee

Leer más “El factor desestabilizador”

Dos siglos son demasiado

Este texto transcurre tras los hechos de “Recuérdame” y sigue la línea explicada en “Las entrañas de Nidavellir”. Sandra continúa trabajando en la factoría de reparación y reprogramación de androides. Pero llegan noticias que implican un cambio. Un cambio importante…

Sandra había estado, como de costumbre, todo el día en la factoría,  trabajando en un androide especialmente dañado. Aquel androide no podría ser reparado a tiempo. Las cosas se estaban complicando en aquella zona, y los rumores de evacuación eran cada vez más evidentes.

La guerra contra el Gobierno del Norte estaba siendo muy igualada, pero aquel territorio en concreto pareciera que no podría aguantar mucho tiempo. Habría que entregarlo, a cambio de resistir en otras áreas. Como el peón que se sacrifica con el objetivo de lograr una victoria a más largo plazo. Claro que eso significaba la muerte de varios cientos de miles de habitantes de la zona. Pero, ¿qué importan unas muertes frente a la lógica de la victoria en la guerra?

tresanys

Leer más “Dos siglos son demasiado”

Recuérdame

Nota: este texto está basado en un comentario que realiza Sandra en la novela “La insurrección de los Einherjar” y la saga Aesir-Vanir, y sobre su participación en la guerra que asoló la Tierra durante dos siglos y medio.

Tras los sucesos de “Las entrañas de Nidavellir” Sandra sigue sobreviviendo y escondiéndose. A mediados del siglo XXIV, la confrontación entre la Coalición del Sur y el Gobierno del Norte está en su máximo apogeo. El Norte, gobernado por Richard Tsakalidis, apodado “Zeus”, gestiona un ejército que lucha contra el Gobernador de la Coalición del Sur, al que apodan “Odín”. Ambos han sufrido modificaciones genéticas, y llevan combatiendo más de doscientos años.

Tal como explica Sandra en “La insurrección de los Einherjar”, los androides han formado su propio ejército, y ambos gobiernos unen fuerzas cuando de eliminar a androides se trata. Pero la idea primaria de ambos gobiernos es manipular a los androides, siempre que puedan ser capturados, para anular su capacidad racional, reprogramarlos, y convertirlos en esclavos soldado. Es precisamente esa la razón por la que los androides combaten, para evitar que les sea robada su mente y los conviertan en simples herramientas.

Sandra trabaja en una de las factorías que transforman a los androides en máquinas sin mente. Debe hacerlo, porque de lo contrario sería descubierta su verdadera naturaleza. Pero ella añade, en los androides que manipula, una puerta trasera para devolverles la mente en el futuro, si eso es posible. Mientras tanto, la Tierra, y otros planetas, están siendo convertidos en cenizas. Solo resta un paraíso en el planeta: Nueva Zelanda, un lugar que ambos gobiernos han decidido mantener como territorio abierto.

Sandra recibe al siguiente androide. Tiene algunos fallos menores, y lo lleva a una sala anexa para repararlo. La puerta se cierra. El androide observa a Sandra. Su mirada es clara, pero triste…

robot-y-humano-creacion

Leer más “Recuérdame”

Cuando la IA se hizo la tonta

Ya he comentado, en alguna ocasion, que soy un gran fan de Isaac Asimov. Sus libros de ciencia ficción, pero también los de divulgación científica, fueron de gran ayuda para mí. Los primeros, para descubrirme un universo casi infinito de posibilidades literarias. los segundos, para que descubriese que incluso yo soy capaz de entender conceptos generales de ciencia, si estos se explican con el suficiente entusiasmo y claridad.

Pero hay una cosa en la que discrepo, y que me disculpe el lector por poner en duda a un genio que lo fue durante gran parte del siglo XX. Esa discrepancia está relacionada con la inteligencia artificial, conocida popularmente como IA (o AI en inglés). Asimov creía que no veía factible poder crear una inteligencia artificial como la humana, o que, en todo caso, no era necesario. La razón era muy sencilla: ya tenemos la inteligencia humana. ¿Para qué queremos otra? Mejor sería crear otro tipo de inteligencia, que complemente a la humana, para así unir ambas en el desarrollo y búsqueda de nuevos conceptos de conocimiento compartido.

artificial_intelligence_benefits_risk

Leer más “Cuando la IA se hizo la tonta”

Aspectos jurídicos y sociales de la IA

Como ya comenté recientemente, todo el mundo está entusiasmado explicando diversos fenómenos naturales mediante la presencia de extraterrestres. Cuando hablamos de extraterrestres, siempre por supuesto pensamos en seres inteligentes, no como sucede en la Tierra.

Bueno, dejando aparte esta pequeña broma, nos referimos a seres que son capaces de mostrar signos de comprender aspectos de las matemáticas, leyes de la física, comunicación verbal compleja, e interacción social avanzada. No, no me refiero a ballenas y delfines, que cumplen todos esos requisitos. Falta uno: manipulación del entorno para creación de herramientas, y muy importante: creación de herramientas para crear herramientas. Algunos simios usan palos o piedras, pero no construyen objetos usando otros objetos.

Pero el sueño del ser humano, o a menos de algunos seres humanos, es poder contactar con una civilización extraterrestre, o al menos, verificar su existencia. Sin duda sería probablemente un suceso de proporciones colosales para la humanidad. ¿O existen otras posibilidades?

fabric-basedcomputing

Leer más “Aspectos jurídicos y sociales de la IA”

Fondo de pantalla de “Las cenizas de Sangetall”

Sandra ha perdido a su padre. Tres años después, decide que debe averiguar más datos sobre su trágica muerte, y todo lo que envolvió ese asunto. Viaja a Amiens, Francia, donde descubre que la historia de lo que pasó tres años atrás es mucho más compleja de lo que pudo imaginar…

Fondo de pantalla de “Las cenizas de Sangetall”. Saga Aesir-Vanir.

cenizas_vf103