Técnicas para engañar y manipular una IA

Estamos en la era de la Inteligencia Artificial (IA). O eso nos dicen los publicistas, en un engaño de enormes proporciones, donde este argumento de la IA se usa para vendernos cualquier producto, vestido con el impactante argumento: “incorpora IA”. Todo lleva “IA”. Me extraña que no haya salido ropa interior con IA todavía. Aunque probablemente haya algo ya preparándose en el mercado, no me extrañaría.

Antes de nada, dejemos algo muy claro: la IA no existe. Lo comenté hace poco sobre esa noticia relacionada con una androide llamada Sophia. Esa tal Sophia no tiene nada de inteligente, y es solo un sistema de reconocimiento de voz sin más.

Lo que se llama IA es un conjunto de algoritmos sofisticados y complejos que resuelven problemas diversos, pero siempre concretos y cuantificables. No le pida a la IA que razone sobre filosofía o sobre el ser humano, y no espere que estos sistemas de voz como Alexa, Siri y otros tengan respuestas a sus preguntas. Son simples programas informáticos primitivos si se compara con la lógica interna de una sola célula del ser humano. Pero vamos al tema: ¿cómo engañar a una IA? Les cuento un caso reciente.

ia

Una IA es muy fácil de engañar, solo requiere de algo de destreza y habilidad

Leer más “Técnicas para engañar y manipular una IA”

Androides: los templos de acero y grafeno

Star Trek es la serie de la reflexión, de la filosofía llevada al espacio imaginario del siglo XXIII. Sin duda eso es lo que nos fascinó a muchos a finales de los años sesenta, cuando se inició la andadura de la famosa serie de televisión.

Luego, en 1979 se estrenó “Star Trek: The Motion Picture”, el primer largometraje de la larga serie de películas que irían llegando con el universo de Star Trek de fondo. En España se había conocido en los sesenta como “Viaje a las estrellas” y yo me quedaba pegado a la tele viendo todos y cada uno de los capítulos del valiente capitán James T. Kirk y su lógico y calculador compañero, el señor Spock. Además del resto del grupo, todos ellos increíbles. Incluida la teniente Uhura. Una mujer, y además negra, como oficial del puente. ¡Qué atrevimiento! ¡Qué osadía!

Recuerdo que salí impresionado del cine, y enamorado de la película. Muchos la critican por lenta, por enrevesada, por no tener un guión claro. Precisamente el guión me parece de los mejores de todas las películas y series, y sin duda guarda una pregunta fascinante: ¿es el ser humano el Creador?

sti_posterart1
Cartel original de Star Trek: the Motion Picture

Leer más “Androides: los templos de acero y grafeno”

Boston Dynamics y la llegada de Terminator

El antropomorfismo es el hábito del ser humano de dotar de capacidades humanas, sean físicas o psicológicas, a entidades que no son humanas, y que disponen de sus propias pautas de comportamiento y desarrollo. El ejemplo más habitual se da con las mascotas. Por ejemplo, la tendencia de los veganos a dar solo vegetales a los animales es algo que se podría considerar maltrato animal, ya que los perros, y los gatos, son carnívoros, y pretender que sean veganos es como pretender que un tigre haga amistad con una cebra y se vayan de fin de semana al campo.

La naturaleza es como es, pero el ser humano pretende cambiarla y adaptarla a sus creencias, y además dice que eso es estar en comunión con la naturaleza. Eso es evidentemente falso. La naturaleza es brutal y no contempla ningún tipo de moral humana, y convertir a los animales en meras réplicas del comportamiento humano es una muestra de las muchas limitaciones de la moral y el comportamiento humanos, que se considera un ser avanzado, cuando no es más que un conjunto de reglas morales y éticas que cambian con los años y los siglos, y que nada tienen que ver con el universo y su naturaleza.

robots

Leer más “Boston Dynamics y la llegada de Terminator”

Las Tres Leyes no funcionan, y nunca lo harán

He hablado recientemente de la falacia de la robótica, y de la inteligencia artificial, como argumentos que se pretende usar para un futuro de máquinas inteligentes y autosuficientes, capaces de tomar decisiones, y, por lo tanto, moralmente responsables de sus actos. Un argumento que, como ya expliqué en esos dos textos, carece de valor.

Pero sigo encontrándome textos fantásticos y llenos de argumentos, explicando las presuntas responsabilidades que los robots tendrán cuando sean autónomos. Que, de hecho, ya lo son, en muchos sentidos, no en el principal: el de disponer de conciencia, y de una moral y ética que les permita poder responsabilizarse de sus propios actos.

Mientras ese momento no llegue, tendremos que entender que los robots, por muy sofisticados que sean, seguirán siendo máquinas, instrumentos, y responsabilidad de la humanidad.

isaac-asimov
Isaac Asimov, creador de las Tres Leyes de la Robótica

Leer más “Las Tres Leyes no funcionan, y nunca lo harán”

El factor desestabilizador

Nota: para leer el capítulo anterior de esta serie, ambientada en el siglo XXIV, y que es continuación de “Las entrañas de Nidavellir”, y anterior a “La insurrección de los Einherjar”, pulse o piense en este enlace.

Sandra ha huido de Kenia, mientras la Coalición del Sur ha descubierto que es una androide. Pero no tienen ninguna prueba de ello, y será difícil creer que un simple androide puede engañar a los sensores de bioidentificación. Sin embargo, su búsqueda va a ser un objetivo primordial, pues conocer esa tecnología, y otras que ella pueda tener, es fundamental para el esfuerzo de guerra contra el Gobierno del Norte. Además de estar acusada de la muerte de Marcus Whitman, su superior en la factoría de androides.

lee

Leer más “El factor desestabilizador”

Dos siglos son demasiado

Actualmente este texto forma parte del Libro XII “Sandra: relatos perdidos”.

Este texto transcurre tras los hechos de “Recuérdame” y sigue la línea explicada en “Las entrañas de Nidavellir”. Sandra continúa trabajando en la factoría de reparación y reprogramación de androides. Pero llegan noticias que implican un cambio. Un cambio importante…

Sandra había estado, como de costumbre, todo el día en la factoría,  trabajando en un androide especialmente dañado. Aquel androide no podría ser reparado a tiempo. Las cosas se estaban complicando en aquella zona, y los rumores de evacuación eran cada vez más evidentes.

La guerra contra el Gobierno del Norte estaba siendo muy igualada, pero aquel territorio en concreto pareciera que no podría aguantar mucho tiempo. Habría que entregarlo, a cambio de resistir en otras áreas. Como el peón que se sacrifica con el objetivo de lograr una victoria a más largo plazo. Claro que eso significaba la muerte de varios cientos de miles de habitantes de la zona. Pero, ¿qué importan unas muertes frente a la lógica de la victoria en la guerra?

tresanys

Leer más “Dos siglos son demasiado”

Recuérdame

Nota: este texto está basado en un comentario que realiza Sandra en la novela “La insurrección de los Einherjar” y la saga Aesir-Vanir, y sobre su participación en la guerra que asoló la Tierra durante dos siglos y medio. Actualmente forma parte del Libro XII “Sandra: relatos perdidos”.

Tras los sucesos de “Las entrañas de Nidavellir” Sandra sigue sobreviviendo y escondiéndose. A mediados del siglo XXIV, la confrontación entre la Coalición del Sur y el Gobierno del Norte está en su máximo apogeo. El Norte, gobernado por Richard Tsakalidis, apodado “Zeus”, gestiona un ejército que lucha contra el Gobernador de la Coalición del Sur, al que apodan “Odín”. Ambos han sufrido modificaciones genéticas, y llevan combatiendo más de doscientos años.

Tal como explica Sandra en “La insurrección de los Einherjar”, los androides han formado su propio ejército, y ambos gobiernos unen fuerzas cuando de eliminar a androides se trata. Pero la idea primaria de ambos gobiernos es manipular a los androides, siempre que puedan ser capturados, para anular su capacidad racional, reprogramarlos, y convertirlos en esclavos soldado. Es precisamente esa la razón por la que los androides combaten, para evitar que les sea robada su mente y los conviertan en simples herramientas.

Sandra trabaja en una de las factorías que transforman a los androides en máquinas sin mente. Debe hacerlo, porque de lo contrario sería descubierta su verdadera naturaleza. Pero ella añade, en los androides que manipula, una puerta trasera para devolverles la mente en el futuro, si eso es posible. Mientras tanto, la Tierra, y otros planetas, están siendo convertidos en cenizas. Solo resta un paraíso en el planeta: Nueva Zelanda, un lugar que ambos gobiernos han decidido mantener como territorio abierto.

Sandra recibe al siguiente androide. Tiene algunos fallos menores, y lo lleva a una sala anexa para repararlo. La puerta se cierra. El androide observa a Sandra. Su mirada es clara, pero triste…

robot-y-humano-creacion

Leer más “Recuérdame”