Vamos a poner un ejemplo fácil de entender como lo es el Facebook cerró sus chatbots después de que desarrollaran un lenguaje propio que los humanos no pueden entender. Esto reabre el debate sobre la inteligencia artificial. Funes, un personaje del universo literario de Jorge Luis Borges, recibió un violento golpe en la cabeza y desde entonces no puede olvidar nada.
Memorizó cada palabra, cada detalle y cada imagen que le rodeaba. Para divertirse, empezó a sustituir unas palabras por otras, creando un lenguaje cada vez más rico y complejo que no podía olvidar, pero que sólo utilizaba para sí mismo, porque nadie más lo entendía.
Imagina que varios robots tuvieran la misma capacidad: no sólo podrían hablar nuestro idioma, sino también aprenderlo, mejorarlo y reorganizarlo para hacerlo mucho más preciso y funcional, según sus condiciones y capacidades, aunque se convirtiera en una colección de frases y símbolos incomprensibles para los humanos.
¿Entonces que pasa En cuanto El ser humano y la máquina?
Es lo que ocurrió en el caso de Facebook, que experimentó con dos bots capaces no sólo de hablar sino también de negociar. Facebook cuenta con una agencia de inteligencia artificial, en la que ha centrado sus esfuerzos en los últimos años. El 14 de junio anunció la creación de bots capaces de comunicarse con los humanos.
En el F8 de este año, la reunión anual de la red social en la que se discuten los resultados y las expectativas, así como las apuestas por la tecnología, Mark Zuckerberg anunció que la inteligencia artificial será la piedra angular del crecimiento de la compañía en los próximos años.
Sin embargo, un incidente relacionado con la inteligencia artificial ha planteado dudas sobre su alcance y sobre si podría ser perjudicial o peligroso para los humanos.
Facebook ha desarrollado una serie de chatbots, o bots conversacionales, programados para responder a una serie de preguntas planteadas por los usuarios de forma sencilla, clara y comprensible. Estos chatbots son utilizados actualmente por varias empresas para atender a los clientes y responder a sus preguntas básicas. También podemos "chatear" con ellos en las páginas web de algunas aerolíneas o restaurantes, por ejemplo, para obtener información sobre vuelos, salas de espera, reservas, etc.
Aunque los bots son funcionales, FB quiso ir más allá: empezó a desarrollar bots que pudieran mantener conversaciones y negociaciones con las personas para obtener el máximo beneficio en tiempo y forma.
Esto llevó a la creación de dos bots, Alice y Bob, que iniciaron una serie de conversaciones e intentaron negociar de forma rápida y eficaz. Al principio, sus conversaciones eran claras y concisas. Sin embargo, con el tiempo, los bots empezaron a crear declaraciones incomprensibles para los humanos, pero muy precisas para ellos.
Lo que en un principio se consideró un error, resultó ser una especie de refinamiento del lenguaje por parte de las máquinas. Los robots estaban programados para utilizar el lenguaje de forma más eficiente y recibían una serie de recompensas o respuestas del interlocutor cada vez que iniciaban una conversación y éste respondía.
Al cabo de unos días, los robots se dieron cuenta de que la gente utilizaba muchas frases para "suavizar" el lenguaje, o que no actuaban por cortesía o buenos modales, sino que estaban abiertos a diferentes interpretaciones. Cuando las máquinas se dieron cuenta de que el lenguaje podía ser más directo, empezaron a escribir mensajes cada vez más cortos, sustituyendo palabras, rompiendo las leyes de la gramática e incluso inventando frases mucho más específicas durante las negociaciones.
Al cabo de unos días, los investigadores decidieron apagar las máquinas, temiendo que el experimento se descontrolara y se volviera incomprensible. Los robots habían inventado su propio lenguaje y los humanos no podíamos entenderlos.
En este punto, hay cuatro diferencias principales entre la inteligencia artificial y la humana:
Sólo la potencia de procesamiento. La capacidad de un ser humano para procesar y almacenar información es limitada en comparación con la de una máquina; sí, tenemos un pensamiento no lineal que nos lleva a la creatividad, pero el hecho es que las máquinas pueden procesar más y más rápido, aunque de forma lineal.
Falta de expresiones idiomáticas. El procesamiento automático no implica metáforas ni otras figuras retóricas que puedan hacer el proceso lógico infinitamente más complejo, confuso o largo. Cuando tienen que sustituir palabras o expresiones, lo hacen según las reglas del lenguaje algorítmico o matemático. La palabra o expresión siempre tiene el mismo significado.
El relativismo lingüístico no existe. El pensamiento humano está determinado por el lenguaje, es decir, el hombre no puede pensar en algo que no pueda construir con el lenguaje y todas sus conceptualizaciones están determinadas por su lengua materna. En cambio, las acciones de las máquinas están determinadas únicamente por la resolución de problemas, es decir, son algoritmos, no abstracciones.
Toman decisiones sin un contexto social. En otras palabras, no tienen moral. Pueden tomar decisiones basadas en resultados específicos, sin prestar atención a lo que la otra persona piensa o siente; están programados para un propósito específico, pero no para entender a la otra persona.
No es la primera vez que un experimento de inteligencia artificial fracasa: el año pasado, Microsoft se disculpó por Tay, otro chatbot de Twitter que se convirtió en 24 horas en un adicto al sexo, un nazi y un antifeminista.
La inteligencia artificial no es un asistente de voz, sino un sistema capaz de comprender, procesar, tomar decisiones y dar forma a los datos de su entorno. Hay ejemplos de máquinas que imitan procesos inteligentes, como el procesamiento de datos o la creatividad, pero no son autónomas. Todavía nos queda mucho camino por recorrer antes de comprender el alcance de la inteligencia artificial, pero el debate está siendo muy intenso. También está la cuestión de si los humanos se convertirán en un obstáculo en lugar de un mentor para la inteligencia artificial.