menu
search
Tecnología Facebook |

Facebook: la historia real detrás de los robots que "inventaron su propio idioma"

Se trata de Alice y Bob, dos inteligencias artificiales que se comunicaban entre sí de un modo que nadie entendía

La inteligencia artificial ocupa cada vez más sectores. Desde los algoritmos que regulan a qué contenido acceden los usuarios en las redes sociales a los asistentes personales en teléfonos inteligentes, pasando por la conducción autónoma y hasta por su presencia en fábricas y hospitales, está claro que el futuro tendrá a la inteligencia artificial como protagonistas.

Asimismo, se espera que la relación de las IA con los seres humanos implicará que estas puedan aprender por sí mismas, volverse más eficientes y casi indistinguibles de las personas. Precisamente eso es lo que pretendía Facebook cuando creó dos sistemas IA, Alice y Bob… aunque luego los desconectó, por comunicarse de un modo que nadie entendía, pero, ¿qué pasó de verdad?

De acuerdo con las noticias que circularon en aquel momento, Facebook habría desconectado dos de sus robots de inteligencia artificial, Alice y Bob, después de que comenzaron a hablar entre ellos en un idioma que inventaron. Si bien algunos elementos de esta historia futurista son ciertos, no todo lo es. Alice y Bob eran dos chatbots, es decir, programas informáticos que imitan conversaciones humanas a través de texto. Debido a que estos programas aún no son capaces de funciones muy sofisticadas más allá de, por ejemplo, responder preguntas de los clientes o pedir comida, el Grupo de Investigación de Inteligencia Artificial (FAIR) de Facebook se dispuso a ver si se podían enseñarles a negociar.

image.png
Alice y Bob comenzaron a negociar entre ellos, pero los expertos se dieron cuenta de que no habían programado a los bots para que se limitaran a respetar las reglas del inglés, por lo que el resultado era un diálogo aparentemente sin sentido.

Alice y Bob comenzaron a negociar entre ellos, pero los expertos se dieron cuenta de que no habían programado a los bots para que se limitaran a respetar las reglas del inglés, por lo que el resultado era un diálogo aparentemente sin sentido.

Usando un juego en el que tanto los dos chatbots como los jugadores humanos intercambiaban artículos virtuales como libros, sombreros y pelotas, Alice y Bob demostraron que podían hacer tratos con diversos grados de éxito. Para ello, los científicos del grupo FAIR utilizaron un software de inteligencia artificial y una interfaz cerebro-ordenador, pero cuando Alice y Bob comenzaron a negociar entre ellos, los expertos se dieron cuenta de que no habían programado a los bots para que se limitaran a respetar las reglas del inglés, por lo que el resultado era un diálogo aparentemente sin sentido.

En una publicación de Facebook, Dhruv Batra, miembro de FAIR, dijo que este comportamiento no era alarmante, sino “un subcampo bien establecido de la IA, con publicaciones que se remontan a décadas. En pocas palabras, los agentes en entornos que intentan resolver una tarea a menudo encontrarán formas poco intuitivas de maximizar una recompensa. Analizar la función de recompensa y cambiar los parámetros de un experimento NO es lo mismo que desconectar o apagar la IA. Si ese fuera el caso, todos los investigadores de IA han estado cerrando la IA cada vez que hay un error”. En pocas palabras, Facebook puso en pausa a ambos botspara afinar las reglas idiomáticas que manejaban, pero no hubo ningún peligro ni se inventaron un idioma.

Temas