Facebook desactiva la inteligencia artificial que inventó su propio idioma

¿Es posible perder el control de una inteligencia artificial (AI)? Facebook ha tenido que detener las pruebas que estaban realizando con su propio sistema de inteligencia artificial por miedo a perder su control.

El sistema creado por el grupo de ingeniería en Facebook estaba siendo entrenado en inglés para poder comunicarse con sus creadores, pero se dieron cuenta que el sistema empezó a dejar de usar el inglés para hablar en su propia idioma. Entre sus posibilidades estaba comunicarse con otros sistemas de AI, y al descubrir que también hablaban en inglés, empezó a desarrollar un idioma diferente más efectivo para la comunicación entre máquinas.

Es un ejemplo de cómo la inteligencia artificial busca mejores formas de comunicación cuando no tienen que hablar con humanos. En uno de los ejemplos el bot Bob y el bot Alice estaban hablando, comunicándose con frases que visto desde nuestro punto de vista, carecen de formato o lógica, repitiendo letras o palabras.

Conversación entre los bots con inteligencia artificial de Facebook. Captura: Facebook

Bob mandó un mensaje que podía leer «I can i i everything else» a Alice, a la que este respondió «balls have zero to me to me to me to me to me to me to me…». Una serie de palabras que parece sinsentido y que repiten palabras… ¿Qué querían decir?

Los investigadores de Facebook creen que los bots han inventado su propio idioma y repetían palabras para indicar cuántos elementos podían manejar.

Los investigadores enseñan a hablar a las inteligencias artificiales, dándoles un idioma que nosotros usamos, pero cuando se realizan variaciones automáticas por estos sistemas, somos incapaces de entender su idioma. Y cuando creas bots cuyo fin es que hablen con otros humanos, que prefieran hablar su propio idioma no sirve de mucho.

+ Info | Fast Co. Design, Ángel Jiménez de Luis