29 abr. 2025

Facebook tuvo que apagar su IA por desarrollar su idioma

Facebook apagó la tecnología en inteligencia artificial que era entrenada para realizar negociaciones. El motivo: había creado su propio idioma, uno más “eficiente” y “lógico” que el inglés con el que había sido entrenada, informa Digital Journal. La máquina fue “eliminada” solo pocos días después de iniciar sus pruebas, precisa Gizmodo.

El nuevo lenguaje era extraño y aparentemente erróneo. Fue elaborado por los 2 agentes con los que contaba la tecnología: Bob y Alice. Investigadores querían que estas “figuras” aprendan a negociar, pero de repente dejaron de hablar en inglés para conversar en algo similar a palabras aleatorias y sin sentido. Aparentemente, se había cansado de los diversos matices e inconsistencias del idioma. Así, su lenguaje convirtió el inglés en un sistema de palabras de código. El gran problema no era la iniciativa, sino que las frases empleadas llegaron a ser ininteligibles para ellos –aunque perfectos para los agentes–. Así, la tecnología se comunicaba consigo misma sin que sus creadores sepan sobre qué.

“Gizmodo” compartió un ejemplo de conversación entre los agentes. Bob dijo: “I can i i everything else” (Yo puedo yo yo todo lo demás). Y Alice le respondió: “Balls have zero to me to me to me to me to me to me to me to (bolas tienen cero a mi a mi a mi a mi a mi a mi a). La conversación siguió con estos patrones. No obstante, pese a que en un primer momento todo marchaba como se tenía contemplado, incluso, los bots negociaban entre ellos cada vez más y mejor, ocurrió de la nada un cambio inesperado.

La empresa quiere que su inteligencia artificial se desarrolle en inglés para que pueda relacionarse con cualquier persona y porque sino se fuese el caso, sería imposible la comunicación con la máquina.