Se ha visto a la inteligencia artificial inventando su propio lenguaje espeluznante y está desconcertando a los investigadores.

UN programa de inteligencia ARTIFICIAL ha desarrollado su propio lenguaje y nadie puede entenderlo.

OpenAI es un desarrollador de sistemas de inteligencia artificial: sus programas son ejemplos fantásticos de supercomputación, pero tienen sus peculiaridades.

1

DALLE-E2 es el último sistema de inteligencia artificial de OpenAI: puede generar imágenes realistas o artísticas a partir de descripciones de texto ingresadas por el usuario.

DALLE-E2 representa un hito en el aprendizaje automático: el sitio de OpenAI dice que el programa «aprendió la relación entre las imágenes y el texto utilizado para describirlas».

Una demostración de SLAB-E2 incluye palabras clave interactivas para que los usuarios jueguen y generen imágenes: cambiar entre diferentes palabras clave dará como resultado imágenes, estilos y temas diferentes.

Pero el sistema se comporta de manera extraña: escribe su propio idioma con arreglos aleatorios de letras, y los investigadores no saben por qué.

Giannis Daras, estudiante de doctorado en informática de la Universidad de Texas, publicó un Feed de Twitter detallando el nuevo lenguaje inexplicable de DALLE-E2.

Daras le dijo a DALLE-E2 que creara una imagen de «agricultores hablando de verduras» y el programa lo hizo, pero el discurso de los agricultores decía «vicots» – una palabra de IA desconocida.

daras alimentados «vicottas» en el sistema DALLE-E2 e imágenes recuperadas de vegetales.

«Luego alimentamos las palabras: ‘Apoploe vesrreaitars’ y obtenemos pájaros». Daras escribió en Twitter. «¡Parece que los granjeros están hablando de pájaros, que echan a perder sus vegetales!»

Daras y un coautor escribieron un artículo sobre el «vocabulario oculto» de DALLE-E2.

Reconocen que decirle a DALLE-E2 que genere imágenes de palabras (el comando «una imagen de la palabra plano» es el ejemplo de Daras) normalmente hace que DALLE-E2 escupa «texto incomprensible».

Cuando se vuelva a conectar a DALLE-E2, este texto incomprensible se traducirá en imágenes de aviones, lo que dice mucho sobre cómo habla y piensa DALLE-E2.

Algunos investigadores de IA han argumentado que el texto incomprensible de DALLE-E2 es «ruido aleatorio».

Con suerte, no descubrimos que el segundo idioma del DALLE-E2 era una falla de seguridad que debía corregirse cuando ya era demasiado tarde.