Se ha visto a la inteligencia artificial inventando su propio lenguaje espeluznante y está desconcertando a los investigadores.

UN programa de inteligencia ARTIFICIAL ha desarrollado su propio lenguaje y nadie puede entenderlo. OpenAI es un desarrollador de sistemas de inteligencia…

Tipo: Guía práctica Lectura: 3 min Actualizado: 2022-06-02 22:25:05

UN programa de inteligencia ARTIFICIAL ha desarrollado su propio lenguaje y nadie puede entenderlo.

OpenAI es un desarrollador de sistemas de inteligencia artificial: sus programas son ejemplos fantásticos de supercomputación, pero tienen sus peculiaridades.

1

Un sistema de inteligencia artificial asignó estos nombres incomprensibles a los objetos y los investigadores no saben por qué

DALLE-E2 es el último sistema de inteligencia artificial de OpenAI: puede generar imágenes realistas o artísticas a partir de descripciones de texto ingresadas por el usuario.

DALLE-E2 representa un hito en el aprendizaje automático: el sitio de OpenAI dice que el programa "aprendió la relación entre las imágenes y el texto utilizado para describirlas".

Una demostración de SLAB-E2 incluye palabras clave interactivas para que los usuarios jueguen y generen imágenes: cambiar entre diferentes palabras clave dará como resultado imágenes, estilos y temas diferentes.

Pero el sistema se comporta de manera extraña: escribe su propio idioma con arreglos aleatorios de letras, y los investigadores no saben por qué.

Giannis Daras, estudiante de doctorado en informática de la Universidad de Texas, publicó un Feed de Twitter detallando el nuevo lenguaje inexplicable de DALLE-E2.

Daras le dijo a DALLE-E2 que creara una imagen de "agricultores hablando de verduras" y el programa lo hizo, pero el discurso de los agricultores decía "vicots" - una palabra de IA desconocida.

daras alimentados "vicottas" en el sistema DALLE-E2 e imágenes recuperadas de vegetales.

"Luego alimentamos las palabras: 'Apoploe vesrreaitars' y obtenemos pájaros". Daras escribió en Twitter. "¡Parece que los granjeros están hablando de pájaros, que echan a perder sus vegetales!"

Daras y un coautor escribieron un artículo sobre el "vocabulario oculto" de DALLE-E2.

Reconocen que decirle a DALLE-E2 que genere imágenes de palabras (el comando "una imagen de la palabra plano" es el ejemplo de Daras) normalmente hace que DALLE-E2 escupa "texto incomprensible".

Cuando se vuelva a conectar a DALLE-E2, este texto incomprensible se traducirá en imágenes de aviones, lo que dice mucho sobre cómo habla y piensa DALLE-E2.

Algunos investigadores de IA han argumentado que el texto incomprensible de DALLE-E2 es "ruido aleatorio".

Con suerte, no descubrimos que el segundo idioma del DALLE-E2 era una falla de seguridad que debía corregirse cuando ya era demasiado tarde.

¡Pagamos por tus historias!

¿Tienes una historia para el equipo de The US Sun?


M

Autora de la guia

Madox Vigo

Redacción

Actualizado: 2022-06-02 22:25:05 Politica editorial Correcciones

Por que confiar

Compartir

Guarda o comparte esta guia con el enlace limpio.