Se ha visto a la inteligencia artificial inventando su propio lenguaje espeluznante y está desconcertando a los investigadores.
UN programa de inteligencia ARTIFICIAL ha desarrollado su propio lenguaje y nadie puede entenderlo. OpenAI es un desarrollador de sistemas de inteligencia…
UN programa de inteligencia ARTIFICIAL ha desarrollado su propio lenguaje y nadie puede entenderlo.
OpenAI es un desarrollador de sistemas de inteligencia artificial: sus programas son ejemplos fantásticos de supercomputación, pero tienen sus peculiaridades.
1
Un sistema de inteligencia artificial asignó estos nombres incomprensibles a los objetos y los investigadores no saben por qué
DALLE-E2 es el último sistema de inteligencia artificial de OpenAI: puede generar imágenes realistas o artísticas a partir de descripciones de texto ingresadas por el usuario.
DALLE-E2 representa un hito en el aprendizaje automático: el sitio de OpenAI dice que el programa "aprendió la relación entre las imágenes y el texto utilizado para describirlas".
Una demostración de SLAB-E2 incluye palabras clave interactivas para que los usuarios jueguen y generen imágenes: cambiar entre diferentes palabras clave dará como resultado imágenes, estilos y temas diferentes.
Pero el sistema se comporta de manera extraña: escribe su propio idioma con arreglos aleatorios de letras, y los investigadores no saben por qué.
Giannis Daras, estudiante de doctorado en informática de la Universidad de Texas, publicó un Feed de Twitter detallando el nuevo lenguaje inexplicable de DALLE-E2.
Daras le dijo a DALLE-E2 que creara una imagen de "agricultores hablando de verduras" y el programa lo hizo, pero el discurso de los agricultores decía "vicots" - una palabra de IA desconocida.
daras alimentados "vicottas" en el sistema DALLE-E2 e imágenes recuperadas de vegetales.
"Luego alimentamos las palabras: 'Apoploe vesrreaitars' y obtenemos pájaros". Daras escribió en Twitter. "¡Parece que los granjeros están hablando de pájaros, que echan a perder sus vegetales!"
Daras y un coautor escribieron un artículo sobre el "vocabulario oculto" de DALLE-E2.
Reconocen que decirle a DALLE-E2 que genere imágenes de palabras (el comando "una imagen de la palabra plano" es el ejemplo de Daras) normalmente hace que DALLE-E2 escupa "texto incomprensible".
Cuando se vuelva a conectar a DALLE-E2, este texto incomprensible se traducirá en imágenes de aviones, lo que dice mucho sobre cómo habla y piensa DALLE-E2.
Algunos investigadores de IA han argumentado que el texto incomprensible de DALLE-E2 es "ruido aleatorio".
Con suerte, no descubrimos que el segundo idioma del DALLE-E2 era una falla de seguridad que debía corregirse cuando ya era demasiado tarde.
¡Pagamos por tus historias!
¿Tienes una historia para el equipo de The US Sun?
Fuentes consultadas
Fuentes y referencias
Consulta referencias útiles para ampliar o contrastar esta guía.