[ad_1]
Se ha visto que el software de IA que genera imágenes crea su propio vocabulario, lo que lleva a afirmaciones recientes de que se ha vuelto «demoníaco».
Los creadores de DALLE-2 AI se sorprendieron al descubrir su lenguaje oculto, pero le dijeron exclusivamente a The Sun que otras IA representan un peligro más grave.
1
El físico genio Stephen Hawking reveló una vez sus temores de que las máquinas pensantes algún día pudieran dominar el mundo.
Muchas personas comparten esta opinión, por lo que no sorprende que la noticia de un sistema llamado DALLE-E2 que escribe su propio idioma haya causado preocupación.
Giannis Daras, doctorado en informática. estudiante de la Universidad de Texas, publicó un Feed de Twitter detallando el nuevo lenguaje inexplicable de DALLE-E2.
Daras le dijo a DALLE-E2 que creara una imagen de «agricultores hablando de verduras» y el programa lo hizo, pero el discurso de los agricultores decía «vicots» – una palabra desconocida inventada por la IA.
daras alimentados «vicottas» en el sistema DALLE-E2 e imágenes recuperadas de vegetales.
«Luego alimentamos las palabras: ‘Apoploe vesrreaitars’ y obtenemos pájaros», escribió Daras en Twitter.
«¡Parece que los granjeros están hablando de pájaros, que echan a perder sus vegetales!»
Daras y su co-investigador Alexandros G. Dimakis escribieron sobre el «vocabulario oculto» de DALLE-E2 y hablaron con The Sun sobre su investigación.
Le dijeron a The Sun: «Lo que hemos encontrado es que parece haber algunas palabras galimatías especiales que hacen que DALLE-2 genere objetos, con cierta consistencia. Por ejemplo, cuando le pedimos al generador que cree ‘imágenes'». Apoploe vesrreaitais (un texto galimatías) sistemáticamente da imágenes de pájaros.
«Además, DALLE-2 a veces puede producir imágenes de estas palabras incoherentes, y así es como las encontramos.
«Una explicación probable es que se trata de mezclas de palabras reales que significan especies de aves, por ejemplo, un Apoploe podría ser una mezcla de Apodidae y Ploceidae, que son familias de aves reales».
Agregaron: “Queremos enfatizar que este es un ataque contradictorio y por lo tanto no es necesario trabajar todo el tiempo.
«Si un sistema se comporta de manera extremadamente impredecible, incluso si sucede una de cada diez veces y con una entrada inusual, sigue siendo un gran problema de seguridad e interpretación».
A pesar de los múltiples informes que afirman que este es un ejemplo de que la IA piensa por sí misma y desobedece a los humanos, Daras y Dimakis no están demasiado preocupados.
Le dijeron a The Sun: «No vemos que la IA se vuelva independiente como algo plausible con las técnicas actuales».
Sin embargo, creen que la IA todavía presenta riesgos muy serios.
Los investigadores explicaron: “Hay muchos riesgos muy serios con la IA en este momento que son mucho más inmediatos.
«Me vienen a la mente la equidad, la transparencia, la solidez y la interpretabilidad de los modelos de IA y la concentración de datos y poder de cómputo en muy pocas organizaciones».
Agregaron: “Los modelos de IA, como cualquier otra tecnología, no son inherentemente buenos o malos.
«Sin embargo, los modelos de IA ya pueden facilitar acciones perversas como discriminar a ciertas poblaciones, amplificar los prejuicios, polarizar a los grupos sociales y elevar las barreras de entrada monopólicas».
Entonces, la buena noticia es que no tienes que preocuparte de que las máquinas de IA demoníacas se apoderen del mundo en el corto plazo.
Eso no significa que la IA sea perfecta, y hay problemas que deben abordarse ahora mismo.
Los investigadores le dijeron a The Sun: «Creemos que hay muchos problemas que deben resolverse antes de que nos preocupemos por la conciencia de la IA.
«Nuestro descubrimiento agrega un elemento más a la larga lista de desafíos de interpretación y seguridad de la IA que deben abordarse».
¡Pagamos por tus historias!
¿Tienes una historia para el equipo de The US Sun?
[ad_2]