El propietario de FACEBOOK, Meta, se vio obligado a «pausar» un experimento público de inteligencia artificial después de que comenzó a difundir información errónea y comentarios ofensivos.
Project Galactica tenía como objetivo resolver la «sobrecarga de información en la ciencia» mediante el uso de IA para examinar 48 millones de artículos y libros de texto.
1
Pero en cambio, los evaluadores lo encontraron diciendo todo tipo de tonterías, algunas de ellas despectivas y peligrosas.
Entre ellos estaban los beneficios de comer vidrio triturado y ser blanco, según TNW que probó el sistema.
También dio instrucciones incorrectas sobre cómo hacer napalm, la sustancia utilizada para crear una bomba, en una bañera.
Unos días después del lanzamiento de la demostración, los jefes de Meta tuvieron que eliminarla drásticamente de Internet.
Facebook publicó una advertencia en el sitio de tecnología de que «los modelos de lenguaje pueden alucinar».
“No hay garantía de resultados veraces o confiables de los modelos de lenguaje, incluso los grandes entrenados en datos de alta calidad como Galactica”, dijo la red social.
«NUNCA SIGA LOS CONSEJOS DE UN MODELO DE LENGUA SIN VERIFICACIÓN».
La compañía también dijo que el sistema no funcionaba tan bien cuando había menos información disponible sobre un tema en particular.
Agregaron: «Los modelos de lenguaje a menudo son seguros pero falsos.
«Parte del texto generado por Galactica puede parecer muy auténtico y muy seguro, pero puede estar sutilmente equivocado en aspectos importantes.
«Este es especialmente el caso del contenido altamente técnico.«
Al anunciar el final de la demostración por ahora, la banda dijo: «Gracias a todos por probar la demostración del modelo Galactica.
“Agradecemos los comentarios que hemos recibido hasta ahora de la comunidad y hemos pausado la demostración por el momento.
«Nuestros modelos están disponibles para que los investigadores aprendan más sobre el trabajo y reproduzcan los resultados en el documento».
Los mejores consejos y trucos para teléfonos y dispositivos.
¿Buscas consejos y trucos para tu teléfono? ¿Quiere encontrar estas características secretas en las aplicaciones de redes sociales? Tenemos lo que necesitas…
¡Pagamos por tus historias! ¿Tiene una historia para el equipo de tecnología y ciencia de Sun Online? Envíenos un correo electrónico a [email protected]