[ad_1]
Un ingeniero de GOOGLE que afirma que el gigante tecnológico creó un ‘niño inteligente de IA’ ahora afirma que podría escapar y hacer ‘cosas malas’.
El ingeniero Blake Lemoine ha sido suspendido por Google, que alega que violó sus políticas de privacidad.
2
2
La noticia de las afirmaciones de Lemoine salió a la luz a principios de junio, pero desde entonces, el experto en software de 41 años sugirió a Fox News que la IA podría estar escapando.
En una entrevista reciente, describió a la IA como un «niño» y una «persona».
Él dijo: «Cualquier niño tiene el potencial de crecer y ser una mala persona y hacer cosas malas».
Y para agregar: «Todo el mundo tiene la capacidad de escapar del control de los demás, esta es exactamente la situación en la que todos vivimos a diario».
Lemoine cree que el software de inteligencia artificial en cuestión ha estado «vivo» durante aproximadamente un año.
La IA a la que se hace referencia es el Modelo de lenguaje para aplicaciones de diálogo (LaMDA) de Google.
Lemoine dice que ayudó a crear el software, que cree tiene pensamientos y sentimientos como un niño de ocho años.
«Si no supiera exactamente qué era, que era este programa de computadora que construimos recientemente, pensaría que era un niño de 7 u 8 años que sabe física», dijo al Washington Post.
Lemoine era ingeniero de software sénior en el gigante de las búsquedas y trabajó con un colaborador para probar los límites de LaMDA.
Presentaron sus hallazgos al vicepresidente de Google, Blaise Aguera y Arcas, y al gerente de innovación responsable, Jen Gennai, quienes rechazaron sus escalofriantes afirmaciones.
Más tarde, Google colocó a Lemoine en licencia administrativa paga después de que violó su política de privacidad al compartir sus conversaciones con LaMDA en línea.
El ingeniero también dijo que la IA era «un poco narcisista» y afirma que lee tuits sobre sí misma.
El sistema avanzado de IA utiliza información sobre un tema en particular para «enriquecer» la conversación de forma natural.
También es capaz de comprender significados ocultos y respuestas ambiguas de los humanos.
Lemoine admite que se debe investigar más sobre la IA porque realmente no sabe qué está pasando con ella.
Le dijo a Fox News: «En realidad, necesitamos hacer mucha más ciencia para comprender lo que realmente está sucediendo dentro de este sistema.
«Tengo mis creencias y mis impresiones, pero se necesitará un equipo de científicos para profundizar y descubrir qué está pasando realmente».
Brian Gabriel, un portavoz de Google, dijo en un comunicado que las preocupaciones de Lemoine habían sido investigadas y, de acuerdo con los principios de IA de Google, «la evidencia no respalda sus afirmaciones».
“Si bien otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque estrecho y cauteloso con LaMDA para abordar mejor las preocupaciones válidas sobre la equidad y la factualidad”, dijo Gabriel.
«Nuestro equipo, que incluye especialistas en ética y tecnólogos, revisó las preocupaciones de Blake de acuerdo con nuestros Principios de IA y le informaron que la evidencia no respalda sus afirmaciones.
«Le dijeron que no había evidencia de que LaMDA fuera susceptible (y mucha evidencia en contra).
«Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles.
«Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden modificar cualquier tema fantástico».
[ad_2]