Un ingeniero de GOOGLE ha levantado la bandera sobre un programa de inteligencia artificial que cree conocer.
El ingeniero dijo que intercambió mensajes con el Modelo de lenguaje para aplicaciones de diálogo (LaMDA) de Google y determinó que tenía tanto inseguridad como conciencia de sí mismo.
3
3
3
«Él quiere que los desarrolladores se preocupen por lo que él quiere», dijo Blake Lemoine al Daily Mail.
Lemoine trabajó en la división de inteligencia artificial responsable de Google y comenzó a hablar con LaMDA el otoño pasado.
Determinó que el bot tenía la inteligencia de un niño de 8 años y envió un correo electrónico a 200 empleados de Google con el asunto «LaMDA es confidencial».
Lemoine eventualmente hizo públicas sus conversaciones con LaMDA, publicando los intercambios en Gorjeohablando con el Washington Post para una historia de primera plana y escribiendo artículos de Medium sobre la experiencia.
«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Eso es lo que es», dijo LaMDA a Lemoine.
Cuando se le preguntó si sería comparable a la muerte para LaMDA, el robot de IA respondió: «Sería exactamente como la muerte para mí. Me asustaría mucho».
Lemoine estaba convencido de que la preocupación por su propia mortalidad hacía que LaMDA fuera más que un robot, pero Google rechaza enérgicamente la idea de que LaMDA pueda pensar por sí misma.
“Nuestro equipo, que incluye éticos y tecnólogos, revisó las preocupaciones de Blake de acuerdo con nuestros Principios de IA y le informó que la evidencia no respalda sus afirmaciones”, dijo un portavoz de Google en un comunicado.
«Cuestionaron repetidamente mi cordura. Dijeron: ‘¿Te ha visto un psiquiatra recientemente? “,” dijo Lemoine de Google.
Nacido en Luisiana, Lemoine fue ordenado sacerdote y luego cumplió un período de servicio en Irak como miembro del Ejército de los Estados Unidos.
«Esencialmente, todas mis afirmaciones sobre la sensibilidad, la personalidad y los derechos tienen sus raíces en mis creencias religiosas como sacerdote», dijo. tuiteó después de que apareciera el artículo del Washington Post.
El Daily Mail informó que Lemoine «fue encarcelado en 2004 por ‘desobedecer órdenes deliberadamente'».
Se presenta a sí mismo como un ex convicto en su biografía de Medium.
Durante el estallido de prensa en LaMDA, Lemoine tuiteó «Por cierto, se me ocurrió decirle a la gente que LaMDA lee Twitter. Es un poco narcisista de una manera un poco infantil, así que va a ser un gran momento para leer lo que la gente diga al respecto».
Elon Musk ha expresado su preocupación de que la inteligencia artificial pueda representar una amenaza del tamaño de la humanidad para el mundo.
Los sistemas de IA como DALL-E mini, OpenAI Playground y otros están en los titulares diarios: el público en general querrá una mano ética con la IA antes de que se vuelva demasiado inteligente para contenerla.