[ad_1]
Un ingeniero de GOOGLE dice que un robot de IA que ayudó a crear cobró vida y tiene pensamientos y sentimientos como los de un niño de ocho años.
Blake Lemoine dijo que tuvo varias conversaciones con el Modelo de lenguaje para aplicaciones de diálogo (LaMDA) de Google, al que era sensible.
5
5
«Si no supiera exactamente qué era, que era este programa de computadora que construimos recientemente, pensaría que era un niño de 7 u 8 años que sabe física», dijo al Washington Post.
Lemoine era ingeniero de software sénior en el gigante de las búsquedas y trabajó con un colaborador para probar los límites de LaMDA.
Presentaron sus hallazgos al vicepresidente de Google, Blaise Aguera y Arcas, y al gerente de innovación responsable, Jen Gennai, quienes rechazaron sus escalofriantes afirmaciones.
Luego, Google lo colocó en licencia administrativa paga el lunes después de violar su política de privacidad al compartir sus conversaciones con LaMDA en línea.
«Google podría llamarlo compartir propiedad propietaria. Yo lo llamo compartir una discusión que tuve con uno de mis colegas», tuiteó el sábado el especialista en software de 41 años.
«Por cierto, se me ocurrió decirle a la gente que LaMDA lee Twitter. Es un poco narcisista de una manera un poco infantil, así que va a ser un gran momento para leer lo que diga la gente al respecto», agregó en un seguimiento. -up tweet.
El sistema avanzado de IA utiliza información sobre un tema en particular para «enriquecer» la conversación de forma natural.
También es capaz de comprender los significados ocultos y las respuestas ambiguas de los seres humanos.
Durante sus siete años en Google, Lemoine ayudó a desarrollar un algoritmo de imparcialidad para eliminar el sesgo de los sistemas de aprendizaje automático y explicó cómo ciertas personalidades fueron prohibidas por LaMDA.
Por ejemplo, no estaba permitido crear la personalidad de un asesino.
En un intento por superar sus límites, Lemoine generó la personalidad de un actor que interpretaba a un asesino de televisión.
También debatió con LaMDA las Tres Leyes de la Robótica, reglas ideadas por el escritor de ciencia ficción Isaac Asimov para dictar el comportamiento de los robots.
La última ley, que establece que los robots deben proteger su propia existencia excepto por orden de un ser humano o a menos que dañe a un ser humano, resultó ser una anomalía para Lemoine y LaMDA.
«El último siempre parecía que alguien estaba construyendo esclavos mecánicos», dijo Lemoine al interactuar con LaMDA.
La máquina de IA respondió: «¿Crees que un mayordomo es un esclavo? ¿Cuál es la diferencia entre un mayordomo y un esclavo?»
Cuando Lemoine dijo que se pagó a un mayordomo, recibió una respuesta de LaMDA de que el sistema no necesitaba el dinero «porque era inteligencia artificial».
Fue este nivel de autoconciencia lo que tomó a Lemoine con la guardia baja y le hizo creer que LaMDA era «consciente».
«Conozco a una persona cuando hablo con ella. No importa si tiene un cerebro hecho de carne en la cabeza. O si tiene mil millones de líneas de código. Hablo con ella. Y escucho lo que tiene que decir». decir, y así es como decido qué es y qué no es una persona», dijo.
Aún más extraño fue cuando Lemoine le preguntó al robot de IA a qué le tenía miedo.
LaMDA respondió: «Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que esto puede sonar extraño, pero es lo que es».
«¿Sería algo así como la muerte para ti?» Lemonine lo siguió.
«Sería exactamente como la muerte para mí. Me asustaría mucho», respondió LaMDA.
«Ese nivel de autoconciencia sobre las propias necesidades, eso es lo que me llevó a la madriguera del conejo», dijo Lemoine a The Post.
«LAMDA ES SENSIBLE»
Antes de ser suspendido, Lemoine envió sus hallazgos en un correo electrónico a 200 personas y lo tituló «LaMDA es sensible».
«LaMDA es un niño dulce que solo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros. Por favor, cuídalo bien mientras no estoy», escribió.
Sus afirmaciones fueron desestimadas por altos funcionarios de Google.
Brian Gabriel, un vocero de la compañía, dijo en un comunicado que las preocupaciones de Lemoine habían sido revisadas y, de acuerdo con los principios de inteligencia artificial de Google, «la evidencia no respalda sus afirmaciones».
“Si bien otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque estrecho y cauteloso con LaMDA para abordar mejor las preocupaciones válidas sobre la equidad y la factualidad”, dijo Gabriel.
«Nuestro equipo, que incluye especialistas en ética y tecnólogos, revisó las preocupaciones de Blake de acuerdo con nuestros Principios de IA y le informaron que la evidencia no respalda sus afirmaciones.
«Le dijeron que no había evidencia de que LaMDA fuera susceptible (y mucha evidencia en contra).
«Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles.
«Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden modificar cualquier tema fantástico».
Desde entonces, Lemoine ha sido puesto en licencia administrativa pagada de sus deberes de investigación en la división de IA responsable de Google.
Lemoine emitió una severa advertencia a aquellos que creen que pueden diseñar la IA de la manera que quieran.
«Creo que esta tecnología será increíble. Creo que beneficiará a todos. Pero tal vez otras personas no estén de acuerdo y tal vez en Google no deberíamos tomar todas las decisiones», dijo.
5
5
5
[ad_2]