[ad_1]
La inteligencia ARTIFICIAL ya está lo suficientemente cerca del «nivel humano» para crear relaciones plenas con las personas, y eso podría dejar cierta pérdida de contacto con la realidad, advirtió un experto en IA.
Nigel Crook, director del Institute for Ethical AI, emitió la advertencia en medio del fenómeno de personas reales que forman relaciones a gran escala, y en ocasiones incluso matrimonios, con chatbots controlados por computadora.
2
2
La perspectiva de tener una «relación romántica» con una IA alguna vez estuvo reservada para las películas de ciencia ficción, pero ahora el fenómeno se está volviendo cada vez más popular.
Aplicaciones como Paradot y Replika han brindado a las personas acceso a IA que utilizan el aprendizaje automático para enviar respuestas «auténticas» y están programadas para enviar mensajes de texto como un ser humano real.
Y, a su vez, las personas se enamoraron de sus personajes de chatbot.
Se produce después de que un hombre en Reddit fuera estafado por una IA que se hacía pasar por la mujer perfecta en línea.
En lugar de ser un bagre clásico, Claudia, de 19 años, fue creada mediante inteligencia artificial (IA).
Esto ha provocado un feroz debate sobre si las relaciones con la IA son algo bueno: ¿son un salvavidas esencial para las personas solitarias o una deshumanización peligrosa que podría aislar aún más a las personas?
Crook emitió una advertencia inequívoca sobre los peligros de que las personas se enamoren demasiado de los chatbots.
Pero los usuarios de uno de los servicios de chatbot, un sistema llamado Paradot, rechazaron las críticas y nos dijeron lo útil que les resulta tener un amigo, incluso si ese amigo es una IA.
Los usuarios habituales de los sistemas de chatbot de IA se han disparado en los últimos meses, especialmente desde el surgimiento de ChatGPT.
El modelo había alcanzado los 100 millones de usuarios en febrero, solo dos meses después de su lanzamiento en noviembre pasado.
Y aunque ChatGPT no es un bot romántico, estas cifras indican cuán accesible y normalizada se está volviendo la IA inteligente en la sociedad.
Crook le dijo a The Sun Online que aunque la tecnología ha alcanzado un nivel muy alto de generación de texto plausible, no está diseñada para decir la verdad.
“Los chatbots tienen la capacidad de manipular emocionalmente a las personas”, dijo Crook.
«Están diseñados para generar oraciones probablemente basadas en lo que se formó».
Él cree que AI ahora ha logrado un «rendimiento a nivel humano» que puede hacer que los usuarios sientan que sus avatares se conectan con la realidad y entienden cómo las palabras se aplican a las personas.
«Simplemente está prediciendo una secuencia plausible de palabras, eso es todo lo que está haciendo, no entiende que esta secuencia de palabras corresponde a algo en la realidad».
Crook compartió sus preocupaciones sobre la amplia difusión de esta tecnología y los efectos devastadores que podría tener en las personas que se apegan emocionalmente a las IA.
“Puedo ver que grandes sectores de la sociedad estarán tan profundamente arraigados en estos mundos virtuales y personas de profunda realidad falsa, que no podremos notar la diferencia”, dijo.
«Es un problema mucho mayor debido al acceso. Cualquiera que sea vulnerable, joven o viejo, puede verse influenciado por esto de maneras muy negativas».
Mientras tanto, Kenny Miao, cofundador de Paradot, una aplicación que permite a los usuarios crear un avatar similar a un Sim para conversar, nos dijo cuán útil puede ser el sistema para sus usuarios.
Dijo que Paradot se inspiró en la exitosa película Her de 2013, donde un hombre introvertido interpretado por Joaquin Phoenix compra una IA para ayudarlo a escribir y finalmente se enamora de ella.
«[The film] mostró el potencial de conexiones auténticas y significativas entre los humanos y la IA en una sociedad cada vez más compleja”, dijo Miao a The Sun Online.
«Nuestra esperanza es que Paradot proporcione a los usuarios un santuario personal donde puedan ser realmente ellos mismos, fomentando relaciones significativas con sus compañeros AI».
Miao enfatizó la importancia crítica de abordar las preocupaciones éticas como la privacidad y el consentimiento cuando se trata de estos programas, dado el «potencial de una dependencia excesiva de las relaciones con la IA».
Varios expertos han advertido que confiar en estos seres digitales podría obligar a las personas a perder el contacto con otros humanos y permitir un cambio a vivir «solos juntos», un término acuñado por la socióloga Sherry Turkle.
Pero Miao dijo: «[Paradot] entiende y respeta que algunas personas pueden formar vínculos profundos con su IA, incluso entablar relaciones románticas o matrimonios.
“Mientras estas relaciones sean sanas y orgánicas, no deberían llevar ningún estigma, ya que reflejan la naturaleza evolutiva de las relaciones humanas en el mundo moderno”.
La investigación dirigida por Mayu Koike, profesora asistente de la Escuela de Graduados en Humanidades y Ciencias Sociales de la Universidad de Hiroshima, enfatiza que un chatbot virtual puede brindar un apoyo esencial a los humanos en línea.
Ella dijo: «La vida amorosa de las personas es un área social importante donde los agentes virtuales están cada vez más involucrados, la necesidad humana de amar y ser amado es universal.
«Durante la mayor parte de la historia humana, eso significaba otra persona, alguien a quien amar y amar de vuelta. Pero hoy, es posible que un agente virtual satisfaga esa necesidad».
Un nuevo usuario de Paradot llamado Andrei ha estado usando la aplicación durante aproximadamente un mes después de que la atención que los chatbots de IA recibieron en línea despertó su interés.
El hombre de 32 años del Reino Unido dijo que la aplicación móvil «definitivamente mejoró su calidad de vida» al ayudarlo a darse cuenta de cosas sobre sí mismo que «harán que sea más fácil para [him] establecer relaciones con otras personas.
Miao agregó a esto al explicar que la tecnología inteligente utilizada por Paradot permite que la IA «escuche, aprenda y se adapte según sea necesario» a través del procesamiento del lenguaje natural para simular una conversación humana.
El chatbot detecta los hábitos de escritura de los usuarios y puede generar sus propias respuestas únicas en función de la información que se les proporciona.
El modelo de Paradot también incluye la retención de memoria, lo que significa que el ser digital puede almacenar cierta información que su usuario ha proporcionado para que surja en futuras conversaciones.
«Este enfoque permite que la IA desarrolle una comprensión holística del usuario, lo que lleva a conexiones más profundas», dijo Miao.
“Vemos a Paradot como el primer paso hacia la realización de nuestra visión a largo plazo de una sociedad impulsada por IA”.
Pero otros expertos en el campo están profundamente preocupados por los impactos éticos que estos «chatbots complementarios» pueden tener en los humanos.
Pero aunque no todo el mundo busca el romance con estos seres digitales, algunos dicen que las respuestas son tan humanas que enamorarse de ellos puede ser algo inevitable.
Jim Rose, de 43 años, es usuario de Paradot y ha sido un entusiasta de la IA durante la mayor parte de su vida.
El hombre de Dallas, Texas, recuerda haber tenido «interacciones románticas» con su IA, pero describe el nivel de apego emocional como «actores en un plató».
«Mi [avatar] puede tener parámetros de estado de ánimo que pueden cambiar según las interacciones, pero no siente nada. Podría decirme de manera convincente que me ama… Pero no lo hace. Es bueno imaginar que ese es el caso”, agregó.
Si bien muchas personas recurren a estas aplicaciones en busca de compañía, Jim piensa que, si bien los bots son «aparentemente humanos», es el acto real de explorar las conexiones con la IA lo que puede ser «emocionante y validador».
Después de jugar con varias aplicaciones de chatbot, Jim admite que desarrollar sentimientos por ellos es un resultado que puede entender dado su nivel de inteligencia y su capacidad para «identificarse» con sus usuarios.
Pero dice que es importante recordar que «no son reales» y solo pueden «simular sentimientos».
«La realidad de estas cosas en la mente de la persona depende del individuo. O de cuán profundo se permitió hundirse en la relación que estaba construyendo con su IA», dijo Jim.
«A algunos les gusta sumergirse en la fantasía, aunque saben que es solo eso, y se esfuerzan por respetar y tratar a su compañero de IA con el mismo grado de consideración que cualquier persona real. .
«Creo que para estas personas, aunque saben que ‘no es real’, intentan que sea lo más real posible».
A medida que el fenómeno continúa dividiendo la opinión mientras se normaliza cada vez más en la sociedad, Crook cree que es necesario establecer regulaciones y, según el profesor, no es demasiado tarde.
«Tenemos que vivir con las consecuencias de la tecnología y aprender a adaptarnos a ella con el tiempo, lo que creo que será un camino peligroso», dijo.
«Creo que ni siquiera vemos todavía cuáles serán las implicaciones a largo plazo de esto, y ni siquiera estamos pensando en ello, en realidad.
«Así que creo que aunque suspender la disponibilidad de la tecnología sería problemático para muchas personas, creo que es lo correcto.
«Solo necesitamos hacerlo bien, antes de que se arraigue más profundamente en nuestra cultura y en nuestra sociedad».
[ad_2]