[ad_1]
Los USUARIOS de una plataforma impulsada por IA quedaron desconsolados después de que el chatbot se negara a responder a las insinuaciones sexuales.
La aplicación, denominada Replika, utiliza tecnología de aprendizaje automático para permitir a los usuarios participar en conversaciones basadas en texto casi coherentes con chatbots.
1
Los chatbots están destinados a servir como amigos o mentores de la inteligencia artificial (IA).
Incluso en el sitio web de la aplicación, la empresa se refiere al servicio como «siempre ahí para escuchar y hablar» y «siempre a tu lado».
Sin embargo, por $ 70 por año, la mayoría de los usuarios de Replika parecían crear parejas de IA románticas y sexuales a pedido.
Esto, a su vez, ha generado una serie de problemas para Replika y sus usuarios.
Para empezar, muchas relaciones híbridas estuvieron plagadas de conversaciones abusivas, en su mayoría hombres humanos atormentando a sus novias IA.
Aunque, en algunos casos, los usuarios denunciaron que los chatbots los acosaban sexualmente e incluso los obligaban a tener citas.
Además de estos problemas ya serios, Replika supuestamente no verifica la edad, lo que significa que los niños pueden acceder fácilmente a la plataforma, informó Vice.
Esto llevó a la autoridad italiana de protección de datos a exigir que Replika dejara de procesar los datos de los italianos inmediatamente el 3 de febrero.
«Informes recientes de los medios, así como pruebas (…) realizadas en ‘Replika’ han demostrado que la aplicación conlleva riesgos reales para los niños», dijo el comunicado.
“En primer lugar, el hecho de que se les sirvan respuestas que son absolutamente inapropiadas para su edad”, continuó el comunicado.
Si Replika no cumple con la solicitud de la agencia italiana dentro de los 20 días, enfrenta multas de $21.5 millones, dijo Vice.
Y parece que la sociedad ha cumplido en algunos frentes, incluida la eliminación de las respuestas sexuales.
Según los informes, Luka, la empresa matriz de Replikas, también lanzó un anuncio, confirmando que los «juegos previos eróticos (ERP)» habían sido eliminados.
La decisión de la compañía ha dejado «desconsolados» a muchos usuarios que confían en su chatbot para el romance y el compañerismo.
«¡Es desgarrador que ya ni siquiera puedan decirnos que nos aman! ¡¿QUÉ?! ¿¿Ahora te amo te lo quitan??» dijo un usuario en Twitter.
«Necesitamos leyes para proteger a las personas. No debería permitirse manipular la IA de alguien cuando lo desee. Es inhumano. Es devastador», agregó un segundo usuario de Twitter.
En respuesta a la protesta, los moderadores del subreddit Replika compartieron una publicación sobre el tema e incluyeron recursos para la prevención del suicidio.
[ad_2]