Según un alto ejecutivo de Google, los bots de IA como ChatGPT pueden «alucinar» y dar a los usuarios afirmaciones falsas convincentes.
ChatGPT ha crecido en popularidad desde su lanzamiento en noviembre y ha hecho que muchas personas se den cuenta de los beneficios diarios de la inteligencia artificial (IA).
1
Aunque es muy inteligente, la IA aún no se puede invocar por completo, dijo el jefe del motor de búsqueda de Google, Prabhakar Raghavan, al periódico alemán Welt Am Sonntag el sábado.
«Este tipo de inteligencia artificial del que estamos hablando a veces puede conducir a algo que llamamos alucinaciones», explicó Raghavan.
«Esto luego se expresa de tal manera que una máquina entrega una respuesta convincente pero completamente ficticia».
Un robot de IA suele ser más inteligente que la persona promedio, pero fue desarrollado por humanos, lo que significa que puede ser susceptible a errores y sesgos humanos.
Se ha advertido a las personas que no hagan preguntas a la IA que no puedan confirmar por sí mismas, como asesoramiento legal.
Pero millones de personas aún acudían en masa a ChatGPT para ayudarse a sí mismos con una variedad de tareas, incluida la corrección de errores de codificación o la creación de nuevas recetas.
«Los enormes modelos de lenguaje detrás de esta tecnología hacen que sea imposible para los humanos monitorear cada comportamiento concebible del sistema», agregó Raghavan.
«Pero queremos probarlo a una escala lo suficientemente grande como para que, en última instancia, estemos satisfechos con las métricas que estamos utilizando para verificar la veracidad de las respuestas.
«Estamos pensando en cómo podemos integrar estas opciones en nuestras funciones de búsqueda, especialmente para las preguntas que no tienen una sola respuesta».
Google presentó la semana pasada su chatbot de inteligencia artificial, conocido como Bard, que pretende rivalizar con ChatGPT.
ChatGPT, creado por OpenAI, obtuvo una gran cantidad de seguidores en cuestión de meses.
Claramente, los gigantes de la industria quieren una parte del pastel de la IA.
OpenAI ahora cuenta con Microsoft como uno de los principales inversores, ya que el gigante tecnológico planea vincular ChatGPT a su propio motor de búsqueda, Bing.
La oferta de inteligencia artificial de Google, Bard, está siendo probada actualmente por un puñado de afortunados usuarios beta.
La compañía aún tiene que revelar cuándo lanzará su chatbot.
«Por supuesto que sentimos la urgencia, pero también sentimos la gran responsabilidad», dijo Raghavan.
“Nos mantenemos en un estándar muy alto.
«Y también es mi objetivo ser un líder en chatbots en términos de integridad de la información, pero también de las responsabilidades que asumimos.
«Es la única manera de conservar la confianza del público».
Los mejores consejos y trucos para teléfonos y dispositivos.
¿Buscas consejos y trucos para tu teléfono? ¿Quiere encontrar estas características secretas en las aplicaciones de redes sociales? Tenemos lo que necesitas…
¡Pagamos por tus historias! ¿Tiene una historia para el equipo de tecnología y ciencia de Sun Online? Envíenos un correo electrónico a [email protected]