Según un estudio reciente, un organismo de control DIGITAL que utilice inteligencia artificial (IA) podría ayudar a mantener seguros a los niños en línea.
La IA ‘responsable’ puede ayudar a evitar que los niños vean contenido dañino en línea y atrapar a los depredadores en el proceso.
1
Una nueva investigación de la Universidad de Warwick, Reino Unido, descubrió que la IA podría usarse para hacer más que solo codificar u organizar planes de comidas, como el popular ChatGPT.
La cantidad de contenido que se encuentra solo en las plataformas de redes sociales es imposible para un humano examinar y catalogar por completo.
Pero un moderador de IA o un «bot de la policía» puede filtrar grandes cantidades de lenguaje e imágenes.
Es capaz de crear “diccionarios” de información sobre cada una de las áreas más peligrosas que amenazan a niños y jóvenes.
Esto incluye contenido que incite al odio, ciberacoso, información sobre suicidio, trastornos alimentarios, abuso infantil y abuso sexual.
«Si los reguladores entendieran lo que es posible, la tecnología ‘inteligente’ que lee entre líneas y separa las comunicaciones benignas de las reclamaciones, podrían ordenar su presencia en las leyes que buscan aprobar», dijo Shweta Singh, profesor de la Escuela de Negocios de Warwick. y uno de los autores de la investigación.
“Hasta ahora, los legisladores han permitido en gran medida que las plataformas de redes sociales marquen su propia tarea, lo que provocó la indignación tanto de los cuidadores de jóvenes vulnerables como de los defensores de la libertad de expresión.
«Los legisladores necesitan una mejor comprensión de la tecnología que buscan gobernar».
Los investigadores descubrieron que un sistema de inteligencia artificial que utiliza algoritmos de procesamiento de lenguaje natural, como ChatGPT, pero está programado para comprender mejor la jerga y el lenguaje de Internet, puede detectar cosas como los humanos.
Luego, la IA puede comprender el contexto de ciertas palabras, los matices del habla y las conexiones sociales entre las personas, lo que también tiene en cuenta su edad.
Los mejores consejos y trucos para teléfonos y dispositivos.
¿Buscas consejos y trucos para tu teléfono? ¿Quiere encontrar estas características secretas en las aplicaciones de redes sociales? Tenemos lo que necesitas…
¡Pagamos por tus historias! ¿Tiene una historia para el equipo de tecnología y ciencia de Sun Online? Envíenos un correo electrónico a [email protected]