[ad_1]
Las aplicaciones de VIDEO que pueden crear instantáneamente semejanzas sexualizadas falsas están dirigidas a niños de hasta nueve años, según descubrió una investigación de Sun on Sunday.
Los jóvenes simplemente ingresan una imagen del rostro de un niño o una niña y, en segundos, se transpone a un cuerpo con poca ropa en una pose provocativa.
4
4
Una de las aplicaciones impulsadas por IA, Facemega, se eliminó de Apple App Store y Google Play esta semana luego de nuestra investigación.
Aún así, el grupo de vigilancia en línea App Magic estima que la aplicación ya se ha descargado más de un millón de veces desde su lanzamiento el año pasado.
El uso de videos y fotos falsos impulsados por IA ha aumentado en un 900 % desde 2019.
Carolyn Bunting, directora ejecutiva de la organización de seguridad cibernética infantil Internet Matters, nos dijo: «La creación de deepfakes sexualizados y no consensuados en estas aplicaciones es increíblemente preocupante, al igual que el impacto que este tipo de contenido puede tener en los niños. .
“Usar la imagen de alguien con fines sexuales sin su consentimiento será extremadamente dañino para el niño. Esto puede conducir a problemas complejos y duraderos que afectan su bienestar.
Antes de que Facemega fuera retirado de las tiendas de aplicaciones, había subido al puesto 77 en el ranking de entretenimiento, por encima de Lego. Costaba £ 7,49 por semana y se consideró adecuado para niños de «nueve años o más».
Al poner en riesgo la vida de los jóvenes, ha ganado millones de libras tanto de las tiendas de aplicaciones como del desarrollador, Ufoto Ltd, propiedad de la empresa matriz china Wondershare.
A los usuarios nunca se les pide que verifiquen su edad cuando acceden a la tecnología de edición de imágenes, pero la elección de videos para injertar una cara incluye mujeres con poca ropa en bikini y una sección etiquetada como Caliente.
Diez segundos después de cargar su identificación con foto, la magia de AI la asocia con un cuerpo diferente con resultados a menudo alarmantes.
Luego de nuestra investigación, el desarrollador de Facemega eliminó las categorías Hot y For Women, que contenían videos sexualmente provocativos, de su aplicación.
Las aplicaciones similares a Facemega permanecen en las principales plataformas, tejiendo su inquietante red de realidad retorcida.
4
Face Swap Video de Deep Fake, creado por Deepfaker LLC con sede en EE. UU., se anunció esta semana en la App Store como apto para niños de cuatro años en adelante. El anuncio muestra a una mujer joven siendo intercambiada en la foto de otra persona en las redes sociales, pero no de manera sexual.
Luego, comienza a rodar un video, lo que dificulta distinguir entre lo que es real y lo que es falso.
Una prueba gratuita de tres días conduce a una suscripción de £ 7.99 por semana.
En Faceswap, también disponible para mayores de nueve años en la App Store, los niños pueden acceder a deepfakes de forma gratuita antes de tener que pagar una suscripción anual de £19.99.
Nuestras revelaciones se producen solo unos meses después de que los ministros anunciaran que se atacaría la pornografía profundamente falsificada, con la creación y el intercambio no autorizados de imágenes ilegales en virtud de su Proyecto de ley de seguridad en línea aprobado pero aún no promulgado.
La organización benéfica para niños NSPCC ha pedido al gobierno que imponga una obligación legal a los principales proveedores de aplicaciones para ayudar a proteger a los objetivos de esas aplicaciones, especialmente mujeres y niñas.
Rani Govender de la NSPCC agregó: “Las tiendas de aplicaciones tienen un papel importante que desempeñar en la prevención de los riesgos de la tecnología deepfake en la fuente. El gobierno también puede actuar a través de su proyecto de ley de seguridad en línea agregando una obligación legal para que las empresas aborden la violencia contra las mujeres y las niñas en línea.
El año pasado, el regulador de comunicaciones Ofcom dijo que las imágenes y videos falsos o engañosos se encuentran entre los 20 principales daños potenciales en línea que enfrentan los usuarios de Internet del Reino Unido.
La plataforma educativa Safer Schools informa que la cantidad de deepfakes en línea aumentó de alrededor de 14 000 a 145 000 entre 2019 y 2021, un aumento del 900 %. De estos, el 96% contenía material pornográfico mientras que alrededor del 90% involucraba imágenes indecentes de mujeres jóvenes.
4
El Sr. Govender de NSPCC agregó: “La tecnología Deepfake ya está teniendo un impacto insidioso en los niños, ya que se vuelve cada vez más fácil producir y compartir este material degradante y dañino.
«Esta tecnología en rápida evolución se está convirtiendo rápidamente en un riesgo de abuso infantil, ya que se implementa sin tener en cuenta cómo alimenta el abuso de imágenes íntimas.
«Las niñas y las mujeres son las que más sufren con aplicaciones como esta, que existen en una cultura tóxica en línea de misoginia que está creciendo a un ritmo alarmante».
Apple dijo que eliminó Face Mega de la App Store y dijo que no tenía reglas específicas sobre las aplicaciones deepfake. Afirmó prohibir las aplicaciones que contienen pornografía, contenido difamatorio o discriminatorio.
Una portavoz de Google Play confirmó que había eliminado Face Mega de su plataforma, pero no comentó sobre las otras aplicaciones.
La diputada conservadora Siobhan Baillie calificó la tecnología de falsificación profunda como aterradora y agregó: «Claramente, se debe considerar la verificación de la edad y medidas de seguridad adicionales.
«Saludo a The Sun el domingo por eliminar esta aplicación de Apple App Store y Google Play. Nuestros niños deben estar protegidos de la profunda amenaza falsa.
Tres víctimas cuentan su historia
CHILDLINE ha compartido detalles de tres adolescentes que han sido amenazados con videos y fotos falsos mientras la organización benéfica muestra lo traumático que puede ser.
Una niña de 14 años contó cómo la amenazaron en línea con que le harían un video falso si se negaba a enviar fotos desnuda a un atacante.
Dijeron: “Fui amigable, solo hablaba con alguien en Snapchat. Me preguntaron cómo me veía, así que envié una foto de mi cara y luego siguieron pidiéndome desnudos.
«Les dije que no, pero me dijeron que si no lo hacía, cambiarían mi rostro por desnudos y los venderían. Sé que debería denunciarlos, pero eso no cambiará nada porque seguirán teniendo mis fotos en su cuenta. Por favor, ayúdenme». Estoy realmente preocupado.
Un aterrorizado niño de 13 años dijo: “Alguien que conozco está amenazando con publicar un desnudo falso y fingir que soy yo si no le envío desnudos reales.
«Ella dice que va a etiquetar a mis amigos y mostrarles ‘esta soy yo’. Nunca antes había enviado desnudos y tengo miedo de que mis verdaderos amigos me juzguen si eso sucede».
«Conocí a esta persona en línea y éramos amigos, pero no hemos hablado en mucho tiempo. No entiendo por qué me está haciendo esto. No sé qué hacer».
Un tercer adolescente le dijo a Childline que involucraron a investigadores de la policía en imágenes pornográficas falsas.
Él dijo: “Me siento tan avergonzado y enojado. Alguien creó una cuenta falsa en Instagram que está a mi nombre y pusieron fotos (porno) inapropiadas con mi cara.
“Denuncié la cuenta y la policía está tratando de localizar a la persona. Me siento un poco más seguro sabiendo esto, pero tengo miedo de que mis amigos se enteren y me acosen por ello.
[ad_2]