[ad_1]
No se puede confiar en NINGUNA de las personas que aparecen en la parte superior de este artículo.
Se parecen a cualquiera que puedas ver en la tienda y son casi indistinguibles de los humanos reales.
1
Pero nunca nacieron, son solo rostros creados por la herramienta de IA de «thispersondoesnotexist.com».
Cada clic produce una imagen fotorrealista única de miles de millones y miles de millones de combinaciones posibles.
Termina con una cara única cada vez, la mayoría de las veces casi indistinguible de un humano real más allá de algunos problemas menores.
No te inmutarías si los vieras caminando por la calle o la cara apareciera en tus redes sociales.
La tecnología también se está desarrollando rápidamente, y los expertos a veces le dicen a The Sun Online que ya no se distingue de las fotos reales.
Con el auge de estas imágenes generadas por IA, video y audio cada vez más sofisticados, bots de chat en rápido desarrollo y datos desarrollados por computadora, ¿qué sigue?
«Estamos en una carrera armamentista, estamos en una carrera armamentista, con ambos lados usando inteligencia artificial avanzada», dijo el experto en tecnología, el Dr. Mike Seymour, a Sun Online.
Existe la preocupación de que esta tecnología se esté utilizando para difundir información errónea peligrosa y potencialmente utilizada por estafadores que pueden crear identidades completamente nuevas utilizando IA.
El Dr. Seymour mostró recientemente el poder de esta tecnología: consultó con un equipo de VFK de Adapt Entertainment para convertir a todos los actores de la película The Champion del alemán al inglés utilizando IA para renderizar sus rostros.
«Ya es indistinguible. Parece que la película fue filmada en inglés», dijo a The Sun Online.
Advirtió que el público necesitaba estar mejor informado para asegurarse de que tratan lo que encuentran en línea con escepticismo sobre el surgimiento de la IA.
Pero la facilidad de acceso a esta tecnología de inteligencia artificial está acelerando la propagación, y solo se volverá más común.
«El problema con cualquier cosa en esta área es que cada vez es más fácil producir falsificaciones plausibles, lo que reduce el listón para quienes podrían intentar tales acciones», dijo el Dr. Seymour.
Y un estudio encontró que las personas encuentran que los rostros generados por IA ya no se pueden distinguir de los humanos y son «más confiables» que los reales.
Los experimentos, compilados por la Universidad de California, encontraron que las caras de IA eran un 7,7% más confiables.
«Esto puede deberse a que las caras sintetizadas tienden a parecerse más a las caras promedio que se consideran más confiables», dice el estudio.
«Cualquiera que sea la razón subyacente, las caras generadas sintéticamente han surgido al otro lado del extraño valle».
Cassidy Bereskin, estudiante de doctorado en el Instituto de Internet de Oxford, le dijo a The Sun Online que ahora vivimos en un mundo donde «ver ya no es creer».
«Los deepfakes y los modelos generativos de IA se están volviendo más sofisticados y accesibles para más personas», dijo.
«Son hiperrealistas y ya no solo están disponibles para los programadores.
«Estos desarrollos gemelos amenazan con aumentar el suministro, la escala, la difusión y la credibilidad de la información errónea en línea».
Ella continuó: «Los deepfakes ya han infligido un daño significativo a la reputación y la psicología de la pornografía.
“También han sido armados para socavar la democracia, la seguridad nacional y nuestra economía, por ejemplo, al ser utilizados en estafas financieras.
«Su creciente volumen y credibilidad amenazan con exacerbar los peores riesgos en nuestro mundo digital».
El Dr. Seymour y la Sra. Bereskin instaron al público a estar más informado para ayudarlos a navegar en el mundo cada vez más difícil de la información en línea.
“Es esencial que los usuarios busquen información de fuentes de alta calidad y tengan en cuenta que ver ya no es creer”, dijo la Sra. Bereskin.
«Esta tecnología es persuasiva, por lo que, naturalmente, los malos actores intentarán usarla, pero la mejor defensa que tenemos es una audiencia informada, después de todo, durante años hemos podido hacer imágenes brillantes con Photoshop, pero como la gente lo sabe, naturalmente han desarrollado un saludable escepticismo cuando las imágenes parecen inverosímiles o extrañas”, dijo el Dr. Seymour.
Dijo que la principal conciencia a desarrollar es la capacidad de detectar videos falsos, ya que las imágenes fijas y las historias escritas ya son comunes.
El Dr. Seymour continuó: «Necesitamos actualizar nuestras leyes actuales para ponernos al día, pero ya tenemos leyes de difamación y derechos de autor.
“Ya es ilegal hacerse pasar por alguien o usar su imagen sin permiso.
«Las leyes actuales son un buen comienzo, pero la tecnología está cambiando tan rápidamente que es necesario trabajar más para ponerse al día».
Jyothsna Gurumurthy, estudiante de doctorado en la Universidad de Oxford, dijo a The Sun Online que es necesario centrarse más en la regulación de las IA generadoras de algoritmos.
“Podría haber nuevas formas de medios sintéticos además de los deepfakes que causen sus propios problemas, pero el uso de datos generados artificialmente seguirá creando nuevas batallas de información a medida que se vuelvan cada vez más sofisticados y difíciles de discernir de la realidad”, dijo. .
El Dr. Seymour agregó: «Necesitamos actualizar nuestras leyes actuales para ponernos al día, pero ya tenemos leyes de difamación y derechos de autor. Ya es ilegal hacerse pasar por alguien o usar su imagen sin permiso».
«Las leyes actuales son un buen comienzo, pero la tecnología está cambiando tan rápidamente que es necesario trabajar más para ponerse al día».
Agregó que la batalla de la IA en realidad podría ir en sentido contrario, con fotos reales en lugar de ser descartadas como «falsificaciones».
“Tenemos que tener cuidado con las personas que fingen lo contrario”, dijo.
«Ya ha habido políticos sudamericanos que afirman que los videos descubiertos de ellos con varias prostitutas eran ‘falsificaciones profundas’, mientras que la mayoría de los expertos están de acuerdo en que los videos son reales.
«Pero como dice el refrán, ‘una mentira puede dar la vuelta al mundo dos veces antes de que la verdad salga de la cama'».
Advirtió que las construcciones de AI de documentos legales y documentos bancarios también podrían ser un desarrollo preocupante en el espacio en línea.
“Documentos que son totalmente plausibles y contienen suficiente información real entretejida para hacerte creer que son 100% reales y auténticos”, advirtió.
El mundo ha visto noticias falsas difundidas antes: tal IA generó un video profundamente falso del presidente ucraniano Volodymyr Zelensky diciéndoles a sus tropas que depongan las armas en marzo pasado.
Tal error podría haber sido devastador y causado estragos si alguna vez tuvo éxito.
Pero afortunadamente, el intento amateur de hacerse pasar por Zelensky fue ridiculizado debido a su apariencia de mala calidad.
[ad_2]