[ad_1]
Las personas generadas por DEEPFAKE AI estarán entre nosotros para 2024 y serán casi imposibles de detectar, advirtió un exfuncionario de la Casa Blanca.
Las imágenes creadas por inteligencia artificial, los chatbots cada vez más inteligentes y los videos falsos sofisticados ya se están volviendo difíciles de distinguir de la realidad.
3
3
La tecnología solo avanzará, con desarrollos rápidos que ya suavizan los contornos y refinan los programas.
Ya se están levantando banderas rojas, ya que algunas imágenes creadas por IA ya pueden ser casi indistinguibles de las reales, salvo algunas inconsistencias reveladoras.
Las imágenes en la parte superior de este artículo son recreaciones casi perfectas de los rostros de las personas, creadas con el sistema impulsado por IA Generated.Photos.
Estas «personas» nunca nacen, son solo paquetes de código con la ilusión de personalidad, con diferentes edades, géneros, formas faciales y etnias.
Las fotos ya son fotorrealistas, con las imperfecciones que dan vida a los rostros, mucho más de lo que verías en videojuegos como Los Sims.
Al ver una de las caras cruzar su feed en Facebook, Twitter e Instagram, nunca pensará dos veces que puede ser un «falso».
¿Y tal vez uno de ellos podría ser algún día tu nuevo colega cuyo rostro se ilumina cuando dices «hola» en Slack o Discord?
La experta en seguridad cibernética Theresa Payton, la primera mujer directora de información de la Casa Blanca, ha predicho un nuevo desarrollo inquietante para el futuro: el surgimiento de personas reales impulsadas por IA.
La Sra. Payton describió cómo todas estas funciones de IA en desarrollo se combinarían con datos reales de personas reales para crear «fraudes de Franken» y «personas de IA».
Este es el siguiente paso en las identificaciones sintéticas que a menudo se usan para estafar el dinero de las empresas.
Las identificaciones sintéticas toman datos de personas reales y los usan para crear nuevas identidades: las estafas basadas en ellos ya cuestan miles de millones de libras cada año.
Y en la nueva era de creciente trabajo remoto, estas «personas de IA» pueden terminar ingresando a la fuerza laboral, dijo Payton.
«A medida que las empresas automaticen sus procesos de escaneo de currículums y realicen entrevistas remotas, los estafadores y estafadores aprovecharán la tecnología de inteligencia artificial avanzada falsa para crear trabajadores ‘clónicos’ respaldados por identidades sintéticas», dijo a The Sun Online.
“El paseo digital en la identidad de una persona física será casi imposible de disuadir, detectar y recuperar”.
Agregó: «La capacidad de crear identidades fraudulentas o sintéticas se automatiza y se realiza en tiempo real utilizando IA y análisis de big data para probar y garantizar que parezca auténtico».
La Sra. Payton explicó que las empresas deben prepararse para esta eventualidad, con nuevas prácticas de contratación y más supervisión para garantizar que realmente interactúen con personas reales.
Pidió una mayor regulación de la tecnología deepfake y la IA antes de que los sistemas puedan volverse realmente «indistinguibles» de la realidad.
Y además del mal uso de esta tecnología por parte de los delincuentes, también existe otra posibilidad aterradora para la IA.
La información errónea peligrosa podría difundirse fácilmente en línea utilizando la tecnología.
Si bien una foto de un político que recibe un soborno alguna vez fue una prueba contundente de corrupción, ¿debería detenerse ahora y preguntarse si se trata o no de una imagen generada por IA?
El mundo ha visto noticias falsas difundidas antes: tal IA generó un video profundamente falso del presidente ucraniano Volodymyr Zelensky diciéndoles a sus tropas que depongan las armas en marzo pasado.
Tal error podría haber sido devastador y causado estragos si alguna vez tuvo éxito.
Pero afortunadamente, el intento amateur de hacerse pasar por Zelensky fue ridiculizado debido a su apariencia de mala calidad.
La Sra. Payton dijo: «La consumerización de deepfakes permite que cualquier persona con una destreza técnica mínima y una computadora personal manipule y genere audio y video deepfake».
Agregó: «Antes de que la tecnología se vuelva indistinguible, debe haber una mayor conciencia sobre las falsificaciones profundas y su impacto en el entorno en línea.
«Un grupo de empresas de tecnología creó la Coalición para la procedencia y la autenticidad del contenido para crear un estándar para que los usuarios vean la fuente de la imagen o el video.
“Finalmente, las empresas de tecnología necesitan adaptar sus prácticas de moderación de contenido ahora para poder identificar y eliminar la tecnología deepfake en sus plataformas.
«Si no se adoptan estas prácticas, el entorno en línea podría cambiar drásticamente y las campañas de desinformación y manipulación podrían multiplicarse».
El Dr. Tim Stevens, director del grupo de investigación de ciberseguridad del King’s College London, también advirtió a The Sun Online contra el uso de IA para difundir noticias falsas.
«Hemos ido más allá de lo posible y entramos en el reino de lo real», dijo.
Continuó: “Herramientas como la IA generativa ya están creando imágenes falsas que a la mayoría de las personas les resulta difícil, si no imposible, diferenciar de las reales.
«Tenemos tecnologías de detección que pueden identificarlos, pero no están generalizadas ni son precisas para siempre: los algoritmos de creación y detección ya están enfrascados en un concurso de evasión e identificación, y los creadores de contenido falso siempre van un paso por delante».
AI está haciendo que el ya inestable espacio de información sea aún más peligroso, advirtió, con una confianza en las fuentes de noticias tradicionales ya «baja».
«Estas tecnologías en manos malintencionadas corren el riesgo de disminuirlo aún más», dijo el Dr. Stevens.
“Esperamos que la gente busque validar sus fuentes de información, pero no solo es difícil, sino que a muchas personas les da igual: si corresponde a su cosmovisión, ya es válido y no vale la pena cuestionarlo.
«Hemos visto esto con el contenido de las redes sociales durante muchos años y es probable que la IA lo empeore».
El Dr. Stevens y la Sra. Payton advirtieron que es probable que estados hostiles como Rusia y China usen la tecnología para tratar de sembrar la discordia en Occidente.
«Tanto Rusia como China son explícitos en que sus estrategias de información incluyen el objetivo de debilitar la cohesión social en las sociedades objetivo», dijo el Dr. Stevens.
La Sra. Payton agregó: «Los actores deshonestos, como China o Rusia, han utilizado imágenes falsas e imágenes generadas por IA para tratar de influir en el discurso social en sus propios países y más allá de sus fronteras, para su propio beneficio».
Los cerebritos tecnológicos ya han dominado la técnica, con una empresa de inteligencia artificial que ya está preparando imágenes de personas imaginarias.
El programa informático de Midjourney utiliza el aprendizaje automático y una red neuronal para unir imágenes en función de las indicaciones que le ofrecen los humanos, como «mujeres en una fiesta».
Luego produce imágenes como la de arriba que pueden ser increíblemente artísticas y extrañamente realistas.
La controvertida IA se entrena recibiendo fotos que luego usa para crear sus propias imágenes, aunque con algunos detalles de personas que faltan.
En un abrir y cerrar de ojos escalofriante, está claro que las mujeres son inhumanas: su piel es demasiado brillante y tienen demasiados dientes en la boca.
3
[ad_2]