El presidente de MICROSOFT ha revelado su mayor problema de inteligencia artificial y da bastante miedo.
Brad Smith pronunció un discurso en Washington el 25 de mayo sobre cómo se podría regular la IA.
1
La mayor preocupación de Smith son las falsificaciones profundas hechas por IA que terminan difundiendo información errónea.
Él dijo: «Vamos a tener que solucionar los problemas con las falsificaciones profundas.
«Vamos a tener que abordar en particular lo que nos preocupa en la mayoría de las operaciones de influencia cibernética extranjera, el tipo de actividades que ya están realizando el gobierno ruso, los chinos, los iraníes».
Y, añadió: “Debemos tomar medidas para protegernos frente a la modificación de contenidos legítimos con el objetivo de engañar o defraudar a las personas mediante el uso de la IA”.
Los videos deepfake se hacen usando una mezcla de inteligencia artificial y material de computadora para crear una versión manipulada de una persona real.
La tecnología puede crear fotos o videos convincentes pero ficticios desde cero.
Los clones de voz generalmente se doblan en el video para que también sea más auténtico.
El término deepfake proviene de la tecnología de inteligencia artificial subyacente llamada «aprendizaje profundo».
Deepfakes se puede utilizar para engañar a las personas haciéndoles creer que la información falsa proviene de una fuente legítima y es un gran problema de seguridad.
Según Reuters, Smith pidió la concesión de licencias de formas de IA críticas para la seguridad y la ciberseguridad.
Dijo que necesitaríamos nuevos controles para «garantizar que estos modelos no sean robados o utilizados de una manera que viole los requisitos de control de exportación del país».
El discurso de Smith fue parte de una discusión en curso entre legisladores y expertos en IA en Washington DC.
La semana pasada, el CEO de ChatGPT, Sam Altman, estuvo en un panel para discutir cómo regular la IA y reveló sus peores temores.
“Mis peores temores son que nosotros, la tecnología, causemos un daño significativo al mundo”, agregó Altman.
«Creo que si esta tecnología sale mal, puede salir mal».
Admitió que la difusión de desinformación por parte de AI, especialmente en tiempos de elecciones, es una de sus mayores preocupaciones.
El CEO dijo que en realidad preferiría que la gente usara menos ChatGPT en este momento debido a la demasiada demanda.
También se le preguntó cómo ChatGPT compensará y protegerá a los artistas de los que se inspira la IA.