[ad_1]
Un experto en inteligencia artificial ha expresado su preocupación por el uso de la tecnología por parte de los militares.
El profesor Yoshua Bengio de la Universidad de Montreal, uno de los tres llamados «padrinos» de la inteligencia artificial (IA), le dijo a la BBC que los militares no deberían poder usar la IA.
1
Bengio, conocido por sus primeros trabajos en el desarrollo de IA, piensa que la velocidad a la que está cambiando la tecnología es preocupante.
Una de sus principales preocupaciones es que los actores de amenazas se están apoderando de la IA de grado militar.
“Podrían ser militares, terroristas o alguien muy enojado, psicótico”, dijo Bengio a la BBC.
“Entonces, si es fácil programar estos sistemas de inteligencia artificial para decirles que hagan algo muy malo, podría ser muy peligroso”, agregó.
«Si son más inteligentes que nosotros, es difícil para nosotros detener estos sistemas o prevenir daños», continuó Bengio.
A principios de esta semana, el informático canadiense le dijo al National Post que los líderes deben moverse «lo más rápido posible» para aprobar los proyectos de ley de regulación de la IA.
Para subrayar la urgencia del problema, Bengio firmó dos declaraciones recientes en las que considera que la IA es peligrosa.
“La mitigación del riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos para toda la sociedad, como las pandemias y la guerra nuclear”, se lee en una de las declaraciones firmadas por el Sr. Bengio, los directores ejecutivos de OpenAI y Google Deepmind, entre otros.
El profesor citó la evolución reciente de ChatGPT de OpenAI como un ejemplo de IA sofisticada de rápido crecimiento.
«Hemos alcanzado un nivel de inteligencia en estos sistemas, con ChatGPT en noviembre pasado, que básicamente es poder hacerse pasar por humanos», dijo Bengio en una entrevista.
ChatGPT es un chatbot de lenguaje natural que puede responder a indicaciones, escribir ensayos e incluso generar código complejo en segundos.
Y la tecnología puede ser utilizada por malos actores para llevar desinformación a las masas o incluso para desestabilizar la democracia, advirtió Bengio.
“Ya hay información que sugiere que los países están tratando de influir en nuestra [elections],» dijo.
«Los países han usado trolls antes para tratar de influir en las personas, pero detrás de cada cuenta de troll hay un ser humano. Ahora, si podemos hacer el mismo tipo de cosas con una máquina, entonces tus 100 trolls pueden controlar millones de cuentas», dijo. agregado.
Bengio no es el único líder de la industria que expresa preocupaciones sobre la IA y sus implicaciones futuras para la sociedad.
Su compañero «padrino», el Dr. Geoffrey Hinton, también firmó las mismas declaraciones que Bengio.
Mientras tanto, el propietario de Twitter y Tesla, Elon Musk, ha expresado durante mucho tiempo su preocupación por la IA.
En una entrevista con Fox News en abril, Musk advirtió que la IA podría conducir a la «destrucción de la civilización».
[ad_2]