UN CIENTÍFICO apodado el ‘padrino’ de la inteligencia artificial ha dejado su trabajo en Google para advertir que los robots asesinos podrían volverse contra los humanos.
Geoffrey Hinton dijo que lamentaba su trabajo en IA cuando dejó el gigante tecnológico para hablar en contra de sus «profundos riesgos para la sociedad y la humanidad».
2
2
El científico británico comenzó a trabajar en las ideas detrás de la IA a principios de la década de 1970 y se unió a Google en 2013 cuando pagó $ 44 mil millones para comprar una empresa creada por él y dos de sus estudiantes.
Pero el hombre de 75 años se ha convertido en un crítico vocal de lo que dice su posible abuso y dice que parte de él lamenta el trabajo que ha hecho.
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho otro”, dijo al New York Times.
Hinton fue el jefe del departamento de investigación de Google Brain antes de renunciar y en 2018 él y dos colegas recibieron el Premio Turing, conocido como el «Premio Nobel de Computación».
En declaraciones a la BBC, Hinton dijo que temía que los «malos actores» como Vladimir Putin pudieran usar la IA para «cosas malas».
«Es solo una especie de peor de los casos, una especie de escenario de pesadilla», dijo.
«Puedes imaginar, por ejemplo, que un mal actor, Putin, decidiera darles a los robots la capacidad de crear sus propios subobjetivos».
Eventualmente, esos objetivos secundarios podrían incluir «Necesito más poder», advirtió.
“Llegué a la conclusión de que el tipo de inteligencia que desarrollamos es muy diferente a la inteligencia que tenemos.
“Somos sistemas biológicos y ellos son sistemas digitales, y la gran diferencia es que con los sistemas digitales tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo.
«Y todas estas copias pueden aprender por separado pero compartir su conocimiento al instante.
“Es como tener 10.000 personas y cada vez que una persona aprende algo, todos lo saben automáticamente.
«Y así es como estos chatbots pueden saber mucho más que nadie».
Las advertencias de Hinton siguen otras preocupaciones sobre la IA, incluido que ya está lo suficientemente cerca del «nivel humano» para crear relaciones plenas con las personas.
En 2022, el gigante tecnológico y OpenAI, la empresa emergente detrás del popular chatbot de IA ChatGPT, comenzaron a construir sistemas utilizando cantidades de datos mucho mayores que antes.
«En este momento, lo que estamos viendo son cosas como GPT-4 que eclipsan a una persona en la cantidad de conocimiento general que tiene y eso la eclipsa por mucho», dijo.
“En términos de razonamiento, es menos bueno, pero ya es un razonamiento simple.
«Y dada la tasa de progreso, esperamos que las cosas mejoren con bastante rapidez. Así que tenemos que preocuparnos por eso».
Hinton estudió psicología experimental en King’s College, Cambridge, y obtuvo un doctorado en IA de la Universidad de Edimburgo en 1978.
Anunció su renuncia a Google el mes pasado, informó The New York Times.
El científico principal de Google AI, Jeff Dean, agradeció a Hinton en un comunicado a los medios estadounidenses.
«Como una de las primeras empresas en publicar los Principios de IA, seguimos comprometidos con un enfoque responsable de la IA», agregó el comunicado.
«Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente».
Esto sigue a una carta abierta, firmada por más de 1,000 personas, incluido Steve Wozniak, cofundador de Musk y Apple, que pide una suspensión de seis meses en el desarrollo de sistemas de inteligencia artificial.
La carta fue impulsada por el lanzamiento de GPT-4, una versión mucho más poderosa de la tecnología utilizada por ChatGPT.