Mark Zuckerberg crea una IA ‘despiadada y en busca de poder’ que da miedo y es realista


El CEO de META, Mark Zuckerberg, ha presentado un modelo de inteligencia artificial despiadado y más realista.

Apodado Cicerón, el modelo lleva el nombre del estadista romano y es capaz de ejercer habilidades humanas como la negociación, la astucia y la previsión, informó The Washington Post.

El CEO de Meta, Mark Zuckerberg, acaba de presentar un modelo de inteligencia artificial despiadado y más realista.

1

El CEO de Meta, Mark Zuckerberg, acaba de presentar un modelo de inteligencia artificial despiadado y más realista.Crédito: AFP

Además, el algoritmo de IA suele ganar en el complejo juego de estrategia Diplomacia.

Esto convierte a Cicero en la primera computadora de IA en lograr un rendimiento a nivel humano en el complejo juego de la estrategia del lenguaje natural.

“Un agente que puede jugar al nivel de los humanos en un juego tan estratégicamente complejo como Diplomacy es un verdadero avance para la IA cooperativa”, dijo Yann LeCun, vicepresidente y científico jefe de IA en Meta AI.

La IA jugó con humanos en webDiplomacy.net, que es la versión en línea del juego.

Cicerón jugó más de 40 juegos y mostró engaño, crueldad y astucia.

Además, después de jugar con personas reales, Cicero se ubicó en el 10% superior de los participantes que jugaron más de un juego.

Meta eligió Diplomacia porque durante décadas la IA ha progresado a través de puntos de referencia establecidos por el juego.

El éxito de Cicero en la diplomacia demuestra cuán impresionantes y realistas se están volviendo los modelos de IA, y Meta lo llamó un «avance» en una publicación de blog.

El gigante tecnológico agregó que el avance radica en combinar con éxito dos áreas diferentes de IA: razonamiento estratégico y procesamiento del lenguaje natural.

«La integración de estas técnicas le da a Cicero la capacidad de razonar y elaborar estrategias sobre las motivaciones de los jugadores, luego usa el lenguaje natural para comunicarse, llegar a acuerdos para lograr objetivos compartidos, formar alianzas y coordinar planes», dijo Meta.

Sin embargo, a algunos expertos les preocupa que la IA tenga las habilidades para retener información o pensar en el futuro.

«Este tipo de tecnología podría usarse para inventar estafas más inteligentes que extorsionan a las personas o crean falsificaciones profundas más convincentes», escribe Pranshu Verma para The Washington Post.

«Es un gran ejemplo de cuánto podemos engañar a otros seres humanos», dijo a The Post Kentaro Toyama, profesor y experto en inteligencia artificial de la Universidad de Michigan.

«Estas cosas dan mucho miedo… [and] puede ser usado para el mal».

“La IA es como la energía nuclear de nuestro tiempo”, agregó Toyama.

«Tiene un enorme potencial tanto para el bien como para el mal, pero… creo que si no empezamos a practicar la regulación del mal, toda la ciencia ficción distópica de la IA se convertirá en un hecho científico distópico».



Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *