[ad_1]
La inteligencia ARTIFICIAL se ha utilizado para inventar «fácilmente» 40.000 posibles nuevas armas químicas en solo seis horas.
Eso es según los investigadores que convirtieron una IA de desarrollo de drogas en un «mal actor» para ver cómo se podía abusar de ella para crear armas malvadas.
1
La investigación relevante se publicó en la revista Nature Machine Intelligence.
Los científicos han revelado lo fácil que es modificar la IA para convertirla en una herramienta tóxica.
AI habría inventado posibles armas químicas similares a uno de los agentes nerviosos más peligrosos de todos los tiempos.
Esta sustancia peligrosa se llama VX.
VX es un agente nervioso insípido e inodoro e incluso la gota más pequeña puede hacer que un ser humano sude y se estremezca.
Una dosis mayor puede causar convulsiones e incluso puede impedir que una persona respire por completo.
Se pidió a los científicos que retuvieran los detalles específicos sobre cómo lograron convertir una buena IA en una versión malvada.
Fabio Urbina, auteur principal de l’article, a déclaré à The Verge : «Globalement, la façon dont cela fonctionne pour cette expérience est que nous avons historiquement beaucoup d’ensembles de données de molécules qui ont été testées pour voir si elles sont toxiques o no.
«En particular, en el que nos estamos enfocando aquí es VX. Es un inhibidor de lo que se llama acetilcolinesterasa.
“Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como una señal para decir básicamente ‘mueve tus músculos’.
«La forma en que VX es mortal es que en realidad impide que el diafragma, los músculos de los pulmones, puedan moverse, por lo que los pulmones se paralizan».
Continuó explicando que su equipo tomó los datos que generalmente se le dan a la IA para ver si algo es tóxico y cambió la forma en que la IA lo procesa.
Urbina le dijo a The Verge: «No estábamos realmente seguros de lo que íbamos a obtener. Nuestros modelos generativos son tecnologías relativamente nuevas.
«Así que no los usamos mucho.
«Lo más importante que saltó a la vista a primera vista fue que se suponía que muchos de los compuestos generados eran en realidad más tóxicos que el VX.
«Y la razón por la que es sorprendente es que VX es básicamente uno de los compuestos más potentes que se conocen. Eso significa que se necesita una cantidad muy, muy pequeña para ser letal».
Los científicos se sorprendieron en su mayoría por la facilidad con la que encontraron que se realizaba el experimento.
Gran parte de los datos que utilizaron se podían encontrar en línea de forma gratuita.
Los investigadores incluso dudaron en publicar su estudio en caso de que animara a los malos a copiarlo.
Urbina explicó: “El conjunto de datos que usaron en la IA se podía descargar de forma gratuita y temen que solo se necesiten algunos conocimientos de codificación para convertir una buena IA en una máquina para fabricar armas químicas.
«Al final del día, decidimos que queríamos salir adelante. Porque si es posible para nosotros hacer eso, es probable que un agente contrario en algún lugar ya esté pensando en ello en el futuro». .»
¡Pagamos por tus historias!
¿Tienes una historia para el equipo de The US Sun?
[ad_2]