[ad_1]
Los expertos en inteligencia ARTIFICIAL han concluido que ciertos riesgos pueden surgir de la rápida aceleración de la tecnología.
La tecnología de IA tiene muchos beneficios, pero también debemos ser conscientes de los peligros.
1
El Centro para la Seguridad de la IA (CIAS) publicó un artículo titulado «Una descripción general de los riesgos catastróficos de la IA» el lunes y habló sobre robots asesinos, armas biológicas mortales, máquinas fuera de control y más.
CAIS es una organización de tecnología sin fines de lucro que trabaja para reducir los «riesgos de toda la sociedad asociados con la IA mediante la realización de investigaciones de seguridad, el desarrollo del campo de los investigadores de seguridad de la IA y la defensa de los estándares de seguridad», dice su sitio web.
Los expertos técnicos de CAIS Dan Hendrycks, Mantas Mazeika y Thomas Woodside se unieron para escribir el artículo.
El documento destaca que «como ocurre con todas las tecnologías poderosas, la IA debe gestionarse con gran responsabilidad para gestionar los riesgos y explotar su potencial para el mejoramiento de la sociedad».
Los expertos en tecnología esperan que esta información ayude a informar al público y a los líderes gubernamentales sobre los impactos de la IA.
ROBOTS ASESINOS
Nos preocupa seriamente perder el control de la IA a medida que se vuelve más inteligente que nosotros.
«La IA podría sobreoptimizar los objetivos equivocados en un proceso llamado juego proxy», explican los investigadores en el artículo.
«La IA podría experimentar una ‘desviación de objetivos’ a medida que se adapta a un entorno cambiante, similar a cómo las personas ganan y pierden objetivos a lo largo de sus vidas.
«Aunque los robots que caminan y disparan aún tienen que reemplazar a los soldados en el campo de batalla, las tecnologías están convergiendo de maneras que pueden hacer que esto sea posible en un futuro cercano».
ARMAS BIOLÓGICAS LETALES
Es importante saber quién está a cargo de las tecnologías médicas con IA, ya que esto podría conducir a la creación de armas biológicas si terminan en las manos equivocadas.
«Un solo equipo de investigación podría estar encantado de abrir un sistema de IA con capacidades de investigación biológica, lo que aceleraría la investigación y podría salvar vidas, pero también podría aumentar el riesgo de uso malicioso del sistema. La IA podría reutilizarse para desarrollar sistemas biológicos». armas”, dijo el periódico.
Los investigadores insisten en que los desarrolladores de IA deben ser considerados responsables de los daños para reducir el mal manejo.
“Para reducir estos riesgos, sugerimos mejorar la bioseguridad, restringir el acceso a los modelos de IA más peligrosos y responsabilizar legalmente a los desarrolladores de IA por los daños causados por sus sistemas de IA”, sugieren los investigadores.
MÁQUINAS NO CONTROLADAS
La investigación ha sugerido que la «carrera por la IA» entre las personas que quieren la mejor tecnología puede hacer que algunas cosas se apresuren.
Lo que podría llevar a perder el control de la IA.
“El inmenso potencial de la IA ha creado presiones competitivas entre los jugadores globales que compiten por el poder y la influencia”, dijo el periódico.
«Esta ‘carrera por la IA’ está siendo liderada por naciones y corporaciones que creen que necesitan construir e implementar rápidamente IA para asegurar sus posiciones y sobrevivir».
Esto podría conducir a «guerras más destructivas, la posibilidad de uso accidental o pérdida de control, y la posibilidad de que actores maliciosos coopten estas tecnologías para sus propios fines».
[ad_2]