¿Las IA son peligrosas?

La inteligencia artificial es cada vez más común en nuestros días. Sin embargo, un grupo de expertos realizó un documento acerca del potencial peligro de las IA.

En él se dice que son un riesgo de extinción equiparable a amenazas como las pandemias y la guerra nuclear. Además, destacan la necesidad de abordar de manera urgente los riesgos asociados con el desarrollo y la implementación de esta tecnología.

En la investigación participaron Sam Altman, director general de OpenAI, fabricante de ChatGPT; Geoffrey Hinton, considerado el padrino de la inteligencia; Demis Hassabis, el director ejecutivo de Google DeepMind; Dario Amodei, director ejecutivo de Anthropic; y Youshua Bengio, dos de los tres investigadores de IA que ganaron el Premio Turing 2018 por su trabajo en IA, y cada uno hace hincapié en los posibles escenarios adversos que podrían surgir si no se toman las medidas adecuadas.

Entre los riesgos mencionados se encuentran el uso malicioso de la inteligencia artificial para la manipulación y la desinformación, el desarrollo de armas autónomas y el impacto en el empleo y la desigualdad.

Según los expertos, la inteligencia artificial tiene el potencial de transformar la sociedad de manera positiva, pero también presenta desafíos significativos que deben abordarse con responsabilidad. Destacan que la falta de regulación y supervisión adecuadas puede conducir a consecuencias desastrosas, tanto a nivel social como global.

El comunicado hace un llamado a los líderes mundiales, a la comunidad científica y a los responsables de la toma de decisiones para que trabajen en conjunto y establezcan políticas y marcos éticos que promuevan un desarrollo seguro y responsable de la inteligencia artificial.

Se resalta la importancia de la transparencia, la responsabilidad y la colaboración en este proceso.

Además, se insta a la sociedad en su conjunto a educarse y comprender los riesgos asociados con la inteligencia artificial, así como a participar en la discusión y el diseño de políticas que regulen su desarrollo y aplicación.