“Los empleados estamos aterrados”: exinvestigador de Anthropic advierte sobre los riesgos de la IA

Un exinvestigador de Anthropic, Jacob Coxon, lanzó una dura advertencia sobre los riesgos asociados al rápido desarrollo de la inteligencia artificial (IA).

En declaraciones a BBC Mundo, afirmó que algunos trabajadores de las principales empresas del sector sienten un “miedo genuino” ante la velocidad con la que avanza esta tecnología.

Coxon, quien anteriormente trabajó en OpenAI y posteriormente en Anthropic, sostuvo que, si no se reduce el ritmo actual de desarrollo, existe una posibilidad importante de que la humanidad enfrente consecuencias catastróficas.

“Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”, afirmó.

Trabajadores temen las consecuencias de la carrera por la IA

Coxon aseguró que dentro de las empresas existe preocupación por la competencia entre compañías y países para desarrollar sistemas de IA cada vez más avanzados.

“Las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera”, declaró.

Según su relato, algunos trabajadores incluso estarían replanteándose sus planes de vida debido a la incertidumbre generada por el avance de esta tecnología.

El exinvestigador también advirtió sobre escenarios en los que sistemas autónomos podrían adquirir capacidades suficientes para interferir con infraestructuras digitales y tomar control de partes de Internet.

Anthropic pide reducir el ritmo de desarrollo

Las declaraciones de Coxon se producen después de que Dario Amodei, director ejecutivo de Anthropic, pidiera públicamente ralentizar el desarrollo de sistemas avanzados de IA.

Amodei reconoció que los riesgos asociados con esta tecnología son “graves” y planteó la necesidad de que empresas y gobiernos tengan tiempo para establecer mecanismos de seguridad y regulación.

Coxon respaldó la propuesta, aunque consideró que cualquier medida debería coordinarse internacionalmente, especialmente con China, para evitar una carrera tecnológica sin límites.

Expertos difieren sobre el riesgo de extinción

La preocupación no se limita a Coxon. El científico de Anthropic Evan Hubinger sostuvo que existe una posibilidad significativa de que la IA pueda provocar la extinción humana.

El reconocido investigador Geoffrey Hinton, considerado uno de los pioneros de la inteligencia artificial, también declaró a la BBC que considerar un riesgo del 10% de que la IA pueda acabar con la humanidad “no era descabellado”.

Sin embargo, otros especialistas cuestionan la posibilidad de establecer porcentajes concretos para un escenario de ese tipo y consideran que algunas advertencias pueden estar sobredimensionadas.

También cuestionan las advertencias de Anthropic

Las declaraciones de Coxon y Amodei generaron críticas dentro de la industria. Algunos ejecutivos sostienen que las advertencias sobre los riesgos de la IA podrían contribuir a generar expectativas y favorecer los intereses comerciales de las grandes empresas del sector.

Clement Delangue, director ejecutivo de Hugging Face, cuestionó que se presenten estas predicciones como certezas y pidió mantener una perspectiva crítica.

Otros críticos también han señalado que las propuestas regulatorias de Anthropic podrían terminar favoreciendo a las grandes compañías ya establecidas y limitar la competencia.

Pese a las advertencias, Coxon afirmó que los investigadores también mantienen expectativas positivas sobre la tecnología y esperan que la IA pueda contribuir a curar enfermedades y mejorar la calidad de vida.