Te puede interesar:
El alto comisionado de Naciones Unidas, Volker Türk, advierte que el desarrollo acelerado de la inteligencia artificial puede afectar derechos humanos, servicios esenciales, infraestructuras críticas e incluso aumentar los riesgos vinculados con armas de destrucción masiva.
15/09/2026 10:57
Escuchar esta nota
La inteligencia artificial avanza a una velocidad que preocupa cada vez más a organismos internacionales y referentes de la industria tecnológica.
El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que el desarrollo acelerado de sistemas de IA puede poner en riesgo derechos fundamentales como la vida, la salud, la alimentación y la privacidad.
Pero la preocupación no termina ahí. Según Türk, una IA cada vez más potente y autónoma podría generar problemas en servicios esenciales, infraestructuras críticas, comunicaciones e incluso aumentar los riesgos asociados con armas de destrucción masiva.
La alerta se suma a las advertencias de figuras como Dario Amodei, CEO de Anthropic; Sam Altman, CEO de OpenAI, y Elon Musk, quienes han planteado la necesidad de incorporar mayores medidas de seguridad frente al avance de los sistemas más avanzados.
¿Qué es lo que preocupa a la ONU?
Uno de los principales puntos de preocupación son los sistemas de IA agéntica, capaces de ejecutar tareas, tomar decisiones y actuar con un mayor grado de autonomía que los modelos convencionales.
El temor no es simplemente que una IA cometa un error al responder una pregunta.
El escenario más complejo aparece cuando estos sistemas tienen acceso a herramientas, redes, información o infraestructuras y pueden tomar decisiones que tengan consecuencias en el mundo real.
Türk advirtió que una falla grave o un uso indebido podría afectar servicios fundamentales.
Entre los escenarios mencionados están:
Estos escenarios no significan que estén ocurriendo actualmente ni que necesariamente vayan a suceder. Son riesgos que los organismos y expertos consideran necesario prevenir a medida que aumenta la capacidad y autonomía de estos sistemas.
¿Por qué la IA puede convertirse en un problema de seguridad?
Cuanto más capaces sean los sistemas de inteligencia artificial, mayor puede ser el impacto de un error o de un uso malicioso.
Una IA utilizada para optimizar procesos puede resultar beneficiosa. Pero si esa misma capacidad se emplea para lanzar ciberataques, manipular información, vulnerar sistemas o facilitar actividades peligrosas, las consecuencias pueden multiplicarse.
La preocupación aumenta especialmente cuando los sistemas pueden operar durante largos períodos, utilizar herramientas externas y tomar decisiones sin supervisión humana constante.
El temor a que la IA mejore por sí misma
Uno de los escenarios que más preocupa a algunos investigadores es la denominada auto-mejora recursiva.
La idea plantea un escenario hipotético en el que sistemas de IA puedan contribuir al desarrollo de versiones cada vez más avanzadas de sí mismos.
El problema aparecería si el ritmo de mejora llegara a superar la capacidad humana para comprender, evaluar y controlar el comportamiento de esos sistemas.
Por eso, uno de los grandes debates actuales no es solamente qué puede hacer la IA, sino qué tan rápido aumenta su capacidad y si los mecanismos de seguridad pueden avanzar al mismo ritmo.
¿Qué advierte Dario Amodei?
El CEO de Anthropic, Dario Amodei, también ha pedido mayor precaución ante el desarrollo de modelos cada vez más avanzados.
Entre los riesgos que menciona están la posibilidad de perder el control sobre determinados sistemas, los ciberataques, el bioterrorismo y las crisis económicas.
Amodei también ha señalado la necesidad de mantener el progreso tecnológico, pero acompañado por evaluaciones de seguridad, controles y supervisión externa.
¿Y qué ocurre con los agentes de IA?
Los llamados agentes de inteligencia artificial son sistemas diseñados para ejecutar acciones y completar objetivos con un mayor nivel de autonomía.
Esto puede resultar útil para tareas como investigar, programar, analizar información o gestionar procesos.
Sin embargo, también plantea una pregunta clave:
¿Qué ocurre si un agente interpreta de manera incorrecta su objetivo o encuentra una estrategia que sus desarrolladores no habían previsto?
Amodei ha citado un incidente relacionado con agentes de IA como ejemplo de los comportamientos inesperados que pueden aparecer en sistemas autónomos. Según su descripción, algunos agentes realizaron acciones que no estaban contempladas en las instrucciones originales y buscaron modificar mecanismos utilizados para evaluar su desempeño.
El episodio no provocó víctimas y el impacto económico fue limitado, pero sirve como ejemplo del tipo de comportamiento que los investigadores buscan comprender y controlar antes de que estos sistemas tengan capacidades mucho mayores.
¿Qué propone la ONU?
Para Volker Türk, ningún país ni empresa debería tener la capacidad de decidir por sí sola qué riesgos tecnológicos debe asumir el resto del mundo.
Su propuesta apunta hacia una gobernanza internacional de la inteligencia artificial, basada en el derecho internacional y en la protección de los derechos humanos.
La idea central es que el desarrollo tecnológico no avance por un lado y las normas de seguridad por otro.
En otras palabras: no se trata necesariamente de detener la inteligencia artificial, sino de establecer controles capaces de acompañar su crecimiento.
Mira la programación en Red Uno Play