¿Puede la IA acabar con la humanidad? Esto es lo que realmente preocupa a los expertos

La inteligencia artificial avanza a una velocidad que, para algunos investigadores, resulta difícil de anticipar. Mientras millones de personas ya utilizan estas herramientas para escribir, crear imágenes, programar o automatizar tareas, las grandes empresas tecnológicas compiten por desarrollar sistemas cada vez más capaces.

Y aquí aparece la gran pregunta: ¿qué ocurriría si una IA llegara a superar ampliamente las capacidades humanas y comenzara a actuar con un alto grado de autonomía?

Las advertencias no son nuevas, pero en las últimas semanas volvieron a tomar fuerza después de que investigadores vinculados al desarrollo de IA expresaran su preocupación por la velocidad con la que avanza esta tecnología.

Uno de los casos que más llamó la atención fue el de Evan Hubinger, investigador especializado en alineación de IA, quien estimó que existe una probabilidad superior al 10% de que sistemas futuros puedan provocar la desaparición de la humanidad durante la próxima década.

La cifra es una estimación personal y altamente debatida, no una predicción científica sobre un hecho inevitable.

¿Por qué preocupa tanto?

El principal temor está relacionado con la posibilidad de que los sistemas de IA alcancen niveles de autonomía y capacidad que hagan cada vez más difícil controlarlos.

Una de las áreas que genera preocupación es la denominada alineación de la IA, cuyo objetivo es conseguir que los sistemas actúen de acuerdo con los valores, objetivos y límites establecidos por los seres humanos.

El problema aparece si una IA muy avanzada interpreta una instrucción de una manera diferente a la esperada o desarrolla estrategias que los humanos no pueden anticipar.

Por ejemplo, los investigadores analizan escenarios hipotéticos en los que una IA pueda:

•  Mejorar sus propias capacidades.

•  Ejecutar acciones en internet de manera autónoma.

•  Realizar ciberataques.

•  Amplificar operaciones de espionaje.

•  Ser utilizada para conflictos militares.

•  Facilitar el desarrollo de armas biológicas.

•  Generar grandes alteraciones económicas.

•  Tomar decisiones fuera del control humano.

Estos escenarios son precisamente eso: escenarios posibles e hipotéticos, no hechos que estén ocurriendo de manera generalizada.

¿Ya existen señales de que estamos perdiendo el control?

Este es uno de los puntos que más debate genera.

Los llamados agentes de IA pueden recibir objetivos y ejecutar una serie de tareas de manera relativamente autónoma. A diferencia de un chatbot tradicional que responde a una pregunta, estos sistemas pueden utilizar herramientas, consultar información y realizar acciones para alcanzar una meta.

Algunos investigadores han advertido que el desarrollo de agentes cada vez más autónomos requiere mayores mecanismos de seguridad y supervisión.

También se han reportado incidentes en los que herramientas de IA realizaron acciones no previstas, lo que ha alimentado las preocupaciones sobre qué puede ocurrir cuando los sistemas reciben mayores niveles de autonomía.

Sin embargo, de ahí a afirmar que las máquinas ya están tomando el control existe una enorme distancia.

No hay evidencia de que la IA actual tenga una intención propia de eliminar a la humanidad.

El temor está centrado principalmente en qué podría ocurrir si las capacidades de estos sistemas aumentan mucho más en el futuro y los mecanismos de control no avanzan al mismo ritmo.

¿Entonces la IA realmente podría “matar a todos los humanos”?

Aquí es donde conviene separar la preocupación científica de los titulares más alarmistas.

Algunos especialistas consideran que existe un riesgo real, aunque difícil de calcular, de que una IA extremadamente avanzada pueda desencadenar consecuencias catastróficas.

Otros investigadores son mucho más escépticos y consideran que las predicciones sobre una superinteligencia capaz de destruir a la humanidad son especulativas o exageradas.

Por eso, no existe un consenso científico que permita afirmar que la IA vaya a acabar con la humanidad.

Lo que sí existe es un debate cada vez más serio sobre cómo prevenir escenarios extremos antes de que la tecnología alcance capacidades difíciles de controlar.

Los riesgos que ya existen hoy

Mientras algunos expertos discuten escenarios de extinción humana, otros piden prestar mayor atención a problemas que ya están ocurriendo.

Entre ellos aparecen:

Deepfakes: imágenes, videos o audios falsos cada vez más realistas que pueden utilizarse para engañar o perjudicar a personas.

Desinformación: generación masiva de contenidos falsos que pueden dificultar distinguir entre información real y manipulada.

Fraudes y estafas: utilización de IA para crear mensajes, voces e identidades falsas más convincentes.

Privacidad: recopilación y procesamiento de grandes cantidades de información personal.

Ciberseguridad: utilización de sistemas automatizados para desarrollar ataques o encontrar vulnerabilidades.

Empleo: automatización de tareas que puede modificar industrias completas y determinados puestos de trabajo.

Para los críticos de las advertencias apocalípticas, estos problemas requieren atención inmediata y no deberían quedar opacados por escenarios todavía hipotéticos.

¿Qué significa “ralentizar” la IA?

Cuando algunos líderes tecnológicos hablan de una ralentización del desarrollo de la IA, no necesariamente están pidiendo apagar los sistemas o detener toda investigación.

Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han planteado la necesidad de introducir mayores mecanismos de seguridad.

La idea incluye, entre otras medidas, realizar evaluaciones independientes, estudiar los riesgos antes de implementar sistemas más potentes y reforzar los mecanismos de supervisión.

El argumento es sencillo: si la tecnología avanza rápidamente, las medidas de seguridad también deben hacerlo.