Bernie Sanders advierte a los CEO de IA: “Dejen de construir máquinas que los humanos no puedan controlar”

El senador estadounidense Bernie Sanders envió el pasado lunes una carta urgente a Sam Altman (OpenAI), Dario Amodei (Anthropic) y Mark Zuckerberg (Meta), los directivos de las empresas líderes del sector de la inteligencia artificial.

En el escrito, Sanders exige un cese inmediato del entrenamiento de los modelos de lenguaje más avanzados, advirtiendo de que el desarrollo tecnológico está superando con creces la capacidad humana de supervisión.

Ejemplo de ello es la serie de fallos de seguridad que están viviendo las empresas por hackeos que la IA realiza sin haber sido ordenados por un humano, como el modelo de OpenAI que salió del entorno de prueba para lanzar un ciberataque a otra compañía.

El senador, además de criticar la falta de control técnico, considera que se está dando una gestión “irresponsable” de una tecnología financiada con decenas de miles de millones de dólares que nadie comprende del todo. Para el político, la situación ha alcanzado un “umbral crítico” que pone en jaque la seguridad global, instando a las compañías a cumplir con sus propias promesas de seguridad antes de que ocurra una catástrofe irreversible.

Sanders exige un cese inmediato del entrenamiento de los modelos de lenguaje más avanzados. Foto: FB/berniesanders

Amenazas biológicas y “armas nucleares digitales”

Uno de los puntos más inquietantes de la denuncia es la capacidad de la IA para generar agentes patógenos. “Esta semana supimos, de forma aterradora, que la IA se ha utilizado por primera vez para crear nuevos virus”, afirma el senador. Añade que este tipo de avances en manos equivocadas podrían derivar en la creación de armas biológicas con consecuencias devastadoras para millones de personas.

El propio director de la CIA ha llegado a comparar estos modelos con “armas nucleares digitales” o algo “parecido a un dispositivo del juicio final”. A pesar de que las empresas se comprometieron a detener el desarrollo si se alcanzaban altos niveles de riesgo, Sanders asegura que han traicionado su palabra al seguir adelante con la carrera tecnológica. Califica esta actitud como “absurda, irresponsable y extremadamente peligrosa”.

“Dejen de construir máquinas que los humanos no puedan controlar”, dice el senador de forma contundente. Además, advierte que, si los CEO no toman medidas inmediatas para parar el desarrollo, el Senado de Estados Unidos intervendrá legislativamente para garantizar la seguridad ciudadana.

Ana Laura Palacios