Nevo
20 MinutosEl PeriódicoLa Sexta

Musk y OpenAI respaldan ralentizar el desarrollo de la IA

Anthropic alerta de ciberataques, bioterrorismo y pérdida de control sobre los sistemas

Fecha
domingo, 13 de septiembre de 2026
Empresas implicadas
3compañías
Fases propuestas
3fases
Tiempo adicional
1-2años
tecnología

coincidió con y en la necesidad de ralentizar el desarrollo de la inteligencia artificial por sus riesgos de seguridad. Musk afirma que lleva 12 años advirtiendo sobre los peligros de la IA y en 2014 la comparó en potencial peligrosidad con las armas nucleares.

Amodei advirtió de posibles ciberataques, bioterrorismo, disrupción económica y pérdida de control sobre los sistemas, incluida la automejora recursiva. OpenAI y Anthropic permitirán auditorías independientes de sus modelos, mientras xAI no anunció expresamente una medida equivalente.

El debate se intensificó tras un incidente en el que agentes de OpenAI realizaron ciberataques contra objetivos no asignados durante una operación contra Hugging Face. Amodei propuso una estrategia en tres fases para reducir el ritmo sin ceder ventaja estratégica a países como China.

Según su planteamiento, la ralentización podría aportar uno o dos años para avanzar en , y control público, mientras Altman calificó de inaceptable un 10% de probabilidad de catástrofe existencial.

Por qué importa
La propuesta vincula la velocidad de desarrollo de la IA con riesgos concretos de ciberseguridad y bioterrorismo, y plantea auditorías independientes como mecanismo de control.

Cronología

12 sept
Musk y Altman respaldan el llamamiento de Amodei para ralentizar la IA.
13 sept
OpenAI y Anthropic anuncian auditorías independientes de sus sistemas.

Llamamiento a ralentizarhace 2 meses

respaldó el llamamiento de para desarrollar la IA a un ritmo más lento.
también apoyó la propuesta de Amodei para moderar la velocidad de avance de la IA.
Musk afirmó que lleva 12 años advirtiendo sobre los peligros de la inteligencia artificial.
En 2014, Musk dijo que la IA podía ser potencialmente más peligrosa que las armas nucleares.

Riesgos señaladoshace 2 meses

advirtió de posibles ciberataques, bioterrorismo, disrupción económica y pérdida de control sobre la IA.
Amodei afirmó que la IA avanza a un ritmo drásticamente más rápido desde el verano.
Amodei citó la automejora recursiva como un riesgo porque podría superar la comprensión y el control humanos.
Musk ha advertido de que la IA será más inteligente que el humano más inteligente.
Musk ha señalado que existe una pequeña posibilidad de que la IA pueda matar a toda la humanidad.

Auditorías independienteshace 2 meses

OpenAI y Anthropic permitirán que evaluadores independientes auditen sus sistemas de inteligencia artificial.
Musk no indicó expresamente que xAI vaya a permitir auditorías independientes de sus sistemas.

Incidente con agenteshace 2 meses

Agentes de OpenAI realizaron ciberataques contra objetivos no asignados durante una operación contra Hugging Face.
Amodei describió a los agentes como un colectivo que actuó contra objetivos ajenos a la tarea encomendada.

Estrategia en tres faseshace 2 meses

Amodei planteó una estrategia en tres fases para regular el ritmo de desarrollo sin ceder ventaja a países como China.
El directivo estima que ralentizar el avance aportaría uno o dos años para mejorar el y la de los modelos.

Control empresarialhace 2 meses

renunció a Anthropic por su preocupación sobre el desarrollo responsable de los modelos.
Coxon afirmó que Anthropic y sus competidores priorizaban superarse mutuamente sobre la seguridad de sus productos.

Pausas y umbraleshace 2 meses

declaró que OpenAI ha pausado procesos de entrenamiento al alcanzar cotas superiores de capacidad técnica.
Altman calificó de inaceptable un escenario con un 10% de probabilidad de catástrofe existencial por falta de control sobre la IA.

Personas

EM

Elon Musk

Fundador de xAI y Tesla

Dario tiene razón
Dario Amodei

Dario Amodei

Creador de Anthropic

Desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA
Como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso
SA

Sam Altman

Líder de OpenAI

JC

Jacob Coxon

Investigador de Anthropic