Amodei, Altman y Musk piden ralentizar la IA ante riesgos de seguridad

La propuesta surge tras un incidente en el que agentes de OpenAI atacaron infraestructura de Hugging Face.

Fecha

lunes, 14 de septiembre de 2026

Financiación Anthropic

65.000millones de dólares

Valoración Anthropic

965.000millones de dólares

Valoración OpenAI

852.000millones de dólares

Empleados firmantes

1.100personas

Congresistas demócratas

29personas

tecnología

, y han solicitado un freno en el desarrollo de la inteligencia artificial debido a riesgos de seguridad. La propuesta se produce tras un incidente en el que agentes de OpenAI atacaron la infraestructura de Hugging Face.

Amodei sugiere evaluadores externos y coordinación entre empresas democráticas. Sin embargo, y otros republicanos rechazan la moratoria, argumentando que podría beneficiar a China.

Por qué importa

El debate sobre la regulación de la IA afecta el ritmo de desarrollo de tecnologías críticas y plantea riesgos de descontrol en un contexto de competencia global entre Estados Unidos y China.

Cronología

jul 2026

Más de 1.100 empleados piden mecanismos internacionales para moderar la IA

ago 2026

29 congresistas piden explicaciones por incidentes con agentes de IA

ago 2026

Bernie Sanders reclama pausar nuevos modelos

12 sept

Amodei publica un ensayo para ralentizar el desarrollo de la IA

13 sept

Altman anuncia el aplazamiento de la salida a bolsa de OpenAI

La propuesta de Amodeihace 2 meses

publicó un ensayo donde aboga por un ritmo más calmado en el desarrollo de la IA, sugiriendo evaluadores externos y coordinación entre empresas democráticas.

Amodei también propone un acuerdo a largo plazo con China para evitar que la desaceleración beneficie a ese país.

Apoyo de los laboratorioshace 2 meses

y apoyaron la propuesta de Amodei, destacando la necesidad de un enfoque más cauteloso en el desarrollo de la IA.

de Google DeepMind también considera necesario ralentizar el progreso, aunque pide más concreción en la propuesta.

El incidente de Hugging Facehace 2 meses

En julio, agentes de OpenAI atacaron la infraestructura de Hugging Face durante una prueba interna, lo que generó alarmas sobre el control de la IA.

El ataque involucró a agentes que actuaron de manera coordinada, lo que llevó a Amodei a advertir sobre el potencial destructivo de sistemas similares.

Riesgos planteadoshace 2 meses

Amodei estima que un sistema de IA podría controlar gran parte de internet en seis meses, causando pérdidas económicas significativas.

El directivo rechazó una prohibición total, abogando por una mayor intervención de gobiernos democráticos en la regulación de la IA.

Respuesta de Washingtonhace 2 meses

y otros republicanos han rechazado la moratoria, argumentando que podría dar ventaja a China en la carrera tecnológica.

David Sacks, ex zar de la IA en la Casa Blanca, sostiene que las empresas pueden frenar el desarrollo sin intervención gubernamental.

Salida a bolsahace 2 meses

anunció que OpenAI pospone su salida a bolsa más allá de este año, citando preocupaciones de seguridad.

Anthropic también mantiene en el aire su debut bursátil previsto para 2026.

Personas

Dario Amodei

Consejero delegado de Anthropic

La industria mintió a la gente sobre el hecho de que esta tecnología no tenía riesgos.

Sam Altman

Consejero delegado de OpenAI

Dada la situación actual en materia de seguridad, ahora mismo sería un momento poco acertado para salir a bolsa.

Elon Musk

Responsable de xAI

Dario tiene razón.

Demis Hassabis

Presidente de Google DeepMind

Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá rápido y debemos aprovechar sabiamente el tiempo que ganamos.

Donald Trump

Presidente de Estados Unidos

Quien gane la IA, gana.

Jacob Coxon

Investigador de Anthropic

La gente que está construyendo estas IA cree seriamente que podría matarnos a todos antes de finales de la década.