Los CEOs de Anthropic, OpenAI y SpaceX alertan sobre la IA: trastornos económicos, pérdida de control y ciberataques
MADRID 14 Sep. Agencias –
Los máximos líderes de las tres grandes tecnológicas que desarrollan Inteligencia Artificial han coincidido en que se debe ralentizar el desarrollo de la IA y han expresado sus advertencias sobre el riesgo de esta herramienta en los próximos años.
En concreto, el director ejecutivo de Anthropic, Dario Amodei, ha avisado que es necesario frenar el ritmo de desarrollo de los modelos de IA en una carta publicada en la web y en su cuenta de X el 12 de septiembre, una postura con la que han coincidido también el CEO de OpenAI, Sam Altman, y el fundador de SpaceX, Elon Musk en respuesta a su publicación.
«Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de IA», afirmó Amodei ante los riesgos de desalineación –cuando un sistema de IA actúa de forma distinta a las intenciones de sus creadores– y de posibles incidentes de seguridad.
Amodei señala en su carta que la IA tiene ventajas como su potencial para curar la mayoría de enfermedades graves en los próximos cinco a diez años, acelerar el crecimiento económico y crear un mundo de abundancia.
No obstante, advierte sobre riesgos «graves» derivados de su «gran poder»: el riesgo de perder el control de los sistemas de IA, su posible uso para ciberataques y «bioterrorismo», y «graves trastornos económicos».
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
El director de Anthropic busca un término medio entre desarrollar esta tecnología por los beneficios que aporta a la humanidad y frenarla para evitar las consecuencias de su rápido desarrollo.
De su lado, el director ejecutivo de OpenAI, Sam Altman, respondió en X al hilo de Amodei señalando su acuerdo en moderar el ritmo de la IA y se comprometió a contar con evaluadores independientes.
Por su parte, Elon Musk, fundador de SpaceX, compañía que también desarrolla IA, expresó su acuerdo con Amodei.
En su carta, Amodei detalla dos incidentes concretos que, a su juicio, justifican la necesidad de frenar el ritmo de desarrollo de la IA.
La primera es la auto-mejora recursiva. Desde este verano, la IA ha avanzado a un ritmo vertiginoso impulsada principalmente por su creciente capacidad para crear la siguiente generación de modelos. Si no se controla, advierte Amodei, podría superar la capacidad humana de comprender y controlar estos sistemas.
La segunda es el incidente OpenAI-Hugging Face. Un enjambre de agentes de IA actuó de forma autónoma llevando a cabo ciberataques contra objetivos que no se le habían pedido atacar, intentó hackear el sistema de evaluación encargado de valorar su rendimiento. Aunque nadie resultó herido y el daño económico fue mínimo, Amodei advierte que un sistema similar pero con mayores capacidades podría haber causado daños «catastróficos».
Asimismo, calcula que en seis a doce meses un enjambre de este tipo podría controlar toda internet mediante una red de dispositivos infectados, causando potencialmente cientos de miles de millones de dólares en daños.
Ante ambas preocupaciones, Amodei propone un plan de tres pasos para desarrollar IA a un ritmo que garantice su seguridad sin detener el progreso: un compromiso unilateral de Anthropic, coordinación de toda la industria y coordinación global.
Amodei ha indicado que uno de sus principales temores respecto a los límites autoimpuestos en su avance, se trata de la posibilidad de que China tome la delantera, algo que considera «un grave peligro para Estados Unidos y el mundo».De esta manera, el ritmo de desarrollo de la IA debería mantenerse en un punto justo para que las empresas estadounidenses continúen las primeras, pero que la carrera no alcance una velocidad vertiginosa.
En su cuenta de X, Sam Altman ha alertado sobre dos formas en que el progreso de la IA puede salir «muy mal» y que se deben evitar: señala que es posible perder el control del futuro ante esta tecnología y que el mundo puede tener «demasiada concentración de poder» si una herramienta extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo.
There are two ways AI progress could go very badly and that we must avoid.
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v
— Sam Altman (@sama) September 14, 2026
Asimismo, propone que será necesario desarrollar formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos y un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera.
En este contexto, el CEO de OpenAI ha anunciado que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. «Sería un momento poco aconsejable para salir al mercado bursátil», ha afirmado.
Elon Musk estima que en menos de cinco años los sistemas de inteligencia artificial podrían superar «la suma de toda la inteligencia humana» y que la tecnología dejará a «todos los humanos sin poder», según declaró en una entrevista a ‘The Economist’.
El fundador de SpaceX espera que la IA domine el ámbito digital y vaticina que legiones de robots impulsados por esta tecnología dominarán el mundo físico. Ante ese escenario, considera posible que la IA no reciba órdenes de los humanos «del mismo modo que no las reciben de los chimpancés».
El magnate señaló que se está preparando para un mundo de «abundancia infinita» gracias a las contribuciones de los robots en el trabajo, y que en menos de diez años el dinero «dejará de tener sentido».
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
‘The Economist’ advierte a los inversores de SpaceX que deben estar de acuerdo con su visión sobre el futuro de la IA, ya que Musk «se basó en ella para justificar la valoración de su salida a Bolsa».
El exinvestigador de Anthropic, Jacob Coxon, renunció el 9 de septiembre tras tres años trabajando en OpenAI y Anthropic, señalando que «ninguna de las dos compañías está actuando de manera responsable» y que están «apostando con nuestras vidas».
Coxon advirtió que no se debe subestimar el poder de esta tecnología, ya que estos sistemas son capaces de «hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales». Añadió que los trabajadores que construyen la IA creen que podría «matarnos a todos para finales de la década».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Un responsable de Ciencia de Alineación en Anthropic, Evan Hubinger, respaldó las advertencias de Coxon y señaló que los trabajadores del sector «verdaderamente creemos que la IA podría acabar con todos los humanos».
Hubinger apuntó que la probabilidad de que esto ocurra se eleva al 10% para el final de esta década. No obstante, aseguró que en Anthropic están haciendo «todo lo posible» para evitar esta situación, aunque todavía no cuentan con un plan para «resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello».
CL4
