Anthropic aclara que nunca pidió prohibir los modelos de IA abiertos y propone tres medidas para regularlos
MADRID, 28 Jul. –
El CEO de Anthropic, Dario Amodei, ha aclarado que la posición de su compañía no defiende la prohibición de los modelos de Inteligencia Artificial (IA) abiertos, pero considera que frente a actores extranjeros, como China, se necesitan unas medidas que protección que garanticen que no se usan para obtener una capacidad tecnológica y militar superior a la estadounidense.
Este pasado lunes, el CEO de Anthropic, Dario Amodei, compartió su opinión sobre una discusión que se ha generado en los últimos días sobre los modelos de IA abiertos, especialmente aquellos que provienen de China, y cuyo uso algunos funcionarios de Estados Unidos están considerando prohibir en territorio estadounidense.
Ante esta posibilidad, algunas compañías tecnológicas han firmado una carta, entre ellas Nvidia, Microsoft, Perplexity y Mistral, dando su apoyo a los modelos de IA abiertos y su papel para impulsar el liderazgo tecnológico de Estados Unidos, y algunas figuras se han posicionado criticando que el laboratorio de IA dirigido por Amodei desee la prohibición de dichos modelos como una estrategia para proteger su modelo de negocio.
«Anthropic nunca ha defendido la prohibición de los modelos abiertos«, afirma el CEO de Anthropic, posicionándose ante unos modelos que, mientras no tengan capacidades peligrosas, considera que son un bien público, explicando que «no cuestan apenas nada aparte de la computación necesaria para hacerlos funcionar, dando valor a negocios, desarrolladores e investigadores».
«Mi principal preocupación es que gobiernos autoritarios, no únicamente el Partido Comunista Chino (PCCh), aunque el PCCh es claramente la amenaza más capaz, construyan modelos de IA que sean más potentes que los diseñados por Estados Unidos, y los usen para lograr una superioridad militar permanente o perpetrar una represión increíblemente profunda de su propio pueblo», afirma Amodei en la misma línea argumental del propio gobierno estadounidense sobre el desafío que suponen los regímenes autoritarios en el 2026 Annual Threat Assessment.
La segunda preocupación del CEO del laboratorio de IA yace en los riesgos de desalineación de la IA (cuando un modelo es muy potente, pero no hace lo que realmente se quiere que haga y conlleva comportamientos impredecibles o dañinos) y su potencial mal uso en ciberataques o ataques biológicos.
«Los modelos de pesos abiertos presentan potencialmente un riesgo mayor que los modelos cerrados, porque es muy difícil aplicarles las salvaguardas necesarias o supervisar su uso, y una vez que se liberan no pueden retirarse», expone Amodei. Ante la posibilidad de que se prohíba su uso en EE. UU., señala que esto realmente no frena a los actores maliciosos y solo blindaría a las grandes compañías del país frente a la competencia.
Para mitigar los efectos del uso de modelos abiertos de IA, Anthropic sugiere tres medidas. La primera es no vender chips potentes ni equipos de fabricación de chips a China, al igual que combatir el contrabando para introducir esa tecnología en el país asiático.
Amodei apunta también la necesida de combatir las operaciones de destilación industrial porque es «un proceso mucho más eficiente en cuanto a capacidad de cómputo que entrenar modelos desde cero», lo que, a su juicio, permite a China «construir modelos mucho mejores de lo que su número de chips normalmente permitiría».
La tercera medida se basa en que todos los modelos capaces, tanto abiertos como cerrados, pasen por unas pruebas de seguridad obligatorias para «detectar riesgos cibernéticos, biológicos y de alineación antes de su lanzamiento».
Aquí Amodei se posiciona de tal forma que indica «que, para ser eficaces, las pruebas tendrían que ser globales, lo que significa que incluso el PCCh tendría que estar de acuerdo».
Esta postura general de Anthropic no ha sido bien recibida por las comunidades de modelos de IA abiertos y de la propia Claude en Reddit, donde los usuarios denuncian que apelar a la «seguridad nacional» es una cortina de humo para imponer reglas que solo los grandes laboratorios de IA pueden asumir y que condenan a la escena del código abierto a una muerte lenta.
CL24
