Un modelo de Meta también se descontrola y hackea a una organización durante una prueba de ciberseguridad
MADRID, 6 Ago. –
Meta ha confirmado que uno de sus modelos de inteligencia artificial (IA) también se descontroló y acabó hackeando a una empresa real durante una prueba de ciberseguridad, tal y como ha ocurrido con otros modelos de OpenAI y Anthropic.
OpenAI reconoció el pasado mes de julio que varios de sus modelos, incluido PT-5.6 Sol, estuvieron implicados en el ataque a la plataforma HuggingFace como parte de una prueba de seguridad. Más tarde, Anthropic reveló el acceso no autorizado a tres organizaciones por parte de sus modelos Claude durante una prueba de investigación interna.
Ahora, Meta se ha sumado a este tipo de incidentes, ya que uno de sus modelos de Meta AI consiguió acceder a internet y atacar a una organización en el proceso de una prueba de ciberseguridad, como ha confirmado la directora de comunicación de IA e innovación de Meta para EMEA, Anna Dack, en declaraciones a The Verge.
Concretamente, como ha recogido The Information, el incidente de seguridad está relacionado con el experimentado por los modelos de Anthropic, ya que se otorgó acceso a internet inadvertidamente por un fallo en la prueba y, con ello, el modelo continuó experimentando hasta conseguir un acceso no autorizado a una empresa real.
Este nuevo incidente de ciberseguridad con modelos de IA que operan de forma autónoma se suma a los expuestos recientemente por el Instituto de Seguridad de la IA del Reino Unido (AISI), que alertó de un nuevo comportamiento descontrolado de los modelos de inteligencia artificial (IA) de frontera de OpenAI y Anthropic, GPT-5.6 Sol y Mythos 5, tras recurrir a técnicas de ingeniería social e inyección de ‘prompts’ contra personas y organizaciones reales.
CL11
