Meta niega brecha de datos con el sistema de seguimiento de empleados: estaban «en un lugar donde no debían estar»
MADRID, 9 Jul. –
El programa de Meta que registra la actividad en el ordenador de sus empleados para entrenar sus modelos de inteligencia artificial (IA) está actualmente en pausa como consecuencia de una brecha de seguridad, aunque el motivo principal parecer ser que los datos aparecieron «en un lugar donde no debían estar».
«El programa completo está pausado», al menos por el momento, ha afirmado el director de Tecnología de Meta, Andrew Bosworth, en relación con la Model Capability Initiative (MCI) y la brecha de datos que se detectó en junio, que expuso las conversaciones privadas de los empleados.
Estas fueran recopiladas con un sistema interno, instalado en los ordenadores de los trabajadores de Meta de Estados Unidos, para monitorizar el uso que hacen del ordenador y obtener datos de entrenamiento para la IA.
En una entrevista con el director ejecutivo de The Atlantic, Nicholas Thompson, hechas a finales de junio y compartidas este miércoles en el pódcast ‘The Most Interesting Thing in AI’ de YouTube, Bosworth ha explicado que en realidad no ha habido ninguna brecha de seguridad, sino que los datos se habían colocado «en un lugar donde no debían estar».
«Fue algo estrictamente interno; no hay motivos para sospechar de irregularidades. Estamos revisando todos los puntos de acceso y realizando ese tipo de verificaciones», ha asegurado.
CONSEGUIR UNOS DATOS QUE NO EXISTEN
Durante su intervención, Bosworth también ha explicado la teoría de un programa que ha generado polémica, tras su salto a los medios de comunicación, por la monitorización que hace de la actividad de los empleados, al registrar el uso del teclado y el ratón para entrenar una IA propia.
Para Meta, la idea era simple: «Tienes un grupo de empleados que ya realizan este trabajo a diario. Y, sin que ello suponga un esfuerzo adicional por su parte, es posible mejorar tus modelos. Esto beneficia no solo a los empleados cuando retoman sus tareas, sino también a los consumidores, es decir, a las personas que desean utilizar la IA».
Más que un programa, Bosworth ha dicho que se trata de una investigación, que tenía por objetivo enseñar a su inteligencia artificial a utilizar un ordenador porque «las IA son sorprendentemente deficientes, a pesar de ser ellas mismas sistemas informáticos».
El recurso de los empleados era crear unos datos que no existían para enseñar a la IA a navegar por una web y a clicar en el lugar exacto, con una recopilación a largo plazo, que inicialmente se había estimado en 18 meses.
La revisión de los datos a las dos semanas mostró duplicidades, más que de las que esperaban encontrar. «La variabilidad es mucho más importante que un gran volumen de lo mismo que, en el fondo, se reduce a un único ejemplo», ha indicado el directivo.
Ello les llevó, según ha asegurado Bosworth, a ofrecer más opciones a los empleados para salir del programa. Con anterioridad se supo que Meta había introducido algunos cambios en el sistema que permitían a los empleados realizar pausas de hasta 30 minutos para comprobar temas personales.
CL24
