Diego Perino (Barcelona Supercomputing Center): «No estamos cerca de una catástrofe por la IA»
BARCELONA, 16 Sep. (Agencias) –
El director del AI Institute del Barcelona Supercomputing Center (BSC), Diego Perino, ha afirmado que «no estamos cerca de una catástrofe por la IA», pero se ha mostrado favorable a retrasar el desarrollo de algunas capacidades si sus creadores no pueden garantizar el control.
La velocidad de desarrollo de la IA, que se ha incrementado este verano, se ha dado sobre todo por la aceleración de la capacidad de mejora autónoma de los modelos, según ha asegurado Perino este miércoles en una entrevista con Agencias.
El director ha añadido que las empresas del sector están pidiendo regulación externa que afecte a todos por igual en vez de iniciar individualmente una desaceleración para no caer en una posición de «desventaja» en cuanto a las capacidades de su tecnología respecto a las de la competencia.
Sobre los efectos que tendría una desaceleración en la experiencia de uso de la IA por parte de ciudadanos y empresas, Merino ha asegurado que «no se notaría en el uso medio», ya que las herramientas actuales son muy potentes.
Ha dicho que la ralentización se podría percibir más en los llamados «modelos frontera», es decir, los sistemas más avanzados y potentes del momento, que habitualmente no están disponibles para el público general.
De hecho, en algunos modelos actuales no es posible dar una «explicación interna» del 100% de sus decisiones y comportamientos, fenómeno que se incrementa cuando agentes de IA interaccionan entre sí, ha detallado.
Es por ello que Perino ha puesto en valor los test y evaluaciones para medir los riesgos, y ha considerado la «transparencia» como algo clave.
De hecho, el trabajo de análisis del BSC en materia de IA al que ha hecho referencia se vertebra alrededor de modelos abiertos sin interés por avanzar a un modelo u otro, sino a crear «un ecosistema para que la inversión pública y las empresas entiendan qué es la IA», sus posibilidades y sus riesgos.
El alto ritmo de desarrollo, sin embargo, no se traduce en una proximidad de la Inteligencia Artificial General (AGI), es decir, una tecnología capaz de aprender, razonar y realizar cualquier tarea intelectual exactamente igual o mejor que un ser humano.
«Aún no estamos ahí», ha afirmado en este sentido, y ha añadido que es difícil precisar en qué plazo la IA alcanzará este nivel, si es que logra alcanzarlo.
En los últimos días, los líderes de grandes empresas estadounidenses de IA como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (SpaceX) han coincidido en que se debe ralentizar el desarrollo de esta tecnología y han expresado sus advertencias sobre su riesgo en los próximos años.
La presidenta de la Comisión Europea, Ursula von der Leyen, ha apostado este miércoles por «limitar los riesgos de la Inteligencia Artificial (IA)» para «maximizar los beneficios» y HA considerado que la carrera por liderar el sector no depende ya por avanzar la IA en frontera, sino por sacar provecho de la tecnología que ya existe para un desarrollo «más responsable» que permita empoderar a los profesionales en lugar de sustituirlos.
Sin embargo, el presidente de los Estados Unidos, Donald Trump, ha afirmado este lunes que existe una «conspiración enfermiza» para frenar la IA que únicamente beneficiaría a China.
CL11
