Actualice para obtener acceso completo a todas las noticias premium en Yahoo Finanzas y obtenga más artículos excelentes como esta vista previa gratuita.
Se requiere un plan de suscripción Silver u Gold para acceder a artículos de noticias premium.
Los ministros de finanzas, los banqueros centrales y los financieros han expresado serias preocupaciones sobre un nuevo y poderoso modelo de inteligencia artificial que temen que pueda socavar la seguridad de los sistemas financieros.
El desarrollo del modelo Claude Mythos por parte de Anthropic ha dado lugar a reuniones de crisis, después de que encontró vulnerabilidades en muchos sistemas operativos importantes.
Los expertos dicen que tiene potencialmente una capacidad sin precedentes para identificar y explotar las debilidades de seguridad cibernética, aunque otros advierten que se necesitan más pruebas para comprender adecuadamente sus capacidades.
El Ministro de Finanzas canadiense, François-Philippe Champagne, dijo a la BBC que Mythos había sido discutido extensamente en la reunión del Fondo Monetario Internacional (FMI) en Washington DC esta semana.
“Ciertamente es lo suficientemente grave como para merecer la atención de todos los ministros de Finanzas”, dijo.
“La diferencia es que el Estrecho de Ormuz: sabemos dónde está y sabemos qué tan grande es… el problema que enfrentamos con Anthropic es que es lo desconocido, lo desconocido”.
“Esto requiere mucha atención para que tengamos salvaguardias y procesos implementados para asegurarnos de garantizar la resiliencia de nuestros sistemas financieros”, añadió.
Mythos es uno de los últimos modelos de Anthropic desarrollado como parte de su sistema de inteligencia artificial más amplio llamado Claude, un rival de ChatGPT de OpenAI y Gemini de Google.
Lo reveló Anthropic a principios de este mes, cuando los desarrolladores responsables de probar los modelos de IA y su desempeño en las llamadas tareas “desalineadas”, que van en contra de los valores, objetivos y comportamientos humanos, dijeron que era “sorprendentemente capaz en tareas de seguridad informática”.
Anthropic no ha publicado el modelo, alegando preocupaciones de que podría sacar a la luz errores de software antiguos o encontrar formas de explotar fácilmente las vulnerabilidades del sistema.
En cambio, ha puesto Mythos a disposición de gigantes tecnológicos como Amazon Web Services, CrowdStrike, Microsoft y Nvidia como parte de una iniciativa llamada Proyecto Glasswing, que llama un “esfuerzo para proteger el software más crítico del mundo”.
Mythos es parte del sistema Claude de Anthropic, la familia de modelos de IA de la compañía y su asistente de IA del mismo nombre. [NurPhoto via Getty Images]
El jueves, Anthropic lanzó una nueva versión de un modelo existente, Claude Opus, diciendo que permitiría probar las capacidades cibernéticas de Mythos en sistemas menos potentes.
Las preocupaciones planteadas sobre Mythos pueden superar las conversaciones sobre modelos de IA anteriores, pero algunos expertos en ciberseguridad han cuestionado hasta qué punto están justificadas. – especialmente porque el modelo no ha sido probado por la industria en general para ver qué tan capaz es realmente.
El Instituto de Seguridad de IA del Reino Unido tuvo acceso a una versión preliminar y publicó el único informe independiente sobre las habilidades de ciberseguridad del modelo.
Sus investigadores notaron que era una herramienta poderosa capaz de encontrar muchos agujeros de seguridad en entornos indefensos, pero sugirieron que Mythos no era dramáticamente mejor que el predecesor de Claude, Opus 4.
“Nuestras pruebas muestran que Mythos Preview puede explotar sistemas con una postura de seguridad débil, y es probable que se desarrollen más modelos con estas capacidades”, dijeron los autores del informe.
Tampoco es la primera vez que un desarrollador de IA afirma que las capacidades de sus modelos significan que no deberían publicarse, algo que los críticos argumentan que es una táctica para generar publicidad.
En febrero de 2019, OpenAI citó temores similares cuando decidió escalonar el lanzamiento de GPT-2, una versión anterior de sus modelos que ahora impulsa su herramienta más grande, ChatGPT.
Los principales banqueros tendrán acceso al modelo con antelación para que prueben sus sistemas.
El director ejecutivo de Barclays, CS Venkatakrishnan, dijo a la BBC: “Es tan grave que la gente tiene que preocuparse.
“Tenemos que entenderlo mejor, entender las vulnerabilidades que están siendo expuestas y solucionarlas rápidamente”.
Añadió que “así será el nuevo mundo”, haciendo referencia a un sistema financiero mucho más conectado, con oportunidades y vulnerabilidades.
Si bien el desarrollador Anthropic ha dicho que el modelo ya ha expuesto múltiples vulnerabilidades de seguridad en algunos sistemas operativos, sistemas financieros y navegadores web críticos, a los gobiernos y bancos se les ofrece acceso antes de su lanzamiento público para ayudar a proteger sus propios sistemas.
El gobernador del Banco de Inglaterra, Andrew Bailey, dijo a la BBC que el desarrollo debía tomarse muy en serio: “Ahora tenemos que analizar con mucho cuidado lo que este último desarrollo de IA podría significar para el riesgo de delitos cibernéticos”.
Y añadió: “La consecuencia podría ser que haya un desarrollo de la IA, del modelado, que haga más fácil detectar las vulnerabilidades existentes en una especie de sistemas centrales de TI, y entonces, obviamente, los ciberdelincuentes -los malos actores- podrían tratar de explotarlas”.
El Tesoro de EE.UU. confirmó que había planteado la cuestión a sus principales bancos, alentándolos a probar sus sistemas, antes de cualquier publicación pública de Mythos por parte de Anthropic.
Fuentes de la industria financiera indicaron que otra destacada empresa estadounidense de inteligencia artificial podría lanzar pronto un modelo igualmente poderoso pero sin las mismas salvaguardias.
James Wise, socio de Balderton Capital, es presidente de la unidad Sovereign AI, un fondo de capital de riesgo que invertirá en empresas británicas de IA, respaldado por 500 millones de libras esterlinas de financiación gubernamental.
Dijo que Mythos es “el primero de lo que serán muchos modelos más poderosos” que pueden exponer las vulnerabilidades de los sistemas.
Su unidad está “invirtiendo en empresas británicas de IA que se están ocupando de eso: empresas que trabajan en la seguridad de la IA”, dijo al programa Today de la BBC.
“Esperamos que los modelos que exponen las vulnerabilidades sean también los modelos que las solucionen”.
[BBC]
Suscríbase a nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. ¿Fuera del Reino Unido? Regístrese aquí.
