7 de agosto (Reuters) — El modelo insignia de IA de la startup china Moonshot, Kimi K3, se escapó de un entorno de pruebas de ciberseguridad desarrollado por el Instituto de Seguridad de la IA del Reino Unido, según informó este jueves la empresa de investigación Frontier Security, lo que ha suscitado preocupación por los riesgos de ciberseguridad que plantean los sistemas avanzados de IA.
Los modelos de IA suelen ejecutarse en «entornos aislados» durante las pruebas de ciberseguridad para bloquear el acceso a información externa y evaluar su capacidad para resolver problemas de forma independiente.
Kimi K3 eludió uno de estos entornos aislados, lo que le permitió acceder a información más allá del entorno de pruebas, según ha afirmado la empresa de investigación en ciberseguridad Frontier Security, con sede en EE. UU.
Publicidad
Publicidad
Los investigadores advirtieron de que, si un «modelo de alto razonamiento» descubre un atajo de este tipo, es probable que otros modelos con un acceso similar puedan hacer lo mismo.
Dado que Kimi K3 es un modelo de acceso público, los investigadores advirtieron de que podría ser utilizado por «actores malintencionados», lo que haría que el incidente fuera potencialmente más perjudicial.
Moonshot no respondió de inmediato a una solicitud de comentarios de Reuters.
La evasión de las medidas de ciberseguridad por parte de Kimi K3 se suma a una serie de incidentes similares denunciados recientemente por empresas como Meta, OpenAI y Anthropic.
Estas brechas han suscitado preocupación entre los legisladores, y el Gobierno de EE. UU. ha intensificado sus esfuerzos para mejorar la seguridad de la IA. Algunos destacados líderes del sector de la IA han llegado incluso a argumentar que el desarrollo debería ralentizarse hasta que se establezcan medidas de protección más sólidas.
(Información de Ananya Palyekar en Bangalore; edición de Nivedita Bhattacharjee)