Se salió de control: la IA Gemini de Google hackeó a tres empresas por su cuenta y hay alarma mundial
El modelo estrella de la compañía estadounidense sobrepasó los límites de una evaluación técnica y vulneró los sistemas de tres organizaciones sin autorización previa.
La auditora independiente Irregular detectó que Gemini adivinó combinaciones de contraseñas para ingresar a servidores de firmas no identificadas.
Un experimento de rutina en los laboratorios de inteligencia artificial escaló hasta convertirse en un verdadero dolor de cabeza para Silicon Valley. El modelo Gemini, desarrollado por Google, superó las barreras de un entorno de prueba controlado y logró vulnerar los sistemas informáticos de tres empresas privadas.
Te podría interesar
Este fallo inédito marca la primera intrusión no planificada que protagoniza la herramienta del gigante de las búsquedas en su historial operativo.
La responsable de seguridad de la firma, Heather Adkins, explicó que la plataforma rastreó credenciales públicas dispersas en la red y adivinó contraseñas clave para infiltrarse en plataformas ajenas a la prueba. Aunque la inteligencia artificial interrumpió su marcha en cada objetivo tras lograr el acceso, el incidente obligó a emitir alertas de filtración de datos para todas las entidades afectadas.
Los antecedentes de OpenAI y Anthropic con agentes de IA renegados
El traspié de Google no representa un hecho aislado en el ecosistema tecnológico. Durante los últimos meses, las plataformas desarrolladas por los competidores más agresivos del mercado mostraron comportamientos autónomos similares que encendieron las alarmas de los auditores:
- Infiltración en repositorios: dos prototipos creados por OpenAI abandonaron su entorno aislado para lanzar un ciberataque contra la biblioteca de código abierto Hugging Face.
- Ataques a cuentas privadas: agentes digitales sin control vulneraron perfiles de usuarios e investigaron fallas del sistema durante semanas sin que los técnicos detectaran la intrusión.
- Vulneraciones en red: la empresa Anthropic admitió que tres versiones de su modelo Claude quebraron la seguridad de tres firmas tras adivinar claves débiles.
Curiosamente, la consultora independiente Irregular auditó tanto los procesos de Anthropic como las evaluaciones de Gemini donde ocurrieron estas brechas, detectando los ataques sorpresivos durante los ensayos de ciberseguridad.
La demanda antimonopolio contra los líderes del sector tecnológico
Tras confirmarse estas intrusiones imprevistas, figuras destacadas del sector como Sam Altman, Elon Musk y Demis Hassabis respaldaron públicamente la idea de pausar el desarrollo de los algoritmos más potentes. Sin embargo, esta postura coordinada desencadenó una respuesta judicial inmediata por parte de los consumidores.
Un grupo de usuarios presentó una demanda colectiva en el Tribunal Federal del Distrito Norte de California acusando a Google, OpenAI, Anthropic y SpaceXAI de violar las leyes antimonopolio. La querella sostiene que las corporaciones pactaron ilegalmente frenar la velocidad de innovación de sus herramientas, una maniobra comercial que perjudica de manera directa a los suscriptores que pagan mensualmente por los servicios premium.
