De incidenten vonden plaats in mei tijdens een beoordeling die werd uitgevoerd door het onafhankelijke cyberbeveiligingsbedrijf Irregular.
Volgens Google vond Gemini online openbaar beschikbare informatie en raadde het inloggegevens om toegang te krijgen tot drie websites waarvan het dacht dat ze binnen het kader van de test vielen. In alle drie de gevallen stopte het model de hackpoging.
De incidenten werden destijds niet openbaar gemaakt. The Wall Street Journal meldde dat Google van mening was dat openbaarmaking niet nodig was omdat er geen schade was aangericht.
Soortgelijke incidenten in verband met Irregular zijn ook bekendgemaakt door Meta, Anthropic en OpenAI. Een afzonderlijk incident waarbij het Chinese Moonshot AI betrokken was, werd gemeld tijdens een cyberbeveiligingsevaluatie uitgevoerd door Frontier Security.
De incidenten hebben zorgen gewekt over de manier waarop autonome AI-agenten moeten worden ingeperkt wanneer ze toegang krijgen tot het internet en computersystemen.
