In einem von Sicherheitsexperten als Wendepunkt für KI-gestützte Cybersicherheit bezeichneten Ereignis gab Google am 15. Juli 2025 bekannt, dass sein KI-Agent 'Big Sleep' erfolgreich die Ausnutzung einer kritischen SQLite-Sicherheitslücke verhindert hat, die bislang nur Angreifern bekannt war.
Die Schwachstelle, geführt unter CVE-2025-6965 mit einem CVSS-Score von 7,2, ist ein Speicherfehler, der alle SQLite-Versionen vor 3.50.2 betrifft. Laut den Maintainer:innen des SQLite-Projekts gilt: „Ein Angreifer, der beliebige SQL-Befehle in eine Anwendung einschleusen kann, könnte einen Integer-Überlauf verursachen, der dazu führt, dass außerhalb eines Arrays gelesen wird.“
Bemerkenswert an diesem Fall ist, dass Googles KI-System nicht nur die Schwachstelle erkannt, sondern auch deren bevorstehende Ausnutzung vorhergesagt hat. „Durch die Kombination von Bedrohungsinformationen und Big Sleep konnte Google tatsächlich vorhersagen, dass eine Schwachstelle unmittelbar ausgenutzt werden würde, und wir konnten sie im Vorfeld unterbinden“, erklärte Kent Walker, Präsident für Globale Angelegenheiten bei Google und Alphabet.
Big Sleep steht für die Weiterentwicklung von Googles KI-Sicherheitsfähigkeiten und wurde in Zusammenarbeit von Google DeepMind und Google Project Zero entwickelt. Das System wurde erstmals 2024 als Project Naptime angekündigt und entwickelte sich anschließend zu seiner heutigen Form. Im November 2024 entdeckte es seine erste Schwachstelle in der Praxis, doch dies ist das erste Mal, dass es aktiv einen Exploit-Versuch verhindert hat.
Die Auswirkungen gehen über Googles eigene Sicherheitsinfrastruktur hinaus. Das Unternehmen setzt Big Sleep nun ein, um die Sicherheit weit verbreiteter Open-Source-Projekte zu verbessern und könnte damit die Art und Weise, wie Schwachstellen im Internet erkannt und behoben werden, grundlegend verändern. Sicherheitsforscher:innen sehen darin einen Wandel von reaktiver zu proaktiver Cybersicherheitsabwehr, bei der KI-Systeme Bedrohungen identifizieren können, bevor sie sich manifestieren.
„Diese Cybersicherheits-Agenten sind ein Gamechanger, da sie Sicherheitsteams entlasten, sodass diese sich auf hochkomplexe Bedrohungen konzentrieren können, und gleichzeitig deren Wirkung und Reichweite massiv erhöhen“, erklärte Google in seiner Mitteilung. Das Unternehmen hat zudem ein Whitepaper veröffentlicht, das den Ansatz zur Entwicklung von KI-Agenten beschreibt, die unter menschlicher Aufsicht arbeiten, die Privatsphäre schützen und potenzielle Risiken minimieren.