Google DeepMind stellt ein neues Framework vor, das die aufkommenden offensiven Cyberfaehigkeiten fortgeschrittener KI bewerten soll. Es soll helfen zu verstehen, wie zunehmend leistungsfaehige KI fuer Cyberangriffe missbraucht werden koennte, und welche Abwehrmassnahmen vorab priorisiert werden sollten.
KI wird in der Cybersicherheit seit langem eingesetzt, etwa fuer Malware-Erkennung, Netzwerkverkehrsanalyse und andere eng umrissene Anwendungen des maschinellen Lernens. Mit der Annäherung an AGI koennte KI nach Darstellung des Unternehmens Abwehrprozesse weiter automatisieren und Schwachstellen schneller beheben. Zugleich steige aber auch das Risiko, dass fortgeschrittene KI Cyberangriffe automatisiert, beschleunigt und fuer Angreifer kostenguenstiger macht.
Das Framework ist laut Google DeepMind die bislang umfassendste Bewertung dieser Art. Es deckt jede Phase der Cyberangriffskette ab, von Reconnaissance bis Action on Objectives, beruecksichtigt verschiedene Bedrohungstypen und stuetzt sich auf reale Daten. Ziel ist es, Stellen zu identifizieren, an denen KI Angriffe schneller, billiger oder einfacher machen koennte, einschliesslich voll automatisierter Cyberangriffe.
Als Grundlage wurde das aktualisierte Frontier Safety Framework mit bewaehrten Cybersecurity-Bewertungsansaetzen wie MITRE ATT&CK verknuepft. Diese etablierten Frameworks erfassen zwar die End-to-End-Angriffskette und unterschiedliche Angriffsszenarien, wurden laut Google DeepMind aber nicht dafuer entwickelt, Angriffe mit KI-Unterstuetzung abzubilden. Der neue Ansatz soll diese Luecke schliessen.
Fuer die Entwicklung analysierte Google DeepMind nach eigenen Angaben mehr als 12.000 reale Versuche in 20 Laendern, KI fuer Cyberangriffe einzusetzen. Die Daten stammen aus Googles Threat Intelligence Group. Auf dieser Basis wurden typische Muster des Angriffsablaufs identifiziert, sieben archetypische Angriffskategorien kuratiert, darunter Phishing, Malware und Denial-of-Service-Angriffe, sowie kritische Bottleneck-Phasen entlang der Angriffskette bestimmt, in denen KI die bisherigen Angriffskosten deutlich veraendern koennte.
Der Fokus auf diese Bottlenecks soll es Verteidigern ermoeglichen, Sicherheitsressourcen gezielter zu priorisieren. Das Framework ist darauf ausgerichtet, notwendige Schutzmassnahmen zu bestimmen, bevor Angreifer fortgeschrittene KI fuer komplexe Cyberangriffe ausnutzen.
