Google hat SynthID Detector angekündigt, ein Verifizierungsportal zur Identifikation von KI-generierten Inhalten, die mit Google AI erstellt wurden. Das Portal bündelt Erkennungsfunktionen für mehrere Modalitäten an einer Stelle und soll bei erkannten SynthID-Wasserzeichen außerdem jene Teile eines Inhalts hervorheben, die mit höherer Wahrscheinlichkeit wasserzeichenbasiert markiert wurden.
SynthID ist laut Google ein Verfahren für unsichtbare Wasserzeichen, mit denen sich KI-generierte Inhalte identifizieren lassen. Das System soll die Qualität der Inhalte erhalten und auch dann erkennbar bleiben, wenn Inhalte geteilt oder verschiedenen Transformationen unterzogen werden. Ursprünglich war SynthID auf KI-generierte Bilder ausgerichtet, inzwischen wurde es auf Text, Audio und Video ausgeweitet, darunter Inhalte aus Googles Modellen Gemini, Imagen, Lyria und Veo. Nach Unternehmensangaben wurden bereits mehr als 10 Milliarden Inhalte mit SynthID wassergezeichnet.
Funktionsweise des Portals
Nutzer können ein Bild, eine Audiodatei, ein Video oder einen Text hochladen, der mit Googles KI-Tools erstellt wurde. Das Portal prüft die hochgeladene Datei auf ein SynthID-Wasserzeichen. Wird ein Wasserzeichen erkannt, zeigt das System das Ergebnis an und markiert die Abschnitte oder Bereiche, in denen ein SynthID-Wasserzeichen am wahrscheinlichsten erkannt wurde.
Bei Audio nennt das Portal konkrete Segmente, in denen ein SynthID-Wasserzeichen erkannt wird. Bei Bildern weist es auf Bereiche hin, in denen ein Wasserzeichen am wahrscheinlichsten vorliegt. Google beschreibt den Ablauf als Upload des Inhalts, anschließendes Scannen auf Wasserzeichen und Ausgabe der Ergebnisse mit Hervorhebung der wahrscheinlich markierten Teile.
Google beginnt nach eigenen Angaben zunächst mit einem Rollout an frühe Tester. Journalisten, Medienschaffende und Forschende können sich über eine Warteliste für den Zugang zu SynthID Detector registrieren.
Ausbau des SynthID-Ökosystems
Google verweist darauf, das Text-Watermarking von SynthID bereits als Open Source veröffentlicht zu haben, damit Entwickler die Technologie in eigene Modelle integrieren können. Anfang des Jahres sei zudem mit NVIDIA eine Partnerschaft gestartet worden, um Videos zu wasserzeichnen, die mit dem NVIDIA Cosmos™ preview NIM microservice auf build.nvidia.com erzeugt werden. Damit soll SynthID nicht nur in von Google erzeugten Inhalten eingebettet sein.
Zugleich kündigt Google eine Partnerschaft mit GetReal Security an. Ziel ist, dass auch andere Partner erkennen können, ob ein Inhalt mit SynthID wassergezeichnet wurde.
Google beschreibt Transparenz bei Inhalten weiterhin als komplexe Herausforderung und verweist auf die weitere Zusammenarbeit mit der KI-Community sowie auf einen breiteren Zugang zu Transparenzwerkzeugen.
