Google DeepMind beschreibt für Gemini Robotics und Gemini Robotics-ER einen mehrschichtigen, ganzheitlichen Ansatz zur Sicherheit in der KI- und Robotikforschung. Dieser reicht von Low-Level-Motorsteuerung bis zu High-Level-semantischem Verständnis.
Die physische Sicherheit von Robotern und Menschen in ihrer Umgebung wird als grundlegendes Thema der Robotik eingeordnet. Genannt werden klassische Sicherheitsmaßnahmen wie Kollisionsvermeidung, die Begrenzung von Kontaktkräften und die dynamische Stabilität mobiler Roboter. Gemini Robotics-ER kann mit solchen sicherheitskritischen Low-Level-Controllern verbunden werden, die jeweils an die konkrete Robotikplattform angepasst sind.
Aufbauend auf den bestehenden Sicherheitsfunktionen von Gemini sollen Gemini-Robotics-ER-Modelle außerdem einschätzen können, ob eine potenzielle Handlung in einem gegebenen Kontext sicher ist, und darauf passende Reaktionen erzeugen.
Für die Sicherheitsforschung in Akademie und Industrie veröffentlicht Google DeepMind nach eigenen Angaben zudem ein neues Dataset, um semantische Sicherheit in embodied AI und Robotik zu bewerten und zu verbessern. In früheren Arbeiten hatte das Unternehmen gezeigt, wie eine von Isaac Asimovs Three Laws of Robotics inspirierte Robot Constitution ein LLM dabei unterstützen kann, für Roboter sicherere Aufgaben auszuwählen.
Darauf aufbauend wurde ein Framework entwickelt, das datengetriebene Constitutions automatisch erzeugt. Diese Regeln werden direkt in natürlicher Sprache formuliert und sollen das Verhalten eines Roboters steuern. Der Rahmen soll es ermöglichen, solche Constitutions zu erstellen, zu verändern und anzuwenden, um Roboter sicherer und stärker an menschlichen Werten ausgerichtet zu entwickeln.
Das neue ASIMOV-Dataset soll Forschenden helfen, die Sicherheitsfolgen robotischer Handlungen in realen Szenarien systematisch zu messen.
Für die Bewertung gesellschaftlicher Auswirkungen arbeitet Google DeepMind mit Fachleuten aus dem Responsible Development and Innovation Team sowie mit dem internen Responsibility and Safety Council zusammen. Darüber hinaus werden externe Spezialisten zu spezifischen Herausforderungen und Möglichkeiten von embodied AI in Robotikanwendungen konsultiert.
Neben der Partnerschaft mit Apptronik steht Gemini Robotics-ER nach Unternehmensangaben auch ausgewählten Testpartnern zur Verfügung, darunter Agile Robots, Agility Robots, Boston Dynamics und Enchanted Tools.
