OpenAI beschreibt KI als Technologie mit großem Potenzial zur Verbesserung vieler gesellschaftlicher Bereiche, betont aber zugleich, dass ein vorteilhafter Ausgang nicht garantiert ist. Künftige Macht könne entweder bei wenigen Unternehmen liegen, die Superintelligenz kontrollieren, oder dezentral bei vielen Menschen. OpenAI hält Letzteres für wünschenswerter und formuliert das Ziel, wirklich allgemeine KI möglichst vielen Menschen zugänglich zu machen.
Als ersten Grundsatz nennt das Unternehmen die Demokratisierung. KI solle nicht zu einer weiteren Konzentration von Macht bei wenigen führen. Neben breitem Zugang gehe es deshalb auch darum, dass zentrale Entscheidungen über KI durch demokratische Prozesse und auf egalitären Prinzipien beruhen und nicht allein von KI-Laboren getroffen werden.
Unter dem Stichwort Empowerment beschreibt OpenAI KI als Werkzeug, mit dem Menschen ihre Ziele besser erreichen, mehr lernen und wertvollere Aufgaben erledigen können. Dafür müssten Produkte gebaut werden, die diese Nutzung zuverlässig ermöglichen. Zugleich verweist das Unternehmen auf unterschiedliche Bedürfnisse und will Nutzern so viel Autonomie wie vertretbar einräumen. Diese breite Nutzung solle jedoch so entwickelt und bereitgestellt werden, dass Schäden minimiert werden. Das schließe die Vermeidung katastrophaler Schäden ebenso ein wie die Begrenzung lokaler Schäden und möglicher schädlicher gesellschaftlicher Effekte. Bei Unsicherheit wolle OpenAI eher vorsichtig vorgehen und Beschränkungen erst mit zusätzlicher Evidenz lockern.
Mit dem Prinzip des universellen Wohlstands verbindet OpenAI die Vorstellung, dass leicht nutzbare KI-Systeme mit viel Rechenleistung neue Formen der Wertschöpfung und Verbesserungen der Lebensqualität ermöglichen können, besonders durch neue wissenschaftliche Entdeckungen. Damit dieser Wohlstand breit geteilt werde, könnten aus Sicht des Unternehmens neue ökonomische Modelle durch Regierungen nötig sein. Außerdem seien große Mengen an KI-Infrastruktur und neue Technologien erforderlich, um die Kosten dieser Infrastruktur deutlich zu senken. In diesem Zusammenhang verweist OpenAI auf hohe Compute-Investitionen, vertikale Integration und den Ausbau von Rechenzentren in vielen Regionen.
Beim Thema Resilienz hebt OpenAI hervor, dass KI neue Risiken einführt, die nicht von einem einzelnen Labor allein gelöst werden können. Genannt werden etwa sehr leistungsfähige Modelle, die die Entwicklung neuer Pathogene erleichtern könnten, was gesellschaftsweite Abwehrmaßnahmen erfordere, die nicht auf einzelne Erreger beschränkt sind. Als weiteres Beispiel nennt das Unternehmen wachsende Cybersecurity-Fähigkeiten von Modellen. Diese sollten schnell genutzt werden, um Open-Source-Software und kritische Infrastruktur besser zu schützen und Modelle darauf zu trainieren, sicherere Softwareentwicklung zu unterstützen.
Daran knüpft OpenAI seine bereits länger vertretene Strategie der iterativen Bereitstellung. Gesellschaften müssten jede neue Fähigkeitsstufe von KI einordnen, verstehen und in der Praxis integrieren, um gemeinsam den weiteren Weg festzulegen. Das sei nicht isoliert möglich, da sich Gesellschaft und Technologie wechselseitig entwickeln und dafür Zeit notwendig sei. Zugleich stellt OpenAI klar, dass dies nicht die einzige Sicherheitsstrategie sei; sichere Systeme und technische Alignment-Arbeit blieben ebenfalls erforderlich. Für bestimmte Phasen hält das Unternehmen zudem Zusammenarbeit mit Regierungen, internationalen Organisationen und anderen AGI-Akteuren für notwendig, bevor bei Alignment-, Sicherheits- oder gesellschaftlichen Problemen weiter vorangegangen wird.
Als fünften Grundsatz nennt OpenAI Anpassungsfähigkeit. Wegen der schwer vorhersagbaren weiteren Entwicklung wolle das Unternehmen seine Positionen mit neuen Erkenntnissen aktualisieren und transparent machen, wann, wie und warum sich betriebliche Grundsätze ändern. Als mögliches Beispiel nennt OpenAI künftige Phasen, in denen ein Teil des Empowerments zugunsten größerer Resilienz eingeschränkt werden könnte. Mit fortschreitender Entwicklung würden emergente Verhaltensweisen schwerer vorhersehbar; darauf wolle das Unternehmen mit vorsichtiger Weiterentwicklung, iterativer Bereitstellung und Lernen aus realen Wechselwirkungen reagieren.
Als Rückblick verweist OpenAI auf frühere Zurückhaltung bei der Veröffentlichung der GPT-2-Gewichte. Diese Sorge habe sich im Nachhinein als überzogen erwiesen, habe aber zur Strategie der iterativen Bereitstellung beigetragen. Für die kommende Phase erwartet das Unternehmen besonders weitreichende Auswirkungen der Technologie, hält umfassende Kritik und genaue Prüfung für angemessen und erklärt, nicht jede Entscheidung richtig zu treffen, aber schnell lernen und nachsteuern zu wollen.
