Der Staat steht vor einer doppelten Herausforderung: Er muss Innovationsräume offenhalten, ohne seine ordnende, schützende und rechtsstaatliche Funktion preiszugeben. Gute Regulierung ist dabei kein Bremsklotz des Fortschritts, sondern eine institutionelle Voraussetzung. Sie sorgt dafür, dass technologische Innovation nicht gegen, sondern im Dienste der offenen Gesellschaft unter Wahrung der freiheitlich-demokratischen Grundordnung stattfindet. Diese Werte müssen gerade in Zeiten technologischer Umbrüche nicht relativiert, sondern gestärkt werden.
Damit eine innovationsfreundliche Regulierung funktioniert, braucht es neben guten Grundregeln auch sinnvolle Ermessens- und Beurteilungsspielräume. Behörden und staatliche Einrichtungen müssen befähigt werden, flexibel zu entscheiden, statt lediglich Vorschriften umzusetzen. Nur so lässt sich in komplexen, dynamischen Situationen angemessen reagieren. Für Künstliche Intelligenz (KI) bleibt dabei vor allem der Anwendungsraum standardisierter Aufgaben offen, der Menschen, die Entscheidungen im Ermessensspielraum zu treffen haben, entlasten soll. In einer Gesellschaft, die sich in immer kürzeren Abständen wandelt, gilt es, mehr Freiheit zu wagen. Dies bedeutet nicht Regellosigkeit, sondern mutige Öffnung bestehender Strukturen im Dienste verantwortlicher Innovation.
Wie fair sind Algorithmen?
Mit dem Einsatz von KI wächst die Bedeutung des menschlichen Ermessens noch weiter. Denn viele Aspekte verantwortlichen Handelns – etwa Tugenden wie Fairness, Umsicht oder moralische Intuition – lassen sich nicht oder nur schwer in Algorithmen kodifizieren. Automatisierte Entscheidungssysteme können schnell entscheiden, aber sie verstehen nicht, was Ermessen ist. Denn jede Ausnahme ist eine neue Regel, die gerade keine Spielräume eröffnet.
Die Gefahr: Eine Übertragung von Entscheidungen auf KI-Systeme ohne ausreichenden menschlichen Rahmen kann Ermessensspielräume verkleinern statt erweitern. Hier braucht es klare Leitlinien, die KI als Werkzeug einordnen und die Mensch-Maschine-Interaktion konturieren. Dies vor allem, weil die verstärkte Nutzung von KI in der Verwaltung und zunehmend in der Rechtsprechung die Effizienz steigern kann, etwa durch gerichtsfeste KI oder durch KI-Entscheidungsassistenten.
Statistik und Wahrscheinlichkeiten
Probabilistische Entscheidungen, also Entscheidungen entlang statistischer Wahrscheinlichkeiten, wie sie durch KI erfolgen, können aber unfair oder sogar rechtswidrig sein, weil sie nicht auf Wahrheit im Einzelfall, sondern auf Wahrscheinlichkeit im Allgemeinen beruhen. So haben Ermessensspielräume in der Demokratie auch immer den Zweck, dass Entscheidungen frei von äußerlichem Einfluss bleiben. Eine KI entscheidet aber niemals unbeeinflusst, sondern probabilistisch.
Weil die von der KI angenommenen Wahrscheinlichkeiten auf Daten beruhen, welche in das System einfließen, besteht die Gefahr, Verzerrungen zu verstetigen, etwa im Predictive Policing oder bei gerichtlichen Urteilen. Darüber hinaus besteht wenig Transparenz über die Vorgänge in der Black Box der KI, was das im Grundgesetz verankerte Recht auf effektiven Rechtsschutz einschränkt.
Andererseits gibt es viele Prozesse in der Verwaltung, in denen KI schon heute mit den aktuellen Fähigkeiten effizient und rechtmäßig urteilen kann. Beispiele sind Formularprüfungen, Dokumentzusammenfassungen oder Anspruchs- und Berechtigungsprüfungen. Diese können mit nachgelagerter Bearbeitung durch Menschen funktionieren.
Daraus lassen sich folgende Grundfunktionen des Rechts ableiten: Zunächst muss Recht als Ermöglichungsrahmen und als Werkzeug zur Minimierung von Entscheidungsaufwand verstanden werden. Eine zeitgemäße Regulierungspolitik muss sich von der Vorstellung lösen, Recht sei in erster Linie ein Instrument zur Gefahrenabwehr. Gerade unter Bedingungen technologischer Dynamik kommt dem Recht eine weitere, ebenso zentrale Funktion zu. Es soll Entscheidungslasten reduzieren und Handlungsfähigkeit vergrößern.
Leitplanken statt Barrieren setzen
Gesetze, die Innovation begleiten wollen, müssen daher ausreichend abstrakt und technologieoffen ausgestaltet sein. Sie dürfen technische Entwicklungen weder vorwegnehmen noch durch zu enge Vorgaben faktisch blockieren. Stattdessen haben sie verlässliche Leitplanken zu setzen, innerhalb derer neue Technologien rechtssicher erprobt, weiterentwickelt und eingesetzt werden können. Recht wird so nicht zum Innovationshemmnis, sondern zum Ermöglichungsrahmen für verantwortlichen Fortschritt.
Außerdem müssen Ermessenskompetenzen gestärkt werden. Verwaltung und Justiz brauchen mehr organisatorischen Rückhalt, um mutige, gut begründete Entscheidungen treffen zu können. Damit solche Leitplanken wirksam werden, bedarf es einer Stärkung von Ermessenskompetenzen in Verwaltung und Justiz. Innovationsfreundliche Regulierung kann nicht allein durch detaillierte Normen von oben gesteuert werden. Sie erfordert Entscheidungsspielräume vor Ort, also dort, wo konkrete technologische Anwendungen beurteilt, Risiken abgewogen und Interessen in den Ausgleich gebracht werden müssen.
Die Verwaltung und die Gerichte brauchen dafür nicht nur rechtliche Befugnisse, sondern auch institutionellen Rückhalt. Das erfordert klare politische Mandate, interdisziplinäre Expertise und eine Fehlerkultur, die sorgfältig begründete Entscheidungen auch dann trägt, wenn sie technologisches Neuland betreten, wobei die digitale Welt gar nicht mehr so neu ist. Ohne diesen Anspruch wird Ermessen zur Last, statt zur Ressource guter Regulierung.
Besonders deutlich zeigt sich dieser Anspruch mit Blick auf die Regulierung der KI selbst. Denn KI-Systeme stellen nicht nur technische, sondern zutiefst normative Fragen. Daher muss eine verantwortungsvolle Umsetzung der KI-Regulierung sicherstellen, dass algorithmische Systeme menschliches Urteilsvermögen nicht ersetzen, sondern unterstützen. Rechtliche Rahmenbedingungen sollten die KI so einhegen, dass sie Entscheidungsprozesse transparenter, konsistenter und gerechter machen kann, ohne Verantwortung zu anonymisieren oder moralische Abwägungen zu automatisieren.
Der Maßstab darf nicht technische Machbarkeit sein, sondern die Frage, wie KI zur Qualität menschlicher Entscheidungen beitragen kann. Gerade hier kommt auch der Wissenschaft eine wichtige Rolle zu. Sie kann Räume für reflektierte Imagination schaffen, in denen Verwaltung nicht nur analysiert, sondern neu gedacht wird.
Eine innovationsfreundliche Regulierungspolitik erkennt eine grundlegende Wahrheit an: Regulierung muss nicht nur schützen, sie muss auch gestalten. Dafür braucht es politische Rückendeckung und eine Fehlerkultur, die verantwortliche Entscheidungen auch unter Unsicherheit ermöglicht. Nicht weniger, sondern besseres Recht ist gefragt, ein Recht, das Orientierung gibt, ohne zu ersticken, und Verantwortung zuweist, ohne Fortschritt zu verhindern.
Ali Aslan Gümüşay ist Professor für Innovation, Entrepreneurship & Nachhaltigkeit an der Ludwig-Maximilians-Universität München und Forschungsleiter für Innovation, Entrepreneurship & Gesellschaft am Humboldt Institut für Internet & Gesellschaft.
Matthias Kettemann ist Professor für Innovation, Theorie & Philosophie des Rechts an der Universität Innsbruck und Forschungsleiter für Neue Technologien & Zukunft des Rechts am Humboldt Institut für Internet & Gesellschaft.