Freiheit im Digitalen: Drei Dinge, die zusammen ankommen müssen

Souveränität, verlässliche Regeln und echtes Vertrauen. Nimmt man eines weg, hören die anderen beiden auf zu funktionieren.

Heute Abend hat in Berlin die Deutsche Gesellschaft für Recht und Informatik e.V. (DGRI) ihre Jahrestagung eröffnet, im fünfzigsten Jahr ihres Bestehens. Das Thema ist eine einzige Frage, und die Gesellschaft stellt sie unverblümt: Freiheit im Digitalen. Wie frei sind wir in einer zunehmend digitalisierten Welt? 🕊️

Das ist keine rhetorische Frage. Das Programm läuft noch bis zum 13. November an der Humboldt-Universität in Berlin und ist um die Themen herum aufgebaut, die diese Frage auseinandernehmen: künstliche Intelligenz, digitale Souveränität, Anonymität und Meinungsfreiheit. Richterinnen und Richter, Wissenschaft, Aufsicht, Plattformbetreiber und praktizierende Juristen in einem Raum, was seltener vorkommt, als es sollte.

Unser Geschäftsführer nimmt teil. Warum diese Rahmung für alle zählt, die KI-Systeme für europäische Organisationen bauen:

🧭 Digitale Freiheit ist kein Normalzustand

Die bequeme Annahme lautet: Digitale Freiheit ist das, was übrig bleibt, wenn sich niemand einmischt. Regeln weg, Freiheit da.

So hat es nie funktioniert. Digitale Freiheit ist eine Konstruktion. Sie steht auf drei Dingen, und sie braucht alle drei gleichzeitig:

1. Souveränität. Nicht abhängig sein, weder technologisch noch rechtlich.
2. Verlässliche Regeln. Regeln, die klar genug sind, um mit ihnen zu planen.
3. Echtes Vertrauen. Kein behauptetes Vertrauen. Nachgewiesenes Vertrauen.

Nimmt man eines weg, hören die anderen beiden auf zu funktionieren. Genau das übersieht die öffentliche Debatte meistens, weil sie in der Regel für eines auf Kosten eines anderen argumentiert.

☁️ Souveränität: die Frage hinter der Cloud-Frage

Digitale Souveränität steht als eigenes Thema auf dem Programm, was für sich spricht. Die Frage darunter ist einfach: Sind wir tatsächlich souverän?

Die europäische Cloud-Debatte wird meist als Frage danach geführt, wo ein Rechenzentrum steht. Diese Rahmung ist bequem, und sie ist unvollständig.

Die eigentliche Frage lautet: Wer kann Zugriff erzwingen, nach welcher Rechtsordnung, und würden Sie es überhaupt erfahren? Ein Rechenzentrum innerhalb der EU, betrieben von einer Einheit, die einer Nicht-EU-Rechtsordnung unterliegt, ist eine geografische Antwort auf eine Zuständigkeitsfrage.

Und "digitale Zusicherungen" eines Anbieters sind genau das. Zusicherungen. Sie sind etwas wert. Sie sind nicht dasselbe wie eine Architektur, in der der Zugriff gar nicht erst existiert, der erzwungen werden könnte.

Drei Souveränitätsfragen, die mehr wert sind als jedes Zertifikat:

• Wo liegen die Zugangsdaten und die Schlüssel physisch, und wer hält sie?
• Wenn wir gehen wollen: Was genau nehmen wir mit, und wie lange dauert es?
• Kann der Anbieter die Nutzungsbedingungen unter uns ändern, und wie stehen wir dann da?

Souveränität ist keine Flagge auf einer Landkarte. Sie ist Widerrufbarkeit, Portabilität und das Fehlen eines einzelnen Punktes, an dem man gezwungen werden kann. 🔑

⚖️ Regeln: Regulierung ist nicht das Gegenteil von Innovation

Künstliche Intelligenz steht daneben auf dem Programm, einschließlich des aktuellen Stands zur KI-Verordnung und der rechtlichen Einordnung von KI-Agenten im Besonderen.

In Teilen der Technologiebranche gibt es einen Reflex, der jede Regulierung als Bremse behandelt. Manchmal ist sie das. Aber der Reflex dreht die Ursache um.

Klare Regeln schaffen erst die Bedingungen für Investitionen. Ein regulierter Markt ist ein Markt, in dem ein Käufer einen Dreijahresvertrag unterschreiben kann, ohne zu fürchten, dass sich der Boden unter ihm bewegt. Ein unregulierter Markt ist einer, in dem auf Vorstandsebene niemand das Budget freigibt, weil niemand sagen kann, wie hoch das Risiko ist.

Was Innovation bremst, ist nicht Regulierung. Es ist regulatorische Unsicherheit. Das sind zwei verschiedene Probleme mit entgegengesetzten Lösungen.

Die ehrliche Fassung lautet: Schlechte Regeln bremsen sehr wohl. Regeln, die ohne Verständnis der Technik geschrieben wurden, Regeln, die Nachweise verlangen, die niemand erbringen kann, Regeln, die sich alle achtzehn Monate ändern. Die Antwort darauf sind bessere Regeln, nicht weniger.

Der agentische Fall macht das konkret. Ein KI-Agent, der auf einem führenden System eine Handlung vornimmt, ist kein Chatbot. Er braucht eine Identität, eine begrenzte Berechtigung, einen Freigabepunkt und eine Protokollspur. Jedes davon ist zugleich eine rechtliche und eine technische Anforderung. Das ist nicht Regulierung gegen Innovation. Das ist Regulierung, die die Architektur beschreibt. 🤖

🤝 Vertrauen: der Teil, der sich nicht behaupten lässt

Das dritte Element ist dasjenige, das Organisationen am häufigsten abzukürzen versuchen.

Vertrauen ist kein Siegel auf einer Website. Es ist keine Zusicherung in einem Vertrag. Vertrauen entsteht dort, wo sich ein System auch unter Bedingungen vorhersehbar verhält, für die es niemand entworfen hat.

In der Praxis entsteht es aus unspektakulären Dingen:

• Das System sagt, was es nicht weiß, statt selbstbewusst zu raten
• Ein Mensch kann sehen, was passiert ist und warum
• Wenn es scheitert, scheitert es laut und nicht leise
• Jemand trägt die Verantwortung, und dieser Jemand ist namentlich benannt

Anonymität und Meinungsfreiheit stehen beide auf dem Programm, und beide sind Vertrauensfragen in anderen Kleidern. Wie frei und wie sicher Menschen sich im Internet bewegen, wird täglich entschieden, durch Designentscheidungen, die die meisten Nutzer nie zu Gesicht bekommen.

🔄 Warum sich die drei nicht trennen lassen

Das ist der Teil, bei dem es sich lohnt, einen Moment zu bleiben.

Souveränität ohne Regeln erzeugt Fragmentierung. Jedes Land baut seinen eigenen Stack, nichts funktioniert zusammen, und der Markt wird für alle kleiner.

Regeln ohne Souveränität erzeugen Compliance-Theater. Sie können den besten KI-Governance-Rahmen Europas schreiben und trotzdem keine Kontrolle über die Infrastruktur haben, auf der er läuft.

Beides ohne Vertrauen erzeugt ein System, das niemand nutzt. In der Adoption beweist sich Governance oder entpuppt sich als Papier.

Freiheit und Verantwortung sind kein Zielkonflikt. Sie sind dieselbe Struktur, von zwei Seiten beschrieben. 🧩

🏗️ Was das für Organisationen bedeutet, die tatsächlich bauen

Eine Tagung wie diese ist der Ort, an dem die Rechtsordnung des kommenden Jahrzehnts ausgehandelt wird. Das meiste, was dort entschieden wird, landet achtzehn Monate später in Entwicklungs-Backlogs.

Die praktische Lesart für alle, die KI in einer europäischen Organisation einsetzen:

• Beantworten Sie die Zuständigkeitsfrage jetzt im Design. Nicht weil morgen eine Aufsicht fragt, sondern weil es weit teurer ist, einen Datenperimeter nachzurüsten, als ihn zu bauen. Früh entworfene Kontrollen sind günstiger und deutlich leichter nachzuweisen als Kontrollen, die gegen eine Frist angeschraubt werden.
• Behandeln Sie die Protokollspur als Produktmerkmal. Sie ist das, was Ihnen erlaubt, die Befugnisse des Systems später zu erweitern. Ohne sie braucht jede Erweiterung eine neue Begründung bei null.
• Setzen Sie den Menschen dorthin, wo die Entscheidung umkehrbar ist. Nicht überall, das legt das System lahm. An die Stellen, an denen ein Fehler teuer ist.
• Halten Sie den Ausstieg echt. Wenn Sie nicht auf einer Seite beschreiben können, wie Sie von einer Plattform wegkommen, haben Sie keinen Ausstieg. Sie haben eine Hoffnung.

🎯 Wo wir stehen

Wir bauen und betreiben agentische KI-Systeme für europäische Organisationen, mit deutschen und indischen Teams. Die Fragen auf diesem Tagungsprogramm sind die Fragen, die unsere Kunden im ersten Gespräch stellen, meist in weniger präziser Form.

Unsere Position hat sich nicht geändert, und diese Woche hat sie bestärkt: Die Leistungsfähigkeit der Modelle ist für die meisten Unternehmensanwendungen längst nicht mehr der begrenzende Faktor. Governance, Stückkosten und Eigentum sind es.

Ein Agent, der lesen kann, ist eine Demonstration. Ein Agent, der schreiben darf, braucht vier Dinge: eine Identität, eine begrenzte Berechtigung, einen Freigabepunkt und eine Protokollspur. Souveränität, Regeln und Vertrauen sind in diesem Satz keine Abstraktionen. Sie sind das, woraus diese vier Dinge gebaut werden.

🚧 Was wir nicht behaupten

Wir sind keine Rechtsanwälte, und nichts hiervon ist Rechtsberatung. Dies sind unsere Notizen zu einem öffentlichen Tagungsprogramm und unsere Lesart dessen, was es für Menschen bedeutet, die bauen.

Wir behaupten auch nicht, dass regierte Systeme umsonst sind. Sie starten langsamer und kosten am Anfang mehr. Was sie erkaufen, ist die Möglichkeit, den Umfang später zu erweitern, ohne Vertrauen von Grund auf neu verhandeln zu müssen. Genau daran sterben ungeregelte Pilotprojekte üblicherweise.

Und die Rechtslage ist bei mehreren dieser Fragen, insbesondere bei der Haftung für Agenten, tatsächlich ungeklärt. Wer Ihnen etwas anderes erzählt, will Ihnen etwas verkaufen.

📅 Sprechen Sie mit uns

Buchen Sie eine 30-minütige Einschätzung. Wir sagen Ihnen, welche Ihrer KI-Anwendungsfälle der Zuständigkeitsfrage heute standhalten und welche nicht.

Datenschutz, GenAI und Beratung: mejuvante.ai/enquiry-1