AI-Success and the Quest for Sovereignty and Self-Determination

Künstliche Intelligenz wird häufig als Erfolgsgeschichte erzählt: leistungsfähige Modelle, autonome Agenten und neue Anwendungen sollen Arbeit erleichtern, Innovation beschleunigen und gesellschaftliche Probleme lösen. Doch wem gehört die Entscheidungsmacht, wenn immer mehr Prozesse von wenigen Technologieunternehmen und ihren Modellen abhängen? 

Mit dieser Frage beschäftigte sich Marietje Schaake bei der diesjährigen AccsoCon zum Thema „Digitale Souveränität“. Ihr Vortrag trug den Titel „AI-Success and the quest for sovereignty and self-determination“. Dabei stellte sie einen Zusammenhang her, der in technischen Debatten oft zu kurz kommt: Souveränität ist nicht nur eine Frage von Infrastruktur, Datenstandorten oder Modellzugängen. Im Kern geht es um die Selbstbestimmung von Menschen und Gesellschaften. 

Wenn Technologieversprechen auf die Realität treffen 

Schaake begann mit einem Beispiel aus Kenia. Bei den Präsidentschaftswahlen 2017 sollte Technologie helfen, Wahlbetrug zu verhindern und das Vertrauen in die Auszählung zu stärken. Als die Systeme bei der Auszählung mit Problemen zu kämpfen hatten und der Verdacht einer Manipulation im Raum stand, verlangte der Oberste Gerichtshof Zugriff auf Server und Protokolle. Die erforderlichen Informationen wurden jedoch nicht rechtzeitig bereitgestellt. Das Gericht sah sich deshalb außerstande, die Vorwürfe angemessen zu prüfen, und ordnete eine Wiederholung der Wahl an. 

Das Beispiel zeigt ein Grundproblem: Technologie kann Prozesse transparenter, schneller und verlässlicher machen. Sie kann aber auch neue Abhängigkeiten schaffen – insbesondere dann, wenn die zuständigen Institutionen weder Zugriff auf die Systeme noch ausreichende Möglichkeiten zur Überprüfung haben. Dies betrifft nicht nur Wahlen. Gesichtserkennung, Spionagesoftware, autonome Waffensysteme oder generative KI verändern durch ihre bloße Verfügbarkeit gesellschaftliche und politische Handlungsspielräume. Unternehmen treffen mit ihren Produkten Entscheidungen, die Auswirkungen auf Grundrechte, Sicherheit und demokratische Prozesse haben können – teilweise bereits in der Entwicklungs- und Testphase. 

Digitale Souveränität beginnt bei der Selbstbestimmung 

In vielen Diskussionen wird digitale Souveränität mit Unabhängigkeit gleichgesetzt. Schaake schlug eine andere Perspektive vor: Entscheidend ist nicht, dass Europa vollständig unabhängig von globalen Technologie-Lieferketten wird. Das ist angesichts international verflochtener Hard- und Software ohnehin kaum realistisch. Entscheidend ist vielmehr, ob Menschen, Organisationen und Staaten ihre digitalen Systeme sinnvoll gestalten können. Dazu gehören Wahlmöglichkeiten, überprüfbare Regeln, technische Alternativen und demokratische Kontrolle. 

Souveränität zeigt sich damit unter anderem in folgenden Fragen: 

• Können Bürger:innen nachvollziehen, wie digitale Systeme Entscheidungen beeinflussen? 
• Können Institutionen Anbieter wechseln, ohne ihre Handlungsfähigkeit zu verlieren? 
• Sind Daten, Modelle und Infrastrukturen ausreichend kontrollierbar? 
• Wer entscheidet über den Zugang zu kritischen Technologien? 
• Welche rechtlichen und politischen Grenzen gelten für Unternehmen mit großer Infrastruktur- und Marktmacht? 

Die Perspektive verschiebt sich dadurch: Nicht die Technologie allein steht im Mittelpunkt, sondern die Verteilung von Macht und Entscheidungsmöglichkeiten. 

Unternehmen als politische Akteure 

Ein weiterer Schwerpunkt des Vortrags war die politische Macht großer Technologieunternehmen. Viele Unternehmen kontrollieren heute nicht nur Produkte, sondern zentrale Infrastrukturen – etwa Satellitennetze, Plattformen, Cloud-Dienste oder Unterseekabel. 

Gleichzeitig sind die Gründer:innen, CEOs und Investor:innen dieser Unternehmen politisch zunehmend sichtbar. Ihre persönlichen Überzeugungen und geopolitischen Einschätzungen können sich auf Unternehmensentscheidungen auswirken. Wer Zugang zu einer kritischen Infrastruktur gewährt oder entzieht, entscheidet damit möglicherweise über Kommunikationswege, wirtschaftliche Aktivitäten oder militärische Handlungsmöglichkeiten. 

Schaake beschrieb diese Entwicklung als eine Verschiebung von Macht: Unternehmen werden in manchen Bereichen zu Akteuren, die wie neue „Souveräne“ auftreten können. Das ist keine juristische Gleichsetzung mit Staaten. Es macht aber deutlich, dass privatwirtschaftliche Entscheidungen zunehmend öffentliche Folgen haben. Für demokratische Gesellschaften stellt sich damit die Frage, welche Entscheidungen Unternehmen treffen dürfen – und welche Entscheidungen legitimierten staatlichen Institutionen vorbehalten bleiben müssen. 

Wenn ausländisches Recht europäische Systeme prägt 

Technologische Abhängigkeit entsteht nicht nur durch Marktanteile oder proprietäre Schnittstellen. Auch ausländische Gesetze können Auswirkungen auf Menschen und Organisationen in Europa haben. 
Schaake verwies auf Regelungen wie den US Cloud Act, den Foreign Intelligence Surveillance Act (FISA) und das chinesische Cybersicherheitsrecht. Solche Gesetze können – je nach Anwendungsfall und Unternehmensstruktur – den Zugriff staatlicher Stellen auf Daten oder technische Systeme ermöglichen, auch wenn diese Daten nicht unmittelbar im jeweiligen Land gespeichert sind. 

Für europäische Organisationen bedeutet das: Ein Serverstandort in Europa beantwortet nicht automatisch alle Fragen zur rechtlichen Kontrolle. Ebenso wenig garantiert ein Vertrag mit einem Anbieter, dass politische oder staatliche Zugriffsmöglichkeiten außerhalb Europas keine Rolle spielen. Digitale Souveränität erfordert deshalb eine Betrachtung von Infrastruktur, Anbieterstruktur, Rechtsraum, Datenflüssen und Exit-Optionen. Das gilt für Unternehmen ebenso wie für Hochschulen, Krankenhäuser, Verwaltungen und andere Einrichtungen mit kritischen Aufgaben. 

Europas Kurs zwischen Regulierung und Innovation 

Europa hat sich in den vergangenen Jahren stark über Regulierung positioniert. Datenschutz, Wettbewerbsrecht, Cybersicherheit und der AI Act sollen Risiken begrenzen und Grundrechte schützen. Gleichzeitig wird in der politischen Debatte zunehmend von Vereinfachung und Deregulierung gesprochen. Schaake warnte davor, die Spannung zwischen Regulierung und Innovation zu überzeichnen. Regeln seien nicht automatisch das zentrale Hindernis für technologische Entwicklung. Problematisch werde es vielmehr, wenn Europa über weniger oder mehr Regulierung diskutiert, ohne gleichzeitig eigene technologische Alternativen aufzubauen. 

Denn mehr Wahlmöglichkeiten entstehen nicht allein durch Rechtsvorschriften. Sie brauchen Investitionen, Forschung, Infrastruktur, Unternehmen und öffentliche Nachfrage. Europäische Institutionen und Mitgliedstaaten müssten daher klarer entscheiden, welche Technologien sie selbst einsetzen, welche Anbieter sie stärken und welche Abhängigkeiten sie bei kritischen Anwendungen akzeptieren wollen. Öffentliche Beschaffung kann dabei ein wichtiges Signal an den Markt senden. Wenn staatliche Stellen souveräne Cloud- und KI-Angebote tatsächlich nutzen, entsteht Nachfrage und damit mehr Planungssicherheit für europäische Anbieter. Ohne solche Entscheidungen bleiben auch ambitionierte Technologieangebote wirtschaftlich unsicher. 

KI-Governance statt Regulierung durch CEOs 

Besonders kritisch bewertete Schaake die Vorstellung, dass einzelne Technologieunternehmen oder ihre CEOs letztlich bestimmen, wann eine KI-Entwicklung zu weit geht. Wenn Unternehmen ihre eigenen Produkte auf den Markt bringen und anschließend selbst vor deren Risiken warnen, entsteht ein demokratisches Problem. Die Antwort sollte deshalb nicht darin bestehen, darauf zu warten, dass Unternehmen freiwillige Einschnitte ausführt. Nötig sei ein Governance-Reset: klare Verantwortlichkeiten, unabhängige Informationen, Transparenz, überprüfbare Sicherheitsanforderungen und legitime politische Entscheidungen. 
Als Analogie gilt: Automobilunternehmen sollten nicht selbst die Verkehrsregeln festlegen. Energieunternehmen sollten nicht allein über Umweltstandards entscheiden. Ebenso sollten KI-Unternehmen nicht die einzigen Akteure sein, die Risiken, Grenzen und gesellschaftlich akzeptable Einsatzformen ihrer Technologien definieren. Das betrifft auch den Einsatz von KI in Organisationen. Wer Modelle in Geschäftsprozesse integriert, sollte nicht nur ihre Leistungsfähigkeit bewerten. Ebenso wichtig sind Fragen nach Datenflüssen, Modelländerungen, Ausfalloptionen, Haftung, menschlicher Kontrolle und möglicher Diskriminierung. 

Souveränität als Chance 

Der Vortrag verstand digitale Souveränität ausdrücklich nicht als defensive Abschottung. Europäische Alternativen können Innovation und Wettbewerb fördern. Sie können neue Märkte schaffen und Unternehmen, Behörden sowie Bürger:innen mehr Auswahl geben. Dafür braucht es einen Perspektivwechsel: Europa sollte nicht ausschließlich darauf reagieren, was internationale Technologieanbieter entwickeln. Es sollte eigene Prioritäten formulieren und diese in konkrete Architektur-, Beschaffungs- und Investitionsentscheidungen übersetzen.