Der DIW-Chef Marcel Fratzscher fordert ein radikales Eingreifen des Staates: Er will die Mehrheitskontrolle über die führenden KI-Frontier-Unternehmen. In einer Zeit, in der KI als potenziell größte Bedrohung für die Existenz der Menschheit bezeichnet wird – nicht zuletzt von Bill Gates – steht die Debatte über staatliche Eigentumsanteile und nationale Sicherheitsinstitute im Fokus politischer und gesellschaftlicher Diskussionen.
Staatliche Eigentumsforderung von DIW-Chef Marcel Fratzscher
Im Interview mit der Süddeutschen Zeitung erklärte Fratzscher: „Ich halte KI für die potenziell größte Bedrohung unserer Existenz und eine größere Bedrohung, als Atomwaffen es jemals waren.“ Er fordert, dass der Staat Eigentümer aller KI-Frontier-Unternehmen und der zugehörigen Infrastruktur wird. „Niemand hätte einen rein privatwirtschaftlichen Wettlauf um die effizienteste und modernste Atombombe akzeptiert“, betont er und überträgt das Prinzip auf die KI. Der Staat müsse demnach die volle Kontrolle übernehmen, weil er bereits für Risiken haftet, die private Unternehmen nicht tragen können.
Internationale Konkurrenz der KI-Regulierungsmodelle
Während Deutschland nach dem Vorbild des britischen AI Security Institute (AISI) ein eigenes KI-Sicherheitsinstitut plant, prüfen auch Frankreich und Großbritannien ähnliche nationale Einrichtungen. Bis 2026 sollen insgesamt drei Länder – Deutschland, Großbritannien und Frankreich – ein solches Institut etabliert haben. Das spiegelt einen wachsenden internationalen Wettlauf um die Kontrolle kritischer KI-Technologien wider.
- Deutschland: Deutsches KI-Sicherheitsinstitut (geplant)
- Großbritannien: AI Security Institute (AISI)
- Frankreich: Nationales KI-Sicherheitszentrum (geplant)
Die USA haben bislang keine zentrale staatliche Struktur für KI-Modelle etabliert, was die Debatte um transatlantische Wettbewerbsfähigkeit zusätzlich verschärft.
KI-Sicherheitsinstitute: Nationale vs. globale Koordination
Bundesdigitalminister Karsten Wildberger beschreibt sein Konzept: Das neue Institut soll KI-Modelle bereits vor ihrer Markteinführung auf Leistungsfähigkeit und Risiken prüfen. „Ich hoffe, dass KI-Unternehmen wie OpenAI, Anthropic und Google ihrer Verpflichtung nachkommen, ihre Modelle sicher zu machen, und die Welt nicht als Testlabor benutzen“, sagte Wildberger im Gespräch mit dem Tagesspiegel. Das Institut soll eng mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) zusammenarbeiten und internationale Netzwerke nutzen.
Gleichzeitig warnt Fratzscher, dass nationale Prüfinstitute „intransparent“ bleiben und ohne globale Koordination Konfrontationen fördern können. Laut dem Global Partnership on AI (GPAI) wurden im Jahr 2024 nur 29 % der Frontier-KI-Modelle global koordiniert getestet – ein deutliches Defizit, das internationale Regelungen notwendig macht.
Frontier-KI-Modelle und die EU-Regulierung
Im EU-AI-Act werden extrem leistungsstarke Sprach- und Bildgeneratoren als Systemik-Risiken definiert, sobald ihr Rechenaufwand 10^25 FLOPs überschreitet. Diese Schwelle dient als rechtliche Basis für die Einstufung von Frontier-Modellen, die laut Fratzscher ein hohes Missuse-Potential besitzen. Der EU-Rahmen macht deutlich, dass synthetische Modelle nicht nur national, sondern europaweit reguliert werden müssen.
- Definierte Risikoschwelle: 10^25 FLOPs (EU AI Act, 2024)
- Beispielhafte Risiken: Zensur, Cyberkriegsführung, Desinformation
Die Forderung nach staatlichem Eigentum soll sicherstellen, dass solche Systeme nicht unbeabsichtigt gesellschaftliche Strukturen beeinflussen. Fratzscher kritisiert die Alternative, lediglich mehr Wettbewerb zu schaffen: „Das ist das völlig falsche Rezept“, erklärt er und bezieht sich auf die Perspektive von Nobelpreisträger Joseph Stiglitz.
Stimmen aus der Technologie- und Wirtschaftswelt
Bill Gates, Mitbegründer von Microsoft, stuft KI als „die gefährlichste Technologie, die der Mensch je erfunden hat“ ein. In einem Interview mit ABC News warnte er: „Die Vorstellung, dass dies die gefährlichste Technologie ist, die der Mensch je erfunden hat, macht deutlich: Wir tun nicht genug.“ Gates betont, dass fehlende Schutzmaßnahmen und die Nutzung durch „schlechte Menschen“ zu massiven Cyberangriffen und sogar Bioterrorismus führen könnten.
„Wenn man also schlechte Menschen hat, keine Schutzmaßnahmen und dann die neuesten Modelle, dann werden wir im kommenden Jahr vor allem im Cyberbereich eine Menge negativer Überraschungen erleben.“ – Bill Gates
Diese Warnungen untermauern Fratzschers Argument, dass staatliche Aufsicht und Eigentum notwendig seien, um Missbrauch zu verhindern.
Zentrale Fragen im Schnellüberblick
Schnellüberblick:
Was ist mit Frontier-KI-Modellen gemeint und warum sind sie besonders kritisch?
Frontier-KI-Modelle sind äußerst leistungsstarke künstliche Intelligenzen, die unter anderem in Sprach- und Bildgenerierung bahnbrechend sind. Laut EU AI Act zählen Modelle mit mehr als 10^25 Gleitkommarechenoperationen (FLOPs) zu Systemen mit hohem Risiko, da sie schwer kontrollierbar sind und zur Zensur, Cyberkriegsführung oder Desinformation genutzt werden können.
Kann der Staat US-basierte KI-Unternehmen wie OpenAI tatsächlich verstaatlichen?
Völkerrechtlich wie europarechtlich ist die Verstaatlichung ausländischer Unternehmen, insbesondere solcher, die in den USA ansässig sind, für deutsche Behörden unzulässig. Eine reale Umsetzung von Fratzschers Forderung wäre daher nur im Rahmen einer internationalen Einigung möglich.
Zusammenfassung der Kernargumente
- Fratzscher fordert staatliche Mehrheitskontrolle über KI-Frontier-Unternehmen, weil er sie als existenzielle Gefahr einstuft.
- Bill Gates bezeichnet KI als die gefährlichste Technologie und fordert strengere Regulierungen.
- Wildberger plant ein deutsches KI-Sicherheitsinstitut, das eng mit dem BSI zusammenarbeitet und internationale Vernetzung anstrebt.
- Bis 2026 planen drei europäische Länder nationale KI-Sicherheitsinstitute, während nur 29 % der Frontier-Modelle global koordiniert getestet werden.
- Der EU AI Act definiert eine Risikoschwelle von 10^25 FLOPs, die als rechtliche Basis für die Systemik-Risiken dient.
