Pressemitteilung: Erhebliche Mängel beim Einsatz von KI in der Bundesverwaltung

Auf Anfrage der Bundestagsabgeordneten Sonja Lemke musste die Bundesregierung umfangreiche Informationen rausgeben, wie sie KI in der Bundesverwaltung einsetzt. Wie bereits in den letzten Jahren, aufbauend auf den Anfragen von Anke Domscheit-Berg, ergibt sich daraus ein deutliches Bild des KI-Einsatzes in der Bundesverwaltung.

„Die Antworten zeigen eins: Anspruch und Wirklichkeit klaffen weit auseinander“, so Sonja Lemke Sprecherin für Digitale Verwaltung und Open Government der Fraktion die Linke: „Während in den Leitlinien noch von einem wertebasierten und menschenzentrierten Einsatz von KI gesprochen wird, sehen wir in den Anwendungen, dass Risiken meist ignoriert werden.“ 

KI-Risiko wird ignoriert 

Bei mehr als 1/3 der Anwendungen hat keine Risikobewertung stattgefunden. Bei fast allen anderen wird ein geringes/minimales Risiko angenommen, lediglich die Bundespolizei geht in einigen Fällen von einem begrenzten Risiko aus. Da aber laut KI-Verordnung in diese Kategorie auch z.B. Chatbots fallen, sind mindestens die 10 angegebenen Chatbot-Anwendungen mit zu geringem Risiko bewertet worden. 

„Die Anfrage legt leider nahe, dass es sich die Bundesregierung bei der Risikobewertung zu leicht macht.“, so Lemke weiter: „Um die Gefahren von KI zu begrenzen, ist eine realistische Risikoabschätzung unabdingbar.“ 

Keine Einschätzung zur Nachhaltigkeit 

Bei mindestens 85/189 Anwendungen, also fast der Hälfte hat die Bundesregierung gar keine Nachhaltigkeitskriterien berücksichtigt. 

„Der Einsatz von KI hat einen riesigen Stromverbrauch, gerade wenn es um das Training von KI geht. Nachhaltigkeitskriterien sind hier zentral“, so Lemke: „Vor allem müssen sie weitergedacht werden als nur ökologische Nachhaltigkeit, denn auch die Auswirkungen auf die Gesellschaft müssen berücksichtigt werden.“ 

Fragerecht missachtet 

Die Bundesregierung erschwert mit ihrer Beantwortung die Auswertung der Fragen. Statt wie in den letzten Jahren für alles konsistente Tabellen zu verwenden, wird teilweise auf den Marktplatz der KI-Möglichkeiten der Bundesregierung (MAKI) verwiesen. Tabellen und MAKI enthalten aber weder konsistente Zahlen noch konsistente Bezeichnungen. 

In beiden Fällen werden jedoch weniger KI-Anwendungen benannt als die im letzten Jahr angegebenen 212 Anwendungen. Dies würde einem Rückgang der KI-Anwendungen entsprechen – was bei der aktuellen Politik äußerst unrealistisch ist.

Für den sicherheitsrelevanten Bereich verweigert die Bundesregierung einfach die Auskunft: Nachrichtendienste, Bundeswehr, Sicherheitsbehörden. Sie alle werden zunehmend der parlamentarischen Kontrolle entzogen und Daten dazu werden nicht einmal über die Geheimschutzstelle veröffentlicht. 

„Es ist eine Frechheit, dass ausgerechnet die sicherheitssensiblen Bereiche komplett der Kontrolle entzogen werden“, so Lemke: „Gerade in diesem Bereich liegen die besonders grundrechtssensiblen Anwendungen und dort ist der Schaden am größten, den unkontrollierter KI-Einsatz auslösen kann. Man denke nur einmal an die Verwendung von Palantir, wo sensible Daten in die Hände von faschistoiden Trump-Unterstützern gelegt werden.“ 

Unklare Leitlinien 

Es existieren von der Bundesregierung die „Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung“, allerdings stellen diese keine verbindlichen Regelungen dar. Jedes Ministerium erstellt weiterhin seine eigenen Dienstanweisungen und nicht mal das haben alle Ministerien: Kanzleramt, Bundespresseamt, BMDS, BMG und BMJV setzen KI ein, ohne ihren Mitarbeitenden verbindliche Vorgaben zu machen. 

Einige Ministerien haben laut Anfrage gar keine KI-Anwendung: Das BMBFSFJ und das BMWSB. Auch beim BMVg werden keinerlei Angaben gemacht. 

Unklarheiten werden auch an anderer Stelle deutlich: In einigen Feldern steht statt einer Risikoabschätzung „Muss die Bundesregierung beantworten“. 

Bundesregierung handelt beim Thema KI unverantwortlich 

„Was wir von der Bundesregierung in Sachen KI hören, ist verheerend: KI soll praktisch alle Probleme lösen, ohne eine gelebte Transparenz und vor allem ohne eine seriöse Risikoabschätzung.“, so Sonja Lemke: „Die Bundesregierung handelt hier unverantwortlich. Das zeigt sich auch in den Vorstößen auf EU-Ebene, die die KI-Verordnung abschwächen und verschleppen sollen.“ 

Originalantwort der Bundesregierung: https://dserver.bundestag.de/btd/21/028/2102892.pdf