Auf dem Weg zum Überwachungsstaat?

30. April 2025

Sonja Lemke, MdB

Palantir ist ein US-amerikanisches Softwareunternehmen, die für Polizei und Militär KI gestützte Software herstellen, die Daten aus z.B. Polizeidatenbanken, aber auch aus öffentlich zugänglichen Quellen wir Social Media auswerten und daraufhin Bedrohungsszenarien entwickeln. Sie gelten als „Schlüsselfirma der Überwachungsindustrie“.

Im Moment helfen sie der faschistischen Regierung in den USA Menschen zu deportieren. Palantir hat die Datenbank der Einwanderungsbehörde ICE unter der ersten Amtszeit Trumps aufgebaut und soll sie nun erweitern, damit sich einfacher Menschen finden lassen, die nach dem rassistischen Weltbild Trumps deportiert werden sollen. Dort hat Palantir zugriff auf umfangreiche Daten von Tattoos, Narben, Kontostand, Social-Security-Nummer oder der derzeitige Arbeitgeber bis hin zu den Daten von FBI und CIA. Auch Europol nutzt seit 2016 die Software und die Nato plant militärische Daten über Palantirsoftware zusammenzuführen.

In Deutschland wird Software von Palantir ebenfalls verwendet. Die Polizei in Hessen, Bayern und NRW verwendet Software basierend auf der Palantir-Anwendung Gotham. Durch Anpassungen wurde der Name allerdings geändert: HessenData, „verfahrensübergreifende Recherche- und Analyseplattform" (VeRA) oder „Programm für Datenbankübergreifende Recherche und Analyse“ (DAR)

Bei allen werden unterschiedliche Polizeidatenbanken zusammengeführt, auch z.B. Daten aus der Verkehrsüberwachung und Daten aus Funkzellenabfragen. Selbst wenn man nur als Zeug*in in einer Polizeidatenbank gelandet ist, dann wertet das Programm das aus und man kann ins Visier geraten. Dazu kommen die immensen Kosten: Allein in NRW 39 Millionen Euro für 5 Jahre.

Am 26.3.25 hat der Bundesrat beschlossen, weitere Software zur Datenanalyse bei Polizeien anschaffen zu wollen. Zitat aus dem Antrag:

„Um solche [in jüngster Vergangenheit von psychisch auffälligen Personen verübte] schweren Straftaten besser erkennen und erfassen zu können, müssen personenbezogene Verhaltensmuster und Risiken rechtzeitig festgestellt, analysiert und bewertet werden. Hierzu bedarf es eines gezielten und ganzheitlichen Ansatzes und es muss eine bundesweite Vernetzung der Erkenntnisse zwischen Sicherheits-, Gesundheits-, Waffen- und gegebenenfalls Ausländerbehörden sichergestellt werden.“

Palantir wird hier nicht explizit erwähnt, es ist aber wahrscheinlich, dass wenn eine Ausschreibung über derartige Software erfolgt, Palantir die einzige Firma ist, die derartigen Ansprüchen genügen kann.

Warum ist das alles ein Problem und eine Entwicklung, der wir uns entgegenstellen sollten?

Wenn derartige Software von privaten Firmen gestellt ist, dann ist Zugang zu sensiblen Daten wahrscheinlich. Gerade bei komplexer Software, die viele Quellen verknüpft ist es oft schwer festzustellen, ob dort Daten abwandern. Gerade bei Palantir ist das bedenklich. Dort sind bereits Daten veruntreut worden. Ihr Gründer Peter Thiel ist ein reaktionär-libertärer Trumpunterstützer, der bereits geäußert hat, dass er Demokratie und Freiheit nicht für vereinbar hält. Wobei er mit Freiheit die Freiheit reicher Menschen meint, ohne Rücksicht auf andere agieren zu können. Es ist davon auszugehen, dass er mit seiner Software das Ziel hat Polizeistaaten zu vereinfachen und den Faschismus zu ermöglichen.
Palantirsoftware arbeitet mit KI. Wenn KI an Daten trainiert wird, die Vorurteile enthalten, dann übernimmt KI diese Vorurteile. Wenn KIs von privaten Firmen trainiert werden, dann wissen wir nicht auf welchen Datenbasen das geschieht. Wenn dazu die Ausgaben der Software durch den Einsatz bei der Polizeiarbeit nicht sichtbar sind, dann kann auch darüber nicht sichergestellt werden, dass sie keine Vorurteilsbehafteten Ausgaben hat. Aber gerade wenn Polizeidaten als Trainingsdaten genutzt werden, dann kann man davon ausgehen, dass sie insbesondere rassistische Vorurteile enthalten. Denn es ist bekannt, dass die Polizei BPoC häufiger kontrolliert und sie daher häufiger in Polizeidaten auftauchen.

Wenn dazu Gesundheitsdaten und Daten der Ausländerbehörde einfließen, so wie es im Erschließungsantrag des Bundesrates gefordert wird, dann landen psychisch Kranke und nicht deutsche Menschen besonders in den Fokus.
„Predictiv Policing“ ist als Konzept grundsätzlich problematisch. Predicive Policing ist die Idee, dass man Straftaten vorhersagen könnte und eingreifen kann bevor sie passieren. Was aber eigentlich passiert ist, dass Menschen in Polizeifokus geraten, ohne dass sie etwas getan haben. „Bevor jemand etwas tut“ heißt insbesondere auch, dass die Person noch nichts getan hat, aber durch Predictiv Policing trotzdem bestraft wird. Vorhersagen sind fehlerbehaftet und mit Vorurteilen belastet. Die Ausweitung des Präventivhaft als Maßnahme um Straftaten zu verhindern in NRW und anderen Bundesländer hat z.B. gezeigt, dass sie besonders Klimaaktivist*innen trifft und politische Proteste behindert.
Daten von Unbeteiligten werden miteinbezogen, auch sensible Daten. Wenn Daten vernetzt werden, dann heißt das immer auch, dass mehr Menschen Zugang zu diesen Daten bekommen. Gerade bei sensiblen Daten wie Gesundheitsdaten ist das problematisch. Wenn Daten erhoben werden, dann sollte es immer einen konkreten Grund geben für ihre Verwendung.

Was folgt daraus:

Keine öffentliche Behörde sollte Software von Palantir einsetzen. Software von einer Firma Unternehmensgeschichte und Verflechtungen sind für demokratieverteidigende Strukturen nicht zu rechtfertigen. Stattdessen braucht es Eigenentwicklungen, die sicher sind, und Kontrolle über die genaue Funktionsweise hat.
Gerade wenn KI eingesetzt wird, dann braucht es eine Sicherstellung, dass Software diskriminierungsfrei arbeitet. Auch bei der Polizei und sicherheitsrelevanten Einrichtungen braucht es über diesen Punkt Transparenz, also über die Arbeitsweise und die Daten, an denen die Software trainiert wurde. Lösungen ohne KI sind aufgrund des hohen Risikos von übernommenen Vorurteilen insbesondere bei personenbezogenen Daten zu bevorzugen.
Daten dürfen nur dann erhoben oder zusammengeführt werden, wenn es einen konkreten Grund dafür gibt. Das Risiko einer großen Datenerhebungen ist groß. Gerade sensible Daten müssen besonders geschützt werden. Daten der Ausländerbehörden oder Gesundheitsdaten haben bei der Polizei nichts verloren.