Bundesregierung will nicht sagen, wo sie KI-Chatbots verwendet
Digitalminister Karsten Wildberger hat nach Medienberichten mehrere Reden und Artikel mit KI-Chatbots geschrieben. Wir haben bei der Bundesregierung nachgefragt, wo und wie viel er tatsächlich Chatbots verwendet hat.
Die Antwort: Ausweichende Allgemeinsätze. KI-Chatbots werden als „Arbeitswerkzeug“ verwendet, aber „die Verantwortung trägt der Mensch“. Die Bundesregierung verweigert komplett die Aussage wo und wieviel sie zum Einsatz kamen und welche Standards für eine menschliche Überprüfung gelten.
Doch wenn Reden und Artikel ganz oder teilweise mit KI-Chatbots geschrieben werden, dann ist das nicht nur eine Formulierungshilfe, sondern vor allem eine inhaltliche Beeinflussung. Wenn TechBros über ihre Chatbots ständig in den Ministerien sitzen und alle Inhalte beeinflussen, dann ist das eine Gefahr für unsere Demokratie. Es braucht bei jedem Einsatz von Chatbots die kritische Überprüfung ob er wirklich notwendig ist, auch im Hinblick auf den Ressourcenverbrauch. Das mindeste ist eine genaue Auskunft über den Einsatz von KI-Systemen und die Veraktung. Auch KI-Chatbots gehören ins Lobbyregister.
Denn KI-Chatbots sind keine neutrale Technologie, sie beruhen auf dem Training mit großen Datenmengen. Muster, die in diesen Datenmengen vorhanden sind, werden von KI-Chatbots reproduziert und verstärkt. Damit werden auch politische Einstellungen, die in den Trainingsdaten vorherrschen, in den Antworten eines Chatbots reproduziert werden. Genauso können Gewichte beeinflusst werden, um Antworten in bestimmte Richtungen zu drängen, wie es aktuell vor allem zum Ansprechen von Werbekunden diskutiert wird.
Eine aktuelle Studie zur Beeinflussung der Quellen und der Neigung zu konservativen findet sich z.B. bei Agora
Die Kennzeichnung von KI-generierten Inhalten wird im Moment im Zusammenhang mit der KI-Verordnung diskutiert. Dort bestehen allerdings große Lücken, wenn Menschen redaktionell verantwortung übernehmen. Algorithmwatch hat eine Entscheidungshilfe für politische Entscheidungsträger*innen veröffentlicht, der ein Leitfaden sein kann.