Gefährliche KI

Mit den AI Overviews hat Google 2025 Lokalredaktionen einen harten Schlag versetzt: Ihre Reichweite schwindet, denn User finden Antworten nun, ohne auf die Website einer Zeitung klicken zu müssen. Dagegen reichte eine eine Allianz aus Organisationen und Verbänden, darunter der Bundeverband Digitalpublisher und Zeitungsverleger, Beschwerde bei der Bundesnetzagentur ein. Dass KI nicht nur ein willkommener Fortschritt ist, sondern große Gefahren birgt, war auch Thema des Vortrages „Wem gehört die KI?“ im Rahmen einer Fachtagung der Bundeszentrale für politische Bildung am 24. September. Hannah Ruschemeier, Professorin für Öffentliches Recht an der Universität Osnabrück, setzte sich darin mit der Frage auseinander, welche Interessen die Entwicklung und Nutzung künstlicher Intelligenz bestimmen und welche Probleme das verursacht.

Technik, die überfordert

KI wird oft als Innovation betrachtet, die Prozesse beschleunigt und effizienter gestaltet. Doch laut Ruschemeier greift diese Sichtweise zu kurz. Die Technik werde so schnell flächendeckend eingesetzt, dass viele Menschen kaum hinterherkämen, wirklich zu verstehen, was das für sie bedeutet – etwa wie viele persönliche Daten Konzerne wie Meta sammeln. Die Wissenschaftlerin nimmt Überforderung und Unsicherheit wahr. Einen Grund dafür sieht sie darin, wie Diskussionen über KI geführt werden: Oft kämen dabei vor allem Fachleute zu Wort, die mit ihren Sichtweisen die öffentliche Auseinandersetzung bestimmten. Welche Sorgen, Vorbehalte oder Schwierigkeiten Menschen mit anderen Perspektiven mit der neuen Technologie verbinden, gehe dabei leicht unter.

Zwischen Fortschritt und Kontrollverlust

Ruschemeier fordert, öfter zu fragen: Wem gehört KI – und wem nutzt sie wie? Junge Firmen wie OpenAI seien in erster Linie darauf ausgerichtet, Investoren zufriedenzustellen und schnell zu wachsen – selbst wenn das gesellschaftliche Risiken birgt. So sei es etwa kaum vereinbar mit dem Datenschutzrecht, dass Nutzerinnen und Nutzer vor der Anwendung von KI-Systemen zahlreichen Klauseln auf einen Klick zustimmen müssen – ohne die realen Risiken zu kennen. Zudem herrsche im Urheberrecht ein „Wilder Westen“, denn wie KI-Systeme Inhalte verarbeiten oder speichern, sei intransparent.

Gefahr für die Demokratie

Wie bereichernd KI für die Arbeitswelt sein kann, bleibt abzuwarten. Sicher ist allerdings laut Reuschemeier, dass die Technologie das Potenzial bietet, Demokratien nachhaltig zu schädigen. So könnten etwa Desinformationskampagnen mithilfe von Algorithmen so effizient gesteuert werden, dass Online-Dabatten unmoderierbar werden, allein durch die Masse an Kommentaren. Kritische Forscherinnen und Forscher, die solche ethischen Aspekte betrachten, haben es derweil schwer, weil große Studien oft von Tech-Konzernen wie Google selbst mitfinanziert und damit nicht neutral seien.

Kritischer Blick auf KI – Themenideen für Lokalredaktionen

• Die Region im Wandel begleiten: „KI in unserer Stadt“ – Die Redaktion besucht Einrichtungen, die KI einsetzen, und sammelt Stimmen aus der Praxis. Wo wird die Technologie bereits genutzt – in der Verwaltung, in Schulen oder bei der Polizei? Wer entscheidet darüber und welche Risiken sehen Kritiker? Eine Serie.
• Diskriminierung durch Algorithmen aufdecken: Bonitätsprüfungen oder biometrische Systeme – Wo werden Menschen von Algorithmen bewertet? Wie fühlt sich das an? Wie ist mit Fehleinschätzungen umzugehen? Betroffene erzählen.
• Technisches Verständnis schaffen: Lokaljournalismus kann helfen, Technik zu erklären, zum Beispiel zusammen mit lokalen Fachleuten in einer regelmäßigen Rubrik, die Pro und Contra zeigt.
• Selbstkritisch reflektieren: Wie nutzen Lokalmedien selbst die KI? Welche Chancen sehen sie, welche Risiken? Die Redaktion legt offen, wie sie der technische Wandel beschäftigt – organisatorisch, ethisch, und wirtschaftlich. Dabei kommen unterschiedliche Abteilungen und Redaktionsmitglieder zu Wort.
• Politische Maßnahmen erklären: Internationale Regelwerke wie der AI Act betreffen auch den Alltag vor Ort. Warum sie wichtig sind und was sie verändern, können Lokalredaktionen anschaulich machen. Zum Beispiel: „Was der AI Act für unsere Stadt bedeutet“ – die Redaktion beleuchtet die Auswirkungen aus unterschiedlichen Perspektiven, von der Unternehmensleitung bis zum Instagram-Nutzer.

Weiterlesen:

• Um sich kritisch über KI und ihre Arbeitsweisen zu informieren, empfiehlt Prof. Dr. Hannah Ruschemeier diese Seite (Englisch).
• Das MedienNetzwerk Bayern hat ein Kompendium über KI-Agenten und die damit verbundenen Herausforderungen für Medienhäuser erstellt.