Künstliche Intelligenz: Wie kann KI den Vielen nutzen?

MOMENT: Du schreibst in deinem Buch: “Die Entscheidung von Algorithmen erzeugt fast immer Sieger:innen und Verlierer:innen”. Wer sind diese Sieger:innen und Verlierer:innen aktuell?

Maximilian Kasy: Das hängt vom Kontext ab. Bei Künstlicher Intelligenz denken viele ja nur an Sprachmodelle wie ChatGPT, die auch den Großteil des Medieninteresses der letzten Jahre erhalten haben. 

Aber mittlerweile werden in sehr vielen Bereichen automatische Entscheidungssysteme auf Basis von Daten eingesetzt: Gig-Worker wie Uber-Fahrer:innen werden von Algorithmen gemanaged, große Firmen filtern ihre Bewerber:innen automatisch und Algorithmen entscheiden, was wir auf sozialen Medien sehen. 

Das reicht bis zu extremen Anwendungen durch staatliche Akteure, wie bei ICE (die US-Amerikanische Einwanderungsbehörde, Anm.). Die bauen mit ImmigrationOS ein eigenes System auf, mit dem sie algorithmisch ausgewählte Leute in Lager werfen. Oder beim Krieg in Gaza, wo mit einem Algorithmus entschieden wurde, wer wann bombardiert wird. 

Die Menschen, die nicht über den Algorithmus bestimmen, sind aktuell oft die Verlierer. Mit für sie teils drastischen Konsequenzen. Dem gegenüber stehen aktuell jene, die über den Einsatz von KI bestimmen.

MOMENT: KI dient vielen Menschen als Feindbild, in deinem Buch wird sie aber nicht unbedingt negativ charakterisiert. Was ist KI für dich?

Kasy: Technisch gesagt besteht KI im Endeffekt aus Algorithmen, die automatische Entscheidungen treffen, um eine Zielfunktion zu optimieren. Das ist ein numerisches Maß dafür, wie erfolgreich der Algorithmus ist. Etwa, wie viele Menschen er auf Facebook dazu bringt, auf die nächste Werbung zu klicken. Oder aber wie viele Menschen von ICE deportiert werden.

Ein Ziel des Buches war für mich, aufzuzeigen, dass wir als Gesellschaft Handlungsmöglichkeiten haben. Technologie wie KI ist weder gut noch böse - sondern ein Mittel zum Zweck.

Das Problem ist nicht die Künstliche Intelligenz. Sondern welche Ziele wir Menschen damit anstreben. Wollen wir wirklich die öffentliche Sphäre so strukturieren, dass alles über Werbemaximierung läuft? Oder wie viele Menschen mit der Hilfe von Algorithmen deportiert werden?

MOMENT: Du schreibst im Buch, dass das eigentliche Thema nicht der Kampf “Mensch gegen KI” sein sollte, sondern “Mensch gegen Mensch”. Was meinst du damit?

Kasy: Die Storys, die Silicon Valley oder Hollywood gern erzählen, haben alle einen ähnlichen Kern: Es gibt einen heroischen Kampf zwischen Mensch und Maschine, den eine Seite dann gewinnt - etwa in Filmen wie “Terminator”, “Matrix” oder “2001: A Space Odyssey”. Das wirft immer eines unter den Tisch: Die Gesellschaft besteht nicht nur aus einem Menschen.

Wir leben in einer Welt voller Ungleichheiten, verschiedener Wertvorstellungen und Interessen. Und die Frage bei KI sollte sein: Wessen Interessen werden hier maximiert? Also nicht, ob ein einsamer Astronaut gegen eine übermächtige KI kämpft. Sondern wer bestimmt, was diese KI tun soll.

MOMENT: Wer bestimmt das denn aktuell?

Kasy: Daher kommt der Titel meines Buches “Means of Prediction” (Vorhersagemittel, Anm.), angelehnt an die marxistischen “Means of Production” (Produktionsmittel, Anm.). Es bestimmen die Menschen, die die Zutaten zur Produktion von KI kontrollieren. Das sind die Daten zum Trainieren der KI, die Rechenleistung, die Expertise und die Energie zum Betreiben von Datenzentren.

Die Interessen dieser Menschen sind nicht unbedingt die Interessen, die der Rest von uns hat. Was gut für Elon Musk oder Mark Zuckerberg ist, muss nicht gut für dich oder mich sein. Wenn Facebook Werbung maximiert und nebenbei die Demokratie oder die psychische Gesundheit der Nutzer:innen zerstört, dann ist das kein Optimierungsfehler. Sondern Demokratie oder psychische Gesundheit sind einfach nicht Teil der Zielsetzung - im Gegensatz zu Werbeeinnahmen.

MOMENT: Wie kommen wir dahin, dass KI nicht mehr nur für solche Zwecke eingesetzt wird?

Kasy: Kurzfristig muss die Diskussion über die sozialen Konsequenzen von Künstlicher Intelligenz viel breiter geführt werden. Wir können sie nicht nur an die Ingenieur:innen richten, die die KI programmieren. Die sitzen in profitmaximierenden Unternehmen. Dort können sie noch so gute Intentionen haben, ihr Handlungsspielraum ist sehr klein.

Wer hat sonst noch Interesse und/oder die Macht, um etwas zu verschieben? Das reicht von Gig-Workern über Konsument:innen und die breite Medienöffentlichkeit bis hin zu Menschen, die für den Staat arbeiten. Wir brauchen eine breite demokratische Diskussion darüber, wofür wir diese wirkmächtigen Instrumente, die KI uns zur Verfügung stellt, einsetzen wollen.

Die längerfristige Antwort ist Demokratie. Es braucht ein rechtliches Rahmenwerk: Wo ein automatisches System eingesetzt wird, muss transparent gemacht werden, was es optimiert. Im zweiten Schritt muss es ein verbindliches Mitspracherecht geben, darüber, was da optimiert werden soll.

MOMENT: Noch ein Zitat aus deinem Buch: “Wir müssen ein gemeinsames öffentliches Verständnis davon entwickeln, was KI ist, wie sie funktioniert und wie wir sie als Gesellschaft regulieren wollen”. Das klingt nobel. Aber sind wir dazu überhaupt in der Lage?

Kasy: Als Individuen sind wir dazu sicher in der Lage. Es gibt natürlich Interessen, die dem im Wege stehen. Tech-Milliardäre haben ja viel zu verlieren. Und deswegen gibt es auch viel Ablenkung. Etwa die Behauptung, dass KI so undurchschaubar sei.

Deswegen beschreibe ich in meinem Buch auch grundsätzlich, wie KI funktioniert. Die Information muss gegeben sein, damit es Mitsprache geben kann. Und in Wahrheit ist es nicht so kompliziert, wie uns die Tech-Industrie einreden will. Das dient nur dazu, deren Interessen und Kontrolle zu verschleiern.

Klar, die neuesten Details vom neuesten neuronalen Netzwerk sind natürlich kompliziert. Die Grundprinzipien dahinter kennen wir aber schon lange, die haben sich in den vergangenen 20 bis 40 Jahren nicht wahnsinnig geändert. Was sich geändert hat, ist die Größenordnung von Daten und Rechenleistung, die eingesetzt wird.

MOMENT: Ist die immer wieder aufkommenden Diskussionen über eine “Super-KI”, die ein eigenes Bewusstsein entwickelt, nicht auch genau so eine Ablenkung?

Kasy: Die Diskussion ist psychologisch extrem verführerisch. Wir haben einfach diese Neigung, leblosen Dingen menschliches Verhalten zuzuschreiben. Und KI-Modelle zielen genau darauf ab. Sie soll so wirken, als würden wir mit Menschen sprechen.

In meinem Buch will ich genau das entmystifizieren. Modelle wie ChatGPT beruhen darauf, das nächste Wort im Internet vorherzusagen. Es ist im Grunde genommen nur die statistische Analyse einer Riesenmenge Text.

Es gibt eine berühmte Vorläufergeschichte: Der Chatbot Eliza aus den 60er-Jahren, der nach heutigen Standards extrem primitiv war. Er war genau dazu designt, diesen Punkt zu machen. Eliza hat die Rolle einer “Therapeutin” eingenommen, hat aber in Wirklichkeit einfach nur den letzten Satz der Nutzer:innen grammatikalisch umgestellt und wiederholt. Viele Menschen dachten dann, sie unterhalten sich tatsächlich mit einer Therapeutin.

MOMENT: Wir sind extrem leicht zu täuschen, oder?

Kasy: In bestimmten Richtungen ja - vor allem, wenn wir Objekten Absichten zuschreiben.

MOMENT: Geht es um KI, wird sehr viel über Dystopien gesprochen. Wie kann uns KI weiterbringen? Was ist deine Utopie?

Kasy: Dass in allen Bereichen demokratische Mitbestimmung stattfindet. Dass Menschen etwa am Arbeitsplatz mitbestimmen können, wie Künstliche Intelligenz eingesetzt wird. Dann ist das Ziel plötzlich nicht mehr, möglichst viele Mitarbeiter:innen zu kündigen, sondern die Arbeit interessanter, produktiver und angenehmer zu gestalten, sodass alle profitieren.

Die Utopie ist eine demokratische Gesellschaft, in der Demokratie nicht nur bedeutet, alle vier Jahre ein Kreuz zu machen. Sondern in der die Idee der kollektiven Selbstbestimmung durchgehend umgesetzt wird.

Es herrscht bereits jetzt die Vorstellung, dass der Staat machtlos ist, Eliten über uns bestimmen und uns Dinge vorschreiben. Künstliche Intelligenz wird das noch verstärken. Dieses Gefühl der Machtlosigkeit und des Kontrollverlusts ist verantwortlich für viele problematische Gegenreaktionen. Die Antwort darauf muss mehr Selbstbestimmung und Demokratie sein.

MOMENT: Erwartet uns das Platzen einer KI-Blase?

Kasy: Eine Bubble scheint mir tatsächlich sehr wahrscheinlich. Dieses Jahr wurden 400 Milliarden Dollar in Rechenzentren investiert, für das nächste Jahr sind auch schon 400 Milliarden verplant. Diese Größenordnung kann man sich schwer vorstellen. Da hilft die Theorie hinter KI, die ich auch im Buch beschreibe: Mehr Rechenleistung heißt, dass wir größere und kompliziertere Modelle laufen lassen können.

Aber wenn dann das gesamte Internet inklusive transkribierter YouTube-Videos und aller Bibliotheken schon in den Trainingsdaten ist, gibt es keine zusätzlichen Daten mehr. Dann bringt dir auch mehr Rechenleistung nichts. Und die massiven Investitionen in Rechenleistung werden kaum die entsprechende Rendite einfahren. Insofern könnte es da schon krachen.

MOMENT: Wäre das nicht der beste Zeitpunkt, um eine strengere Reglementierung von KI durchzusetzen?

Kasy: Ich glaube, der beste Zeitpunkt ist jetzt. Es gibt ja schon einige Versuche, strengere Regeln einzuführen.

MOMENT: Wie sehr beschäftigt dich der Umgang mit KI eigentlich in deinem eigenen Alltag?

Kasy: Ich bin Professor und habe lange dafür gekämpft, dass wir keine Prüfungen mehr machen in meinem Kurs. Sondern Forschungsproposals, Programmier-Hausübungen und ähnliches. Das habe ich dann endlich durchgesetzt - und ein Jahr später kommt ChatGPT und Co. heraus.

Jetzt muss ich einiges wieder rückgängig machen und in Richtung Prüfungen gehen. Weil von Chatbots geschriebene Hausübungen leider witzlos sind.

Maximilian Kasy ist Professor für Wirtschaftswissenschaften an der Universität Oxford, wo er unter anderem zu maschinellem Lernen lehrt. Sein Buch “The Means of Prediction: How AI Really Works (and Who Benefits)” ist bei University of Chicago Press erschienen.

Offenlegung: Max Kasy ist auch Mitglied des Advisory Boards des Momentum Instituts.