Traumdeutung per Algorithmus: Die Illusion digitaler Seele

Willkommen bei Dreambase Wissen! Stellt euch vor, ihr wacht morgens auf und eine Maschine sagt euch ganz genau, dass ihr gerade von einem Haus im Wald geträumt habt. Klingt das für dich nach ferner Zukunftsmusik, Anna?

Ehrlich gesagt klingt das eher nach einem Szenario aus einem Überwachungsfilm. Ich bin da wirklich skeptisch. Eine Maschine hat doch keine Ahnung, was in meinem Kopf vorgeht, während ich schlafe. Das ist doch am Ende alles nur geraten, oder?

Das würde man vermuten. Aber tatsächlich haben Forscher in Japan, am A-T-R-Labor in Kyoto, schon vor über zehn Jahren etwas Erstaunliches gemacht. Das war im Jahr zweitausenddreizehn. Sie haben Menschen in einen Kernspintomographen gelegt und ihre Gehirnaktivität gemessen, während sie schliefen. Und was kam dabei raus?

Haben die Forscher dann einen kleinen Film auf dem Monitor gesehen, während die Probanden geschlummert haben?

Genau das ist der entscheidende Punkt. Die Maschine hat keinen Film gesehen. Aber sie konnte die Muster der Gehirnsignale bestimmten Kategorien zuordnen. Sie wusste zum Beispiel: Dieses spezifische Signal bedeutet Mensch, jenes bedeutet Haus. Und die Treffsicherheit bei diesen Vorhersagen lag bei immerhin sechzig Prozent. Sechzig Prozent?

Ich muss das kurz verarbeiten. Das ist einerseits deutlich mehr als reiner Zufall, aber andererseits noch weit weg von echtem Verstehen. Wenn ich von einem Haus träume, ist das ja nicht nur irgendein beliebiges Gebäude. Das ist vielleicht mein Elternhaus oder ein Ort, an dem ich mich früher gefürchtet habe. Erkennt die Technik diesen feinen Unterschied?

Nein, überhaupt nicht. Und da kommen wir zum Kern der Sache hier bei Dreambase Wissen. Es gibt an der Universität von Kalifornien in Santa Cruz eine riesige Sammlung, die sogenannte DreamBank. Da liegen über zwanzigtausend dokumentierte Träume als Text vor.

Algorithmen können diese Berichte zwar blitzschnell nach Wortmustern durchsuchen, aber sie scheitern an der eigentlichen Bedeutung. Ich versuche gerade, mir das bildlich vorzustellen. Es ist ein bisschen so, als hätte man einen unglaublich fleißigen Bibliothekar.

Er sortiert alle Bücher in der Bibliothek danach, wie oft der Buchstabe Q vorkommt oder wie schwer die einzelnen Bände sind. Aber er hat in seinem ganzen Leben noch keine einzige Geschichte gelesen. Er weiß nicht, warum die Hauptfigur auf Seite hundert weint. Das ist ein hervorragendes Bild!

Die künstliche Intelligenz ist genau dieser Bibliothekar. Sie sieht die statistische Häufigkeit von Begriffen wie Fliegen oder Fallen, aber die individuelle, emotionale Wichtigkeit bleibt ihr völlig verschlossen. Für das System ist ein Traum nur ein Haufen Datenpunkte, die in ein bekanntes Raster passen müssen.

Das beruhigt mich einerseits, aber es wirft eine ganz andere Frage auf. Wenn diese Systeme so gut darin sind, unsere Muster zu erkennen, ohne uns jemals wirklich als Wesen zu begreifen... was passiert dann eigentlich, wenn wir diese eiskalten Rechenmaschinen auf uns echte, fehlerhafte Menschen loslassen?

echtes Verstehen: Wie KI Daten sortiert

echtes Verstehen: Wie KI Daten sortiert. Willkommen bei Dreambase Wissen! Viele Leute glauben ja, dass eine künstliche Intelligenz ein echtes digitales Bewusstsein hat und unsere Welt genau wie ein Mensch begreift. Aber nach unserem Gespräch über die digitale Traumdeutung im ersten Teil von Pod This müssen wir dieses Bild dringend geraderücken.

Ich muss zugeben, das verunsichert mich jetzt ein bisschen. Wenn die Maschine meine Texte liest und so punktgenau antwortet, fühlt sich das doch nach echtem Verständnis an. Wo liegt denn da mein Denkfehler?

Ich meine, sie geht ja sogar auf meine Gefühle ein. Der Begriff der stochastischen Papageien trifft es eigentlich perfekt. Die Forscherinnen Emily Bender und Timnit Gebru haben das so genannt. Die künstliche Intelligenz versteht kein einziges Wort von dem, was sie da von sich gibt.

Sie berechnet lediglich die statistische Wahrscheinlichkeit, welche Silbe oder welches Wort als Nächstes kommen müsste. Sie plappert Muster nach, ohne die Bedeutung dahinter überhaupt zu kennen. Aber Moment mal – wenn sie nur Wahrscheinlichkeiten berechnet, wie kann sie dann so überzeugt klingen?

Ich habe neulich eine Antwort bekommen, die klang absolut glaubwürdig, war aber faktisch völlig erfunden. Das war fast schon unheimlich. Das ist ein bekanntes Phänomen, das wir Konfabulation nennen. Die Maschine lügt nicht absichtlich, weil sie gar kein Konzept von Wahrheit besitzt. Sie baut einfach die statistisch logischste Brücke aus Wörtern.

Wenn die Datenbasis sagt, dass nach einem bestimmten Satz oft eine bestimmte Information folgt, dann schreibt sie diese hin. Das macht sie auch dann, wenn diese Information in der echten Welt gar nicht existiert. Das klingt gefährlich.

Wenn wir solche Systeme auf echte Menschen loslassen, die vielleicht Vorurteile haben, dann spiegeln diese Algorithmen das doch einfach wider, oder?

Ich denke da an Bewerbungen oder Versicherungen. Genau das ist das Problem. Schau dir das COMPAS-System aus den Vereinigten Staaten an. Da wurde ein Algorithmus genutzt, um die Rückfallgefahr von Straftätern zu bewerten. Das System wurde mit historischen Daten gefüttert, die bereits gesellschaftliche Vorurteile enthielten.

Deshalb hat die künstliche Intelligenz Menschen aufgrund ihrer Herkunft ungerechtfertigt schlechter bewertet. Sie hat die Fehler der Vergangenheit einfach als logisches Muster für die Zukunft übernommen. Das ist ja schrecklich. Wie können wir uns davor schützen?

Ich will nicht, dass eine Maschine über mein Leben entscheidet, nur weil sie ein Muster in alten, fehlerhaften Daten sieht. Zum Glück gibt es in Europa die Datenschutz-Grundverordnung.

Artikel zweiundzwanzig besagt klipp und klar, dass Menschen nicht einer Entscheidung unterworfen werden dürfen, die ausschließlich auf einer automatisierten Verarbeitung beruht. Da muss im Zweifel immer ein Mensch das letzte Wort haben. Das beruhigt mich etwas.

Aber am Ende bleibt doch dieser eine Punkt: Eine Maschine kann mir zwar die chemische Zusammensetzung von Angst oder die Frequenzen eines Schreis im Albtraum erklären. Aber sie wird niemals wissen, wie sich das anfühlt. Genau das nennen Philosophen Qualia – also das rein subjektive Erleben. Die künstliche Intelligenz hat keine Träume.

Sie hat nur Datenpunkte.