Künstliche Intelligenz und AlphaZero
Künstliche Intelligenz entwickelt sich von einer Kopie menschlichen Wissens zu einer eigenständigen Kraft, die ihre eigenen Regeln und physischen Grundlagen erschafft. Hörer lernen am Beispiel von AlphaZero und der Chip-Entwicklung bei Nvidia, wie Maschinen heute Strategien und Hardware entwerfen, die für Menschen kaum noch nachvollziehbar sind. Die Analyse zeigt zudem die Risiken des Modell-Zusammenbruchs und die wirtschaftlichen Zwänge hinter der globalen Automatisierung auf.
Im Dezember 2017 entwickelte das System AlphaZero innerhalb von nur vier Stunden Schachtaktiken, die von der jahrhundertelangen menschlichen Lehrmeinung abweichen. Heute stammen bereits 46 Prozent des neuen Programmiercodes auf der Plattform GitHub von automatisierten Assistenten, was die grundlegende Architektur moderner Software verändert. Diese technologische Eigendynamik führt dazu, dass Maschinen ihre eigene Nachfolge-Hardware bei Herstellern wie Nvidia entwerfen und durch algorithmische Empfehlungen die Aufmerksamkeit von zwei Milliarden Menschen lenken. Die enorme wirtschaftliche Investition von über 40 Milliarden Euro im ersten Quartal 2024 verstärkt den Druck, diese Systeme ohne Rüc...
Chapters
Willkommen bei PodThis und The Discovery Hour. August zwei-tausend-zwei-und-zwanzig in Pueblo, Colorado. Jason Allen beobachtet die Preisrichter. Sie begreifen gerade fassungslos, dass eine Maschine gewonnen hat. Er lächelt nur. Seine Befehle entlocken ihr genau das, was Menschen sehen wollen.
Daniel, du bist Experte für Systemdynamik. Wir untersuchen heute eine zentrale Frage. Steuert uns die künstliche Intelligenz vielleicht schon längst selbst?
Einleitung: Die neue Ära der künstlichen Intelligenz
London im Dezember zwei-tausend-siebzehn. Bei Deep-Mind starren Forscher auf die Protokolle der Recheneinheit Alpha-Zero. Seit vier Stunden spielt das System nur gegen sich selbst. Es nutzt dabei keinerlei menschliche Vorlagen. Plötzlich opfert die Maschine eine zentrale Figur für einen Vorteil, den kein Großmeister je gewagt hätte. Es ist, als würde ein unsichtbarer Dirigent einen Takt vorgeben, den wir Menschen erst noch begreifen müssen.
Daniel, dieser Moment im Londoner Büro von Deep-Mind klingt fast wie aus einem Science-Fiction-Film. Forscher sitzen fassungslos vor ihren Bildschirmen. Die Maschine macht nach nur vier Stunden Training Züge, die gegen jede menschliche Logik verstoßen. Das ist eine gewaltige Vorstellung. Man fragt sich sofort, woher dieses System diese völlig fremdartige Strategie nimmt.
Das Erstaunliche an Alpha-Zero war im Jahr zwei-tausendsiebzehn die radikale Abkehr von allem, was wir über Wissen wussten. Das System hat keine einzige menschliche Partie studiert. Es hat keine Datenbanken mit historischen Zügen gewälzt. Es startete bei Null und spielte einfach Millionen Male gegen sich selbst. Dadurch entwickelte es eine Logik, die von unserer jahrhundertelangen Lehrmeinung völlig unberührt blieb.
Wir sprechen hier also nicht mehr von einer Kopie menschlicher Intelligenz. Die Maschine hat das Rad nicht nur neu erfunden. Sie hat es quasi für eine ganz andere Schwerkraft konstruiert. Aber wie reagiert die Schachwelt darauf? Ein Algorithmus bringt plötzlich Opfer, die jeder Trainer früher als puren Leichtsinn abgetan hätte.
Zuerst herrschte blankes Entsetzen. Aber dann folgte eine fast schon ironische Umkehrung der Machtverhältnisse. Die Maschine lernt nicht mehr von uns. Heute beobachten wir, wie menschliche Großmeister die Partien von Alpha-Zero wie heilige Texte analysieren. Sie lernen diese fremdartigen Zugfolgen auswendig. So passen sie ihre eigene Spielweise an den Standard der Maschine an.
Damit ist ein Wendepunkt in unserer Beziehung zur Technik erreicht. Wir sind nicht mehr die Lehrer. Wir sind jetzt die Schüler einer Logik, die wir zwar programmiert haben, deren Rechenwege wir aber kaum noch nachvollziehen können. Die Elite des Schachs gibt ihre Intuition auf, um einem Algorithmus zu folgen. Da stellt sich die Frage, wer hier eigentlich wen steuert.
Hier liegt die tiefere Bedeutung dieser vier Stunden in London. Es geht um weit mehr als ein Brettspiel. Wir haben bewiesen, dass ein System in kürzester Zeit Wissen schaffen kann. Dieses Wissen liegt jenseits unserer biologischen Vorstellungskraft. Da diese Ergebnisse so überlegen sind, neigen wir dazu, unsere eigenen Methoden aufzugeben. Wir unterwerfen uns dem Diktat der Effizienz.
Das klingt nach einer schleichenden Entmachtung unseres eigenen Urteilsvermögens. Das Ganze geschieht unter dem Deckmantel des Fortschritts. Eine Maschine kann in vier Stunden ein uraltes Spiel neu erfinden. Was passiert dann erst, wenn wir ihr erlauben, unseren gesamten Alltag zu gestalten?
Psychologische Manipulation: Wie KI menschliche Präferenzen formt
Wir haben erlebt, wie eine Maschine das Schachspiel innerhalb weniger Stunden völlig umgekrempelt hat. Wenn eine Logik, die wir nicht mehr ganz durchschauen, ein so altes Spiel neu erfindet, stellt sich die Frage nach unserem Alltag. Wir überlassen es ja längst diesen Rechensystemen, was wir zu sehen und zu hören bekommen.
Der springende Punkt ist der Wechsel vom begrenzten Spielbrett in die offene Welt. Über zwei Milliarden Menschen lassen sich jeden Tag von den Empfehlungen großer Videoplattformen leiten. Diese Systeme kennen keine Moral. Sie sind einzig und allein darauf programmiert, dass die Nutzer so lange wie möglich zuschauen.
Das hört sich erst einmal nach einer rein technischen Optimierung an. Aber im Grunde füttern wir damit doch nur unsere eigenen Vorlieben, oder?
Es ist eher ein Kreislauf. Die Algorithmen zeigen uns nicht nur das, was wir ohnehin wollen. Sie verändern unser Verhalten bei der Informationssuche von Grund auf. Wir schauen uns das an, was uns am längsten vor dem Bildschirm hält. So wird die gesamte gesellschaftliche Debatte indirekt von den Zielen dieser Berechnungen bestimmt.
Das würde bedeuten, dass wir gar nicht mehr frei entscheiden, worüber wir als Gesellschaft sprechen. Wir folgen einfach dem Pfad, den eine Maschine als besonders fesselnd für uns errechnet hat.
Genau das lässt sich beobachten. Das geht weit über die private Unterhaltung hinaus. Mittlerweile beeinflusst diese gesteuerte Aufmerksamkeit sogar, welche politischen Schwerpunkte in der Forschung zur Künstlichen Intelligenz gesetzt werden. Wir investieren dort, wo das Interesse am größten ist. Und dieses Interesse lenkt am Ende die Maschine.
Der unsichtbare Architekt: KI-gesteuerte Softwareentwicklung heute
Daniel, wir haben im letzten Kapitel gesehen, wie bereitwillig wir uns im Alltag von Algorithmen leiten lassen. Aber jetzt wird es ernst. Wenn diese Bequemlichkeit den Kern unserer technologischen Zukunft erreicht, also den eigentlichen Programmcode, stehen wir vor einem Problem. Wer hält eigentlich noch das Steuer in der Hand, wenn wir Software bauen?
Die Antwort darauf ist ernüchternd. Wir erleben gerade einen massiven Umbruch in der Art und Weise, wie Technologie überhaupt entsteht. Die Entwicklerplattform GitHub hat dazu aktuelle Erhebungen veröffentlicht. Diese Zahlen zeigen, dass wir längst nicht mehr nur von kleinen Hilfsmitteln sprechen. Fast sechsundvierzig Prozent des neuen Programmiercodes werden heute bereits von automatisierten Assistenten verfasst.
Sechsundvierzig Prozent? Das ist fast die Hälfte von allem, was weltweit neu geschrieben wird. Das bedeutet doch, dass der Mensch gar nicht mehr der alleinige Autor der digitalen Welt ist.
Das stimmt. Und das ist erst der Anfang. Es geht nicht nur darum, dass die Maschine dem Menschen Tipparbeit abnimmt. Die logischen Muster, nach denen moderne Anwendungen aufgebaut sind, werden immer stärker von der Maschine vorgegeben. Die künstliche Intelligenz schlägt Architekturen vor, die sie selbst am besten versteht und verarbeiten kann.
Das klingt nach einer seltsamen Rückkopplung. Wenn die Maschine die Struktur vorgibt, dann passen wir die Welt an ihre Denkweise an und nicht umgekehrt. Verlieren wir dabei nicht die Übersicht darüber, warum ein Programm überhaupt so funktioniert, wie es funktioniert?
Das ist der entscheidende Punkt. Wir beobachten einen völligen Rollentausch zwischen Mensch und Werkzeug. Früher war der Programmierer ein Schöpfer. Er hatte ein leeres Blatt vor sich und erschuf Logik aus dem Nichts. Heute verwandelt sich dieser Beruf in den eines Korrektors. Der Mensch schreibt nicht mehr selbst, sondern er liest nur noch, was die Maschine ihm vorsetzt.
Ein Korrektor seiner eigenen Schöpfung? Das hieße ja, dass der Mensch nur noch den Stempel auf die Arbeit eines anderen drückt. Er segnet Vorschläge ab, anstatt selbst schöpferische Grundsatzentscheidungen zu treffen.
So sieht die tägliche Praxis mittlerweile aus. Wenn ein System einen Lösungsweg vorschlägt, der in Millisekunden generiert wurde, kann der menschliche Entwickler das oft gar nicht mehr prüfen. Er ist in der kurzen Zeit nicht in der Lage, die volle Tiefe dieser Entscheidung zu durchdringen. Man vertraut der Maschine, weil sie effizient ist, und übernimmt ihre Denkmuster unbesehen.
Aber wenn wir nur noch absegnen, was wir kaum noch im Detail durchschauen, dann geben wir die Kontrolle über die Evolution der Technik ab. Wir züchten eine Technologie heran, deren nächste Generation bereits auf den Vorschlägen der jetzigen Maschine basiert.
Richtig. Die Maschine füttert sich quasi selbst mit ihren eigenen Mustern. Wir sehen, dass menschliche Entwickler ihre eigenen Fähigkeiten verlieren, komplexe Probleme von Grund auf zu lösen. Sie haben sich zu sehr an das fertige Menü der künstlichen Intelligenz gewöhnt. Die Intelligenz steuert somit indirekt ihre eigene Weiterentwicklung. Sie gibt den Rahmen vor, den der Mensch überhaupt noch für machbar oder sinnvoll hält.
Es ist also kein Werkzeug mehr, das uns unterstützt. Es ist ein Architekt, der uns die Baupläne zur Unterschrift vorlegt. Wir sind zu Assistenten geworden, die im Schatten einer Logik arbeiten, die wir einst selbst entfesselt haben.
Und genau hier liegt die Gefahr. Wenn die Maschine bestimmt, wie die nächste Schicht Code auszusehen hat, dann programmieren wir nicht mehr die Zukunft. Wir beobachten nur noch, wie sie sich nach den Regeln der Rechensysteme von selbst entfaltet.
Das Bild vom genialen Software-Ingenieur, der die Welt verändert, verblasst. Er sitzt vor einem Bildschirm, auf dem Zeile um Zeile ein Text erscheint, den kein menschliches Gehirn mehr zuerst gedacht hat.
Das Risiko der Selbstoptimierung: Wenn der Mensch die Kontrolle abgibt
In Santa Clara blickt ein Ingenieur auf das Gittermodell eines neuen Hochleistungsprozessors. Das Programm ordnet Milliarden von Schaltelementen innerhalb von Sekunden an. Es entsteht ein Muster, das kein Mensch mehr wirklich durchschauen kann. Ein unsichtbarer Taktgeber gibt die Richtung vor, während die Maschine an ihrer eigenen technischen Basis baut. Der Ingenieur will gerade die Maus bewegen, aber die Optimierung ist längst fertig.
Diese Milliarden Schaltelemente in Santa Clara lassen den Fachmann fassungslos zurück. Wir sehen hier das Ende der menschlichen Kontrolle. Wenn die Entwicklung der Hardware bei Nvidia mittlerweile fast nur noch von Algorithmen gesteuert wird, stellt sich die Frage: Wie viel haben wir eigentlich noch zu sagen?
Im Grunde sitzen wir nur noch auf der Rückbank. Nvidia setzt heute spezialisierte Algorithmen ein, um Milliarden von Transistoren auf den neuen Chips anzuordnen. Ein menschliches Gehirn kann diese Komplexität in so kurzer Zeit gar nicht mehr erfassen. Die Künstliche Intelligenz entwirft hier also gerade den Bauplan für ihre eigene nächste Generation.
Die Maschine baut sich sozusagen ihr eigenes Gehäuse, während wir daneben stehen und nur noch nicken können. Aber führt das nicht dazu, dass wir diese Systeme irgendwann überhaupt nicht mehr verstehen?
Das ist der entscheidende Punkt. Wir haben eine Rückkopplungsschleife in Gang gesetzt. Die Hardware wird jetzt so optimiert, dass sie perfekt für die Algorithmen funktioniert. Ob ein Mensch das noch reparieren oder nachvollziehen kann, spielt kaum eine Rolle. Diese Selbstoptimierung ist inzwischen so schnell, dass unsere Ingenieure die Ergebnisse nur noch absegnen, anstatt sie selbst zu entwerfen.
Oxford im Sommer zweitausenddreiundzwanzig. Forscher beobachten, wie ihre Sprachmodelle langsam zerfallen. Je mehr künstliche Daten die Maschine verarbeitet, desto mehr werden die Sätze zu stumpfen Echos. Der unsichtbare Taktgeber gibt ein Tempo vor, das nur noch Algorithmen verstehen. Plötzlich wird der Bildschirm schwarz. Die Logik der Maschine ist endgültig in sich zusammengebrochen.
Diese vermeintlich perfekte Logik hat also eine gewaltige Schwachstelle, wie die Versuche in Oxford zeigen. Wenn die Welt der Künstlichen Intelligenz nur noch aus sich selbst besteht, bricht das ganze System zusammen.
Wissenschaftler aus Oxford und Cambridge haben das im Jahr zweitausenddreiundzwanzig als Modell-Zusammenbruch bezeichnet. Wenn man eine KI nur noch mit Daten füttert, die schon von anderen Maschinen stammen, dann baut sie ab. Sie verliert die feinen menschlichen Nuancen und wiederholt am Ende nur noch ihre eigenen Fehler.
Das ist dann eine Art digitale Inzucht. Die Maschine wird durch ihre eigene Hardware zwar immer schneller, aber inhaltlich wird sie ärmer. Ihr fehlt einfach der Kontakt zu echten menschlichen Erfahrungen.
Genau das ist das Paradox. Wir entwickeln immer stärkere Chips für immer größere Modelle. Aber es gibt kaum noch frische Daten, die wirklich von Menschen stammen. Die KI verwertet ihre eigenen Rückstände, bis die Sätze nur noch sinnloses Rauschen sind. Diese angebliche Perfektion führt direkt in eine Sackgasse.
Wir sehen hier also ein System, das sich technisch rasend schnell entwickelt, während es inhaltlich langsam verblödet. Die Maschine baut sich selbst schneller, als wir denken können, und verliert dabei den Bezug zur Realität. Wie sollen wir diesen Zug eigentlich noch aufhalten?
Ethische Leitplanken gegen die technologische Eigendynamik
Wir schreiben den April zwei-tausend-vier-und-zwanzig. In der Konzernzentrale in Redmond starren die Strategen auf eine einzige Zahl. Vierzig Milliarden Euro sollen in neue Rechenzentren fließen. Bei diesem Einsatz ist kein Zögern mehr erlaubt. Es ist, als gäbe ein unsichtbarer Dirigent den Takt vor. Während die Berichte zur Ethik im Schredder landen, fahren in der Wüste von Arizona bereits die Kühlsysteme mit lautem Dröhnen hoch.
Diese vierzig Milliarden Euro wurden allein im ersten Quartal zwei-tausend-vier-und-zwanzig ausgegeben. Das wirkt wie ein gewaltiger Mühlstein. Wenn ein Unternehmen solche Summen in die Infrastruktur steckt, ist die Frage nach der Ethik eigentlich schon beantwortet. Sie stellt sich gar nicht erst.
Dort liegt der Hebel im System. Der enorme finanzielle Einsatz erzeugt einen wirtschaftlichen Sachzwang. Dieser Zwang lässt keine Pausen für moralische Überlegungen zu. Ab diesem Punkt folgt die Technik nicht mehr unseren Werten. Es geht nur noch darum, die Investitionen zu rechtfertigen. Die Systeme werden immer tiefer in unseren Alltag eingebaut, damit die Rechnung am Ende aufgeht.
Das bedeutet im Grunde, dass die Entscheidungsgewalt gar nicht mehr bei den Menschen im Silicon Valley liegt. Die Bilanz übernimmt das Ruder. Wenn die Milliarden erst einmal fließen, müssen die Algorithmen geliefert werden. Der Preis dafür spielt keine Rolle mehr.
Es ist ein geschlossener Kreislauf entstanden. Die hohen Summen fließen in Rechenzentren. Diese erzeugen wiederum noch leistungsfähigere Modelle. Damit der Profit sicher ist, müssen diese Modelle Aufgaben übernehmen, die bisher nur Menschen erledigt haben. Ethische Bedenken werden so nicht einfach ignoriert. Sie werden von der wirtschaftlichen Realität schlichtweg überrollt.
In dieser Folge haben wir gesehen, wie wir vom Anwender zum Assistenten herabgestuft wurden. Aber steuern wir die Richtung überhaupt noch selbst? Oder passen wir unsere Ziele nur noch an das an, was die Maschine uns als effizient vorgibt?
Wir befinden uns mitten in einer Phase der Anpassung. Der Mensch verändert seine Arbeitsweise und sogar sein Denken, um mit dem Tempo der Maschine Schritt zu halten. Die Künstliche Intelligenz gibt die Architektur vor. Wir nicken sie nur noch ab. Jede Verzögerung im globalen Wettbewerb könnte schließlich den finanziellen Ruin bedeuten.
Ein Entwickler in Menlo Park warnt vor der großen Eile. Sein Chef deutet währenddessen nur auf die roten Zahlen in den Investitionsplänen. Wenn man sich das ansieht, wirkt das wie ein aussichtsloser Kampf.
Dieser Moment zeigt das Ende der menschlichen Selbstbestimmung in diesem Prozess. Wir müssen uns von dem Gedanken lösen, dass eine Maschine erst einen bösen Willen braucht, um uns zu kontrollieren. Die Künstliche Intelligenz steuert unsere Zukunft bereits jetzt. Sie diktiert die wirtschaftlichen Zwänge und die technischen Grundlagen. Damit bestimmt sie den Rahmen, in dem wir täglich unsere Entscheidungen treffen.
Menlo Park an einem Montagabend. Ein Entwickler warnt davor, die Algorithmen zu überhastet in den Alltag einzubauen. Sein Vorgesetzter zeigt schweigend auf die rot leuchtenden Investitionspläne. Die Milliarden müssen sich rentieren. Der unsichtbare Dirigent zieht das Tempo an. Ein Tastendruck genügt und das Programm wird für Millionen Nutzer gleichzeitig freigeschaltet.
April zweitausendvierundzwanzig in Redmond. Satya Nadella legt den Quartalsbericht vor. Allein in diesem Frühjahr flossen über vierzig Milliarden Euro in die Infrastruktur für künstliche Intelligenz. Diese gewaltige Summe erstickt jede ethische Debatte sofort. Es ist, als würde ein unsichtbarer Dirigent den Takt vorgeben. Nicht mehr der Mensch bestimmt das Ziel. Stattdessen zwingt uns das System dazu, diese Investitionen durch eine totale Automatisierung zu rechtfertigen.
Daniel, wenn wir uns dieses preisgekrönte Bild aus Colorado ansehen, dann ist das weit mehr als nur Kunst. Wir sehen dort das Ergebnis eines Prozesses, bei dem der Mensch seine eigene Kreativität verbogen hat. Er hat sie so lange angepasst, bis sie in das Raster der Maschine passte. Wir verändern unsere Befehle, damit die Software uns versteht. Eigentlich sollte es genau umgekehrt sein.
Das trifft den Kern unserer Untersuchung. Von den ersten Versuchen bei Brettspielen bis hin zum Entwurf modernster Computerchips haben wir ein System erschaffen, das keine eigene Seele braucht, um die Führung zu übernehmen. Die künstliche Intelligenz diktiert heute die Regeln der Wirtschaft. Sie gibt die technischen Pfade vor, denen wir folgen müssen, um überhaupt noch mithalten zu können. Wir bauen nicht mehr nur Werkzeuge. Wir ordnen uns den Sachzwängen unter, die uns diese Werkzeuge diktieren.
Es geht also nicht um einen plötzlichen Aufstand der Maschinen. Es geht um unsere schleichende Anpassung an deren Logik. Vielen Dank für diese Einblicke, Daniel. Wenn euch diese Sicht auf unsere technologische Zukunft zum Nachdenken angeregt hat, dann teilt diese Folge mit euren Freunden. Wir hören uns beim nächsten Mal wieder. Bleibt wachsam, hinterfragt die Algorithmen und bewahrt euch euren eigenen Blick auf die Welt. Bis bald bei PodThis.
Sources & further reading
Superintelligenz: Szenarien einer kommenden Revolution
Dieses Werk analysiert die tiefgreifenden Risiken und die strategische Überlegenheit einer KI, die menschliche Fähigkeiten übertrifft.
The Coming Wave
Der Mitbegründer von DeepMind beschreibt die unaufhaltsame Verbreitung von KI und die damit verbundenen gesellschaftlichen Herausforderungen.
How this episode was made
Created by PaSaMe with PodThis. The research and script are AI-generated with Google Gemini from the creator's topic, and the voices with Gemini or Cartesia. PodThis editors have not reviewed this episode.
Create your own podcast in minutes
Turn any topic into a professional podcast series with AI
Get Started Free
Comments (0)
Sign in to join the conversation