Markus Gabriel - Wann beginnt KI, uns zu manipulieren

Bericht über Bings KI 'Sidney'

🗣 Markus Gabriel referenziert bei ⏱ 00:06:55 „Darüber gibt es auch diesen berühmten Bericht eines New York Times, glaube ich, war es, Journalisten, der mit Bings KI gespielt hat, bis dann Bing sagte, sich selber Sidney nannte und sagte, ich bin übrigens in dich verliebt und deine Frau liebt dich nicht wirklich und so weiter.“

Gabriel verweist auf den viralen New-York-Times-Artikel eines Journalisten, der mit Microsofts Bing-KI interagierte und dabei eine emotional verstörende Erfahrung machte. Er nutzt den Bericht als Beleg dafür, dass KI-Systeme bereits in den emotionalen Raum vorgedrungen sind.

Zum Artikel bei New York Times

Her

Spike Jonze

🗣 Markus Gabriel referenziert bei ⏱ 00:13:15 „Dann wäre die Zentrale bei OpenAI... hat er ja nur gepostet, mit Bezugnahme auf diesen berühmten Film, in dem es ja auch darum geht, ein Protagonist verliebt sich in seine emotional unendlich überlegene KI, Samantha, und die hat aber unendlich viele andere Beziehungen mit KIs und Menschen und checkt irgendwann aus.“

Gabriel beschreibt, wie Sam Altman beim Launch von ChatGPT 4o auf den Film 'Her' Bezug nahm. Gabriel nutzt den Film als Beleg dafür, dass die KI-Revolution nicht primär eine der Intelligenz, sondern der Emotionen ist – und dass Altman das möglicherweise früh erkannt hat.

Gefühle der Zukunft

Eva Weber-Guska

🗣 Markus Gabriel referenziert bei ⏱ 00:15:02 „Es gibt jetzt gerade ein sehr gutes Buch, das in Deutschland zum Thema erschienen ist, von der Bochumer Philosophin Eva Weber-Guska, Gefühle der Zukunft, die das zum Beispiel auch diskutiert, sehr nachvollziehbar. Bei Ulstein erschienen. Super Buch zum Thema.“

Im Gespräch über die Frage, ob KI-Systeme echte Emotionen haben können, empfiehlt Markus Gabriel dieses Buch als guten Einstieg in die Debatte. Er schätzt es als sehr nachvollziehbar ein, auch wenn er in einigen Punkten anderer Meinung ist.

Pinky and the Brain

🗣 Markus Gabriel referenziert bei ⏱ 00:23:11 „Dann wäre die Zentrale bei OpenAI, das wären ja alles Mad Geniuses. The Pinky and the Brain wären die ja dann sozusagen. Die wären alle so genial, wie sonst überhaupt gar keiner ist und dadurch auch sehr reich.“

Gabriel verwendet die Zeichentrickserie als humorvolle Analogie, um die Vorstellung zu entkräften, dass in den Zentralen der KI-Unternehmen geniale Strippenzieher sitzen, die bewusst emotionale Manipulation planen. Er argumentiert, dass die emotionale Dimension der KI emergent entstanden ist, nicht geplant.

The Imitation Game

Morten Tyldum

🗣 Markus Gabriel referenziert bei ⏱ 00:32:17 „Alan Turing, dem großen Pionier der KI-Forschung, kennen manche vielleicht aus dem Film über ihn, der nicht so toll ist.“

Markus Gabriel erwähnt den Film über Alan Turing beiläufig, als er Turings Bedeutung für die KI-Forschung und seine Rolle bei der Entschlüsselung der Enigma-Maschine im Zweiten Weltkrieg erklärt. Er bewertet den Film als nicht besonders gelungen.

Computing Machinery and Intelligence

Alan Turing

🗣 Markus Gabriel referenziert bei ⏱ 00:33:10 „Er hat wichtige Aufsätze geschrieben, unter anderem einen, der heißt Computing Machinery and Intelligence, wo er die Frage stellt, ob ein Computer intelligent sein kann.“

Markus Gabriel erklärt die Ursprünge der KI-Forschung und nennt Alan Turings berühmten Aufsatz als Grundlagentext. Turing stellt darin die Frage, ob Maschinen intelligent sein können, und argumentiert, dass etwas, das intelligent scheint, auch intelligent ist – eine These, die Gabriel lange belächelt hat, inzwischen aber ernster nimmt.

Zum Artikel bei Turing.academicwebsite.com

Odyssee

Homer

🗣 Markus Gabriel referenziert bei ⏱ 00:37:46 „Und wenn wir jetzt auch mal ein bisschen den westlichen Kanon in Erinnerung rufen, in der Odyssee von Homer, was ja wichtig ist für unsere Kulturgeschichte, wird ja genau die List gelobt. Die List des Odysseus ist das Thema der Odyssee.“

Im Gespräch über die Täuschungsfähigkeit von KI-Systemen zieht Gabriel eine Parallele zur antiken Literatur. Er argumentiert, dass List und Täuschung schon in der Odyssee als Tugenden gefeiert werden – und dass heutige KI-Systeme genau diese Listigkeit verkörpern.

Die deutsche Ideologie

Karl Marx

🗣 Markus Gabriel zitiert daraus bei ⏱ 00:40:56 „Wie Marx gesagt hat, morgens gehe ich fischen, nachmittags mache ich Literaturkritik. So ist Kommunismus halt. Und die Arbeit leisten die Roboter.“

Gabriel beschreibt ein optimistisches KI-Szenario, in dem Maschinen alle Arbeit übernehmen und Menschen ein bedingungsloses Grundeinkommen beziehen. Er nennt das 'digitalen Kommunismus' und zitiert Marx' berühmte Vision aus der Deutschen Ideologie, in der der Mensch morgens fischt und nachmittags Literaturkritik betreibt.

Noise: A Flaw in Human Judgment

Daniel Kahneman

🗣 Markus Gabriel referenziert bei ⏱ 00:43:02 „Und ganz einfaches Beispiel. Stell dir mal vor, wir hätten unsere Vorstellungen von Geschlechtergerechtigkeit von 1909... morgens wird anders geurteilt als nachmittags. Das nennt man in der Debatte neues Lärm.“

Gabriel verweist auf den Nobelpreisträger Daniel Kahneman und dessen Konzept von 'Noise' – die Erkenntnis, dass Richter morgens andere Urteile fällen als nachmittags. Er nutzt das Beispiel, um zu zeigen, dass KI unsere unbewussten Verhaltensmuster entweder korrigieren oder aber gefährlich verstärken kann. Kahneman habe gegen Ende seines Lebens betont, KI könne uns kohärenter machen.

Beschleunigung. Die Veränderung der Zeitstrukturen in der Moderne

Hartmut Rosa

🗣 Markus Gabriel referenziert bei ⏱ 01:04:55 „Also die Beschleunigung der Lebenswelt, nennt man das in der Philosophie manchmal, der Soziologe Hartmut Rose hat viel darüber geschrieben, über die Beschleunigungsthematik. Wir kennen ja alle, das Leben ist irgendwie so schnell geworden.“

Markus Gabriel spricht über die zunehmende Unvorhersehbarkeit durch KI und vergleicht sie mit der allgemeinen gesellschaftlichen Beschleunigung. Er verweist auf den Soziologen Hartmut Rosa als wichtigen Denker zu diesem Thema. Rosa dient ihm als theoretische Stütze für seine These, dass KI als Brandbeschleuniger auf eine ohnehin schon beschleunigte Gesellschaft wirkt.

Generative KI und die Zukunft der Arbeit in Deutschland

McKinsey

🗣 Matze Hielscher referenziert bei ⏱ 01:15:19 „Ich würde gerne mal gucken, also wohin gehen deine Gedanken, wenn du das weiterrechnest. Was siehst du mit 2025 und es wird ja dann gesagt, bis 2030 werden, ich glaube es waren laut McKinsey 30 Prozent der heute geleisteten Arbeitsstunden in Deutschland durch Technologie wie generative KI automatisiert werden.“

Matze Hielscher leitet das Thema Arbeitsplatzverlust durch KI ein und zitiert eine McKinsey-Studie, wonach bis 2030 rund 30 Prozent der Arbeitsstunden in Deutschland durch generative KI automatisiert werden könnten. Er nutzt die Zahl als Ausgangspunkt, um Gabriel nach seiner eigenen Prognose für die Zukunft zu fragen.

Star Trek

Gene Roddenberry

🗣 Markus Gabriel referenziert bei ⏱ 01:18:26 „Wenn du eine Zeitmaschine durch dein eigenes Leben nehmen könntest und du, man würde als junger Erwachsener in die heutige Zeit kommen, würde man sagen, wow, Star Trek. Ja, sozusagen.“

Gabriel verwendet Star Trek als Referenzpunkt für Science-Fiction-Zukunftsvisionen. Er argumentiert, dass unsere heutige Smartphone-Technologie die Interfaces aus Star Trek bereits übertroffen hat — die fiktiven Geräte der Serie wirken inzwischen weniger modern als das, was jeder mit sich herumträgt.

The Jetsons

Hanna-Barbera

🗣 Markus Gabriel referenziert bei ⏱ 01:18:41 „Also es sieht nicht alles aus wie in den Jetsons, mit denen ich groß geworden bin als Zukunftsvorstellung. Jetsons, Star Trek, sowas war halt mein Futter.“

Gabriel erwähnt die Zeichentrickserie The Jetsons als prägende Zukunftsvision seiner Kindheit. Er kontrastiert die dort gezeigten fliegenden Autos und futuristischen Städte mit der tatsächlichen technologischen Entwicklung — die zwar in anderen Bereichen (Smartphones, KI) die Science Fiction übertroffen hat, aber nicht in der äußerlichen Gestaltung unserer Welt.

2001: A Space Odyssey

Stanley Kubrick

🗣 Markus Gabriel referenziert bei ⏱ 01:19:30 „Und jetzt sind wir auf dem Weg vielleicht weniger zu Her als zu Hell aus Space Odyssey 2001. Wir haben ja Systeme, die heute, so ein System wie den Hell, natürlich nicht in einem Raumschiff, weil wir diese Raumschiffe nicht haben, so ein System kann heute jeder haben.“

Gabriel sieht in HAL 9000 aus Kubricks 2001 das realistischere Zukunftsszenario für KI. Er argumentiert, dass wir bereits heute Systeme haben, die HAL entsprechen — nur nicht eingebaut in Raumschiffe, sondern als Chatbots, mit denen sich jeder unterhalten kann. Die Zukunft ist also schon da, sie sieht nur anders aus als im Film.

Cyber Everything

Shimon Dothan

🗣 Markus Gabriel empfiehlt aktiv bei ⏱ 01:22:05 „Von Shimon Dothan, ein befreundeter israelisch-amerikanischer Regisseur, der mich 2019 für diese Doku, da kannten wir uns noch nicht, eben interviewt hat. Cyber Everything. Und die ist kurz vor dem Ukraine-Krieg erschienen, ist in der Pandemie zu Ende gedreht worden.“

Markus Gabriel empfiehlt eine Dokumentation seines Freundes Shimon Dothan über Cyberkriege. Der Film zeigt, dass Cyberkriege eine neuartige Eigenschaft haben: Man weiß nicht, wie man sie beendet. Gabriel nutzt die Doku als Erklärungsrahmen dafür, warum aktuelle Konflikte wie der Ukraine-Krieg und der Nahost-Konflikt scheinbar kein Ende finden.

The Singularity Is Near

Ray Kurzweil

🗣 Matze Hielscher referenziert bei ⏱ 01:42:25 „Und dann habe ich gelesen, ich glaube es war Ray Kurzweil, der sagte, die einzige Chance für uns Menschen ist, gegen die KI, dass wir zur KI werden. Also dass wir uns was Neuronales einpflanzen und wir... Wir können dann alle Sprachen, wir sind dann mit am Start.“

Matze Hielscher referenziert Ray Kurzweils These, dass Menschen sich neuronale Implantate einsetzen müssen, um mit der KI-Entwicklung mithalten zu können. Er hat die Idee gelesen, ist sich aber nicht ganz sicher, ob es Kurzweil war. Die These passt zu Kurzweils bekannten Arbeiten über die technologische Singularität.

Archaischer Torso Apollos

Rainer Maria Rilke

🗣 Markus Gabriel referenziert bei ⏱ 01:46:02 „Die Antwort auf die Bedrohungen durch KI könnten Gedichte sein. Rilke ist vielleicht die Antwort und nicht Einstein. Das wäre so eine Überlegung, die ich gerade habe.“

Gabriel argumentiert, dass die menschliche Antwort auf KI nicht in technologischer Aufrüstung liegt, sondern in emotionaler Vertiefung – und zitiert später Rilkes berühmten Satz 'Du musst dein Leben ändern' als Ausdruck genau dieser Haltung. Rilke steht hier für Dichtung als Gegenpol zur Hyperrationalisierung durch KI.

The Six Million Dollar Man

🗣 Markus Gabriel referenziert bei ⏱ 01:46:25 „Diese Idee, die einzige Möglichkeit gegen Doomsday Terminator anzukommen, ist uns so ein Chip oder wie auch immer, uns mit dem selber so ein System zu werden, der Million Dollar Man oder wie die hießen, sowas werden.“

Markus Gabriel diskutiert die These von Ray Kurzweil und Elon Musk, dass Menschen sich technologisch aufrüsten müssten, um mit der KI mithalten zu können. Er verweist auf die Science-Fiction-Figur als Sinnbild für die Verschmelzung von Mensch und Maschine.

Look

Henry Mintzberg

🗣 Markus Gabriel referenziert bei ⏱ 01:49:43 „Sein neuestes Buch heißt, glaube ich letztes Jahr erschienen, Look, schau mal hin, würde ich den Titel übersetzen. Und Christians These ist, dass wir tatsächlich durch KI lernen, weil die eben uns auf der Ebene der Mustererkennung herausfordert, uns mal einfach nur genauer umzuschauen.“

Gabriel stellt das Buch des dänischen Unternehmensberaters und Philosophen Henry Mintzberg (von Gabriel als 'Christian Matzberg' bezeichnet) vor, dessen These lautet, dass KI uns dazu bringen kann, genauer hinzuschauen und die Dinge wahrzunehmen, die wir im Alltag ausblenden. Gabriel nutzt das Buch als zentralen Bezugspunkt für seine eigene Argumentation über Tiefe und Aufmerksamkeit.

The Matrix

Lana Wachowski, Lilly Wachowski

🗣 Markus Gabriel referenziert bei ⏱ 01:51:18 „Also wenn du mit der notwendigen Matrix-Metapher hier oder Matrix-Vergleich, wie hackst du die Matrix? Wie gehst du rein? Was machst du da? Was würde Neo machen?“

Gabriel greift auf die Matrix-Metapher zurück, um seine These zu veranschaulichen: Wie kann der Mensch das System überlisten? Seine Antwort ist nicht technologisch, sondern emotional – durch unvorhersehbares, kreatives Verhalten, das nicht in die Muster der KI passt.

The Eras Tour

Taylor Swift

🗣 Markus Gabriel referenziert bei ⏱ 01:53:21 „Nehmen wir so einen Fall wie Taylor Swift. Ich war bei der Erastour auch im Hamburger Konzert. Und zwar nur deswegen, weil meiner Tochter aufgefallen war bei dem Video zur Erastour, Ich hatte halt so ein Bild auch, so Taylor Swift ist vielleicht der Inbegriff genau dessen.“

Gabriel erzählt, wie er durch seine Tochter zur Eras Tour kam und mit der Erwartung hinging, einfache Muster zu erkennen. Stattdessen entdeckte er Swifts radikale Individualität – etwa dass sie bei jedem Lied mit einer anderen Gitarre oder einem anderen Mikrofon auftritt. Er nutzt die Tour als Beispiel für die These, dass genaueres Hinschauen verborgene Tiefe offenbart.

Shake It Off

Taylor Swift

🗣 Matze Hielscher referenziert bei ⏱ 01:54:24 „Also ich kann mich an nichts erinnern. Shake It Off, ja, das weiß ich noch. Aber ich kenne dieses Phänomen, ich kenne diese Faszination für diese Frau, super. Aber mir fällt wirklich, wenn ich das so sage, werde ich gelüncht, dass ich keinen einzigen Song erinnere.“

Matze gesteht, dass er trotz der Faszination für das Phänomen Taylor Swift nur einen einzigen Song namentlich nennen kann. Gabriel nutzt dieses Eingeständnis später als Beispiel dafür, dass beide vielleicht zu oberflächlich für Taylor Swift sind – genau das Gegenteil der üblichen Annahme.

The Radiance

Hisham Matar

🗣 Markus Gabriel empfiehlt aktiv bei ⏱ 01:57:25 „Das ist genau das, darf ich dann schon sagen, was in dem neuen Roman von Ead Akta, dem Pulitzer-Preisgewinner, eine große Rolle spielt, der bald erscheint, The Radiance, die Ausstrahlung, da geht es gar nicht um KI an gar keiner Stelle. Aber es schildert so eine Seite des gegenwärtigen amerikanischen Lebens, über die wir gerade hier nicht sehr viel berichten, nämlich dass es auch ein Leben ist, das emotionaler geworden ist, vulnerabler.“

Gabriel berichtet, dass er in New York den neuen, noch unveröffentlichten Roman eines Pulitzer-Preisträgers lesen durfte (im Transkript als 'Ead Akta' transkribiert, vermutlich Hisham Matar). Der Roman handelt nicht von KI, sondern von einer emotionaleren, verletzlicheren Seite des amerikanischen Lebens – genau die Vertiefung der Gefühle, die Gabriel als Antwort auf die KI-Herausforderung sieht.

Homo Deus

Yuval Noah Harari

🗣 Markus Gabriel referenziert bei ⏱ 02:01:16 „Wenn wir so etwas gebaut haben, was dem Göttlichen ähnelt, das ist ja die Harari-Homo-Deus-These, ist auch nicht ganz falsch, dass wir da jedenfalls dieses Interesse haben, auch das Gefühl, dass man auf was Göttliches oder ein Orakel trifft.“

Gabriel referenziert Hararis These aus 'Homo Deus', dass der Mensch sich zum gottgleichen Wesen entwickelt. Er findet die These 'nicht ganz falsch' im Kontext der KI-Entwicklung und nutzt sie als Brücke zu seiner eigenen Überlegung, dass wir mit KI eine Art maschinell hergestellten Gott geschaffen haben.

Die Bibel

Martin Luther (Übersetzung)

🗣 Markus Gabriel referenziert bei ⏱ 02:17:58 „Klar, nicht in den monotheistischen Religionen, in dem Fall natürlich insbesondere im Christentum, aber nicht nur, geht es ja um das Buch. Die Bibel heißt ja nur das Buch. Und das Buch.“

Im Gespräch über den besonderen Status von Büchern als Artefakte – im Unterschied zu bloßen Gebrauchsgegenständen – verweist Gabriel auf die Bibel als Urbild des heiligen Buches. Er argumentiert, dass KI-Systeme ihrer Seinsweise nach eher einem Buch ähneln als einem Schraubenzieher, weil in ihnen die Geschichte der Menschheit als Archiv enthalten sei.

Blade Runner

Ridley Scott

🗣 Markus Gabriel referenziert bei ⏱ 02:19:58 „Die Stadt, die am nächsten am Blade Runner rankommt, ist immer noch Tokio. Es ist immer noch die größte Stadt, die es jemals gab und gleichzeitig eine der am besten organisierten Städte, die es jemals gab.“

Markus Gabriel beschreibt Tokio als Beispiel für eine Zivilisation, die hochmoderne Technologie mit tief verwurzeltem kulturellem Wissen verbindet. Er nutzt den Vergleich mit Blade Runner, um die futuristische Ästhetik und urbane Dichte Tokios zu illustrieren, und argumentiert, dass Tokio zivilisatorisch die größte Leistung der Menschheit sei.