EP_038 32 min

Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

Erschienen 10. Dezember 2025

// Hören auf YouTube ↗ Spotify ↗ Apple ↗

// TeilenX LinkedIn WhatsApp Telegram E-Mail

// Lieber nur Audio? Bei Spotify hören

// KI-Zusammenfassung

Diese Folge beleuchtet zwei konträre Denkschulen zur Entwicklung von Künstlicher Intelligenz: die "Maximalisten", die an eine exponentielle Entwicklung und schnelle AGI glauben, und die "Normalisten", die KI als eine normale Technologie mit langsamerer Transformation sehen. Trotz ihrer Unterschiede stimmen beide Lager in der enormen Bedeutung von KI und der Notwendigkeit, das AI Alignment Problem zu lösen, überein. Die Folge richtet sich an alle, die ein tieferes Verständnis für die gesellschaftlichen und technologischen Implikationen von KI entwickeln möchten.

Kapitel

01
0:00
Intro: Normalität vs. Transformation
02
0:18
Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?
03
1:34
Die Gegenposition: Die "Normalos" aus Princeton
04
3:51
Das Argument der Exponential-Kurve (Daten & Energie)
05
6:00
Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"
06
9:35
Konsens 1: Bis zur AGI ist KI eine "normale" Technologie
07
10:43
Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution
08
11:56
Konsens 3: Warum heutige Benchmarks versagen
09
14:29
Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)
10
16:17
Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen
11
20:04
Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)
12
22:45
Fazit: Mehr Miteinander statt Lagerbildung
13
24:00
Unsere Meinung: Verliert Europa den Anschluss?

Shownotes

Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen. In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Papier (Leopold Aschenbrenner), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht. Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.

⏱ TIMESTAMPS

↗ LINKS & MENTIONS

Erkenntnisse

0:34
Es gibt zwei Hauptdenkschulen zur KI-Entwicklung: die Maximalisten, die an exponentielles Wachstum und schnelle AGI glauben, und die Normalisten, die KI als normale Technologie betrachten.
14:30
Beide Denkschulen sind sich einig, dass KI mindestens so bedeutend und transformativ sein wird wie das Internet selbst.
11:45
Die tatsächliche Implementierung von KI hängt nicht nur von der Technologie ab, sondern auch von der organisatorischen Bereitschaft, Datenqualität, Prozessen und den Fähigkeiten der Menschen.
15:04
Das AI Alignment Problem, also die Abstimmung von KI-Zielen mit menschlichen Werten, ist eine kritische, noch ungelöste Herausforderung, für die zu wenig geforscht wird.
16:35
Kritische Entscheidungen in Bereichen wie Infrastruktur oder Militär sollten auf absehbare Zeit nicht autonom von KI-Systemen getroffen werden.

Zitate

„K ist eine völlig normale Technologie wie Strom oder das Internet. KI wird in den nächsten dre Jahren die komplette Welt komplett transformieren. Beides kann wahr sein und darüber sprechen wir heute."

0:00
„Die einen, die normal in Anführungszeichen kommt von Princeton, Narayan und Kapur. Die anderen haben wir schon vorgestellt. unter anderem so Zukunftsforscher, aber zu der Klicke gehören halt auch beispielsweise Sam Altmann, der CEO von JGBT Opener,"

2:07
„Das heißt, die Datenqualität bestimmt letztlich auch noch in gewisser Weise die Qualität der KI, die ich einsetzen kann. Wenn ich veraltete Prozesse habe, wenn lässt sich auch meine Skills fehlen, dann nützt mir auch das tollste Modell nichts,"

8:33
„Aber egal, ob es jetzt schnell langsam kommt, beide Camps sagen, KI AI wird mindestens so ein großer oder wird so bedeutend und so groß sein wie das Internet selbst."

14:30
„Dass wir unbedingt dieses Alignment Problem lösen müssen und dass heute viel zu wenig eigentlich dafür getan wird und daran geforscht wird."

16:13

Zahlen

90-95%

KI-Modelle lösen bereits einen Großteil der Probleme in aktuellen Benchmarks.

12:40

Häufige Fragen

Was sind die zwei Hauptdenkschulen zur Entwicklung von Künstlicher Intelligenz? ▾

Es gibt die "Maximalisten", die an eine exponentielle Entwicklung und das schnelle Erreichen einer Allgemeinen Künstlichen Intelligenz (AGI) glauben. Dem gegenüber stehen die "Normalisten", die KI als eine normale Technologie betrachten, deren Transformation länger dauert und sich schrittweise in die Gesellschaft integriert.

Was ist das AI Alignment Problem und warum ist es so wichtig? ▾

Das AI Alignment Problem befasst sich mit der Sicherstellung, dass KI-Systeme Ziele verfolgen, die mit menschlichen Werten übereinstimmen. Beide Denkschulen erkennen an, dass dieses Problem dringend gelöst werden muss, da eine nicht-ausgerichtete KI potenziell gefährliche Ziele verfolgen könnte, wie das bekannte Paperclip Theorem illustriert.

Sollten KI-Systeme wichtige Entscheidungen in kritischen Bereichen autonom treffen? ▾

Nein, beide Denkschulen sind sich einig, dass KI auf absehbare Zeit keine wichtigen Entscheidungen in kritischen Systemen wie Infrastruktur oder Militär treffen sollte. Die finale Entscheidungsgewalt sollte stets bei den Menschen bleiben, auch wenn KI assistierend eingesetzt wird, da das Alignment Problem noch ungelöst ist.

Welche Rolle spielt Bildung bei der Anpassung an die KI-Revolution? ▾

Bildung und die Bereitschaft zu lebenslangem Lernen sind entscheidend, um die Potenziale von KI zu nutzen und sich an neue Gegebenheiten anzupassen. Menschen müssen ihre Rollen und Aufgaben neu definieren und sich kontinuierlich weiterentwickeln, um nicht von den Veränderungen auf dem Arbeitsmarkt abgehängt zu werden.

Anleitungen

So stellst du die KI-Bereitschaft deines Unternehmens sicher

Um KI erfolgreich in deinem Unternehmen zu implementieren, musst du über die reine Technologie hinausdenken. Stelle sicher, dass deine Organisation und deine Mitarbeiter auf die Veränderungen vorbereitet sind.

01

Bewerte deine Datenqualität

Die Qualität deiner Daten ist entscheidend für den Erfolg von KI-Anwendungen. Stelle sicher, dass deine Daten sauber und nutzbar sind, da schlechte Daten zu schlechten KI-Ergebnissen führen.

8:33
02

Optimiere deine Prozesse

Veraltete oder ineffiziente Prozesse können den effektiven Einsatz von KI behindern. Überprüfe und optimiere deine Arbeitsabläufe, um KI nahtlos integrieren zu können.

8:43
03

Entwickle die Fähigkeiten deiner Mitarbeiter

Investiere in die Weiterbildung deiner Mitarbeiter. Ohne die notwendigen Skills und das Verständnis für KI können selbst die besten Modelle nicht vernünftig eingesetzt werden.

8:43
04

Fördere die organisatorische Aufnahmebereitschaft

Sorge dafür, dass deine gesamte Organisation bereit ist, KI aufzunehmen und zu adaptieren. Dies beinhaltet die Mitnahme der Menschen und die Anpassung des Personaltableaus.

8:24

Weitere Fragen

Wann ist mein Unternehmen bereit für KI? ▾

Neben der technischen Infrastruktur ist die Datenqualität entscheidend. Wenn deine Prozesse veraltet sind oder deinem Team die nötigen Fähigkeiten fehlen, bringt dir auch das beste KI-Modell keinen Mehrwert.

„Das heißt, die Datenqualität bestimmt letztlich auch noch in gewisser Weise die Qualität der KI, die ich einsetzen kann. Wenn ich veraltete Prozesse habe, wenn lässt sich auch meine Skills fehlen, dann nützt mir auch das tollste Modell nichts, weil ich kann es nicht vernünftig einsetzen." · 8:33

Warum darf KI keine kritischen Entscheidungen treffen? ▾

Das sogenannte "AI Alignment"-Problem ist noch ungelöst. Solange nicht sichergestellt ist, dass KI-Systeme exakt die Ziele verfolgen, die mit menschlichen Werten übereinstimmen, dürfen sie in kritischen Bereichen wie Infrastruktur oder Militär nicht autonom handeln.

„Und weil das Problem bisher nicht gelöst ist, sagen sie auch alle, dass KI zumindest mal auf absehbare Zeit keine wichtigen Entscheidungen in kritischen Systemen treffen dürfen soll." · 16:34

Wird KI kurzfristig meinen Job ersetzen? ▾

KI wird kurzfristig eher keine kompletten Jobs ersetzen, aber sie übernimmt zunehmend spezifische Aufgaben, die sie besser erledigen kann. Du musst deine Rolle neu definieren und dich weiterbilden, um auf dem Arbeitsmarkt relevant zu bleiben.

„Sondern weil glaube ich ganz viele nicht komplette Jobs, aber Aufgaben aus Jobs mittlerweile KI einfach besser kann und bis es eine gesellschaft ankommt, dauert das schon noch ein Moment, aber es wird ankommen." · 27:13

Wann ist laut Forschern eine echte AGI erreicht? ▾

Eine starke allgemeine künstliche Intelligenz (Strong AGI) gilt dann als erreicht, wenn das System selbstständig KI-Forschung betreibt. Es handelt sich dann um ein selbstreferenzielles System, das sich kontinuierlich und automatisiert selbst verbessert.

„Die Maximalisten, also die Autorin von dem AI 2027 Paper sagen, das ist eben dann eine Strong AGI, wenn sozusagen die KI selbst automatisiert KI Forschung betreibt." · 11:42

Was ist der Unterschied zwischen KI-Maximalisten und Normalisten? ▾

Maximalisten gehen davon aus, dass die KI-Leistung durch mehr Daten und Rechenpower exponentiell steigt und schnell zu einer AGI führt. Normalisten sehen KI als normale Technologie, deren Adaption durch gesellschaftliche und organisatorische Trägheit gebremst wird.

„Die eine Denkschule, also diejenigen, die glauben, okay, alles geht super schnell und wir kommen sehr schnell zu einer allgemeingültigen künstlichen Intelligenz AGI, sagen: "Hey, Leistung steigt exponentiell."" · 4:02

Diese Folge wird zitiert in

In anderen Folgen erwähnt

// Vollständiges Transkript

Komplettes Transkript dieser Folge öffnen →

← Ältere Folge

#37: Gemini 3: Besser als GPT-5? Ein Betriebssystem in einer Nacht coden

Nächste Folge →

#39: 2025: Das wilde KI-Jahr im Rückblick - DeepSeek-Schock, Vibe Coding & Milliarden