Zukunft Denken – Podcast

Was hat mich zu der heutigen Episode motiviert? Ich war eigentlich in der Nacharbeit der nächste Folge, da bin ich auf einen Artikel, genauer gesagt, eine Artikelserie aufmerksam gemacht worden. Und ich möchte in dieser Folge im Wesentlichen diesen einen Artikel zum Thema machen, weil er mich wirklich beeindruckt hat, und denke, dass er auch Sie zum Nachdenken anregen wird.

Bitte an Podcast-Umfrage (sehr kurz) teilnehmen!

Im Jahr 1958 veröffentlicht der britische Observer eine Artikelreihe zum Thema »Ist Fortschritt möglich«. Autoren in dieser Serie sind:

• C. P. Snow
• C. S. Lewis
• Jacquetta Hawkes
• J. Z. Young
• Arnold Toynbee

Zunächst steigen wir mit dem Artikel von C. P. Snow mit dem Titel »Man in Society« ein, um einen Kontext zu geben. Der Fokus liegt dann aber auf dem Artikel von C. S. Lewis mit dem Titel »Willing Slaves of the Welfare State«.

C. S. Lewis war Wissenschafter in Oxford und Cambridge war uns bis heute für seine Chroniken von Narnia bekannt ist. Er war außerdem ein Freund von J. R. R. Tolkien.

Hier in den Shownotes noch einige der verwendeten Originalzitate aus dem Artikel, die ich, wie immer selbst ins Deutsche übersetzt habe.

»Through luck we got in first with the scientific-industrial revolution; as a result, our lives became, on the average, healthier, longer, more comfortable to an extent that had never been imagined; it doesn’t become us to tell our Chinese and Indian friends that that kind of progress is not worth having.«, C. P. Snow

Die weiteren Zitate sind von S. S. Lewis:

»The desire here is for mere survival. Now I care far more how humanity lives than how long. Progress, for me, means increasing goodness and happiness of individual lives. For the species, as for each man, mere longevity seems to me a contemptible ideal.«

»I am more concerned by what the Bomb is doing already.«

»The H-Bomb a Red Herring: One meets young people who make the threat of it a reason for poisoning every pleasure and evading every duty in the present. Didn’t they know that, Bomb or no Bomb, all men die (many in horrible ways)? There’s no good moping and sulking about it.«

»Observe how the “humane” attitude to crime could operate. If crimes are diseases, why should diseases be treated differently from crimes? And who but the experts can define disease?«

»Two wars necessitated vast curtailments of liberty, and we have grown, though grumblingly, accustomed to our chains.«

»The modern State exists not to protect our rights but to do us good or make us good – anyway, to do something to us or to make us something. Hence the new name “leaders” for those who were once “rulers”. We are less their subjects than their wards, pupils, or domestic animals. There is nothing left of which we can say to them, “Mind your own business.” Our whole lives are their business.«

»If we are to be mothered, mother must know best. This means they must increasingly rely on the advice of scientists, till in the end the politicians proper become merely the scientists’ puppets. Technocracy is the form to which a planned society must tend. Now I dread specialists in power because they are specialists speaking outside their special subjects.«

»Let the doctor tell me I shall die unless I do so-and-so; but whether life is worth having on those terms is no more a question for him than for any other man.«

»On just the same ground I dread government in the name of science. That is how tyrannies come in.«

»The question about progress has become the question whether we can discover any way of submitting to the worldwide paternalism of a technocracy without losing all personal privacy and independence.«

»What assurance have we that our masters will or can keep the promise which induced us to sell ourselves?«

»The more completely we are planned the more powerful they will be. Have we discovered some new reason why, this time, power should not corrupt as it has done before?«

Referenzen

Andere Episoden

• Episoce 124: Zeitlos
• Episode 117: Der humpelnde Staat, ein Gespräch mit Prof. Christoph Kletzer
• Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger
• Episode 92: Wissen und Expertise Teil 2
• Episode 76: Existentielle Risiken
• Episode 74: Apocalype Always
• Episode 73: Ökorealismus, ein Gespräch mit Björn Peters
• Episode 72: Scheitern an komplexen Problemen? Wissenschaft, Sprache und Gesellschaft — Ein Gespräch mit Jan David Zimmermann
• Episode 71: Stagnation oder Fortschritt — eine Reflexion an der Geschichte eines Lebens

Fachliche Referenzen

• Is Progress Possible?, The Observer, July—August 1958

Der Titel der heutigen Episode ist »Zeitlos«. Wie komme ich darauf? Die Motivation für diese kurze Episode der Reflexion ist eine Reihe von Tweets. Der erste war von Axel Bojanowski, dem — wie ich meine — führenden Wissenschaftsjournalisten im deutschsprachigen Raum. Er schreibt:

»Der mit Abstand beste deutsche Wissenschaftspodcast ist Zukunft Denken«

Natürlich freut mich eine solche Empfehlung aus derartig berufenem Munde ganz besonders. Es spornt auch an, weiter hart an diesem Projekt zu arbeiten. Es gab dann aber noch eine Reaktion eines Hörers, der den Aspekt der Zeitlosigkeit der Episoden betont hat.

Das hat mich zum Nachdenken angeregt.

Der erste Aspekt von Zeit ist ein eher banaler, aber einer, auf den ich gerne kurz eingehen möchte. Ich bekomme immer wieder Zuschriften, wo sich Hörer öfter neue Folgen wünschen. Warum das schwierig ist, erkläre ich in aller Kürze.

Dann aber zu weiteren Aspekten der Zeitlosigkeit, die eher inhaltlicher Natur sind, denn dieser Kommentar hat mich zum Nachdenken gebracht zumal es einige Überschneidungen zu vorigen Episoden gibt. Was hat etwas das Zitat von Gerd Gigerenzer aus Episode 122

»Je größer die Unsicherheit ist, desto mehr Informationen muss man ignorieren.« 

mit dem Zitat von Stafford Beer aus Episode 121 gemein?

»Information and Action are one and the same thing«

Zur Dimension der Informationsdichte kommt noch die Dimension der Zeit auf eine sehr interessante Weise hinzu. Je Größer die Unsicherheit, desto wichtiger ist also nicht nur die Auswahl der Parameter, der Daten, sondern auch die richtige Zeitlichkeit im Umgang mit dem Problem.

Was bedeutet dies für News? Für den gesellschaftlichen und politischen Umgang mit komplexen Problemen?

»Die relevanten Information entstehen Wochen, Monate, bei aktivistischen Großereignissen wie etwa Covid auch Jahre später. Diese geht dann aber im Lärm des nächsten Events unter.«

Fortschritt und Entschleunigung haben aber eine durchaus interessante Gemeinsamkeit, wir Herfried Münkler bemerkt:

“...Chance des Reflexionsgewinns durch Entschleunigung: Man kann die Bedeutung beim Treffen von Entscheidungen über größere Zeitspannen zu verfügen kaum überschätzen. und diese Zeitspannengewinn hängt nun einmal am Übergang vom mündlichen zum schriftlichen.” […]  »Man konnte nunmehr sehr viel komplexere Fragen zum Gegenstand von Beratungen machen, als das in den direkten partizipatorischen Formen der Antike möglich war. Und man konnte Herausforderungen und Probleme in längerfristigen Perspektiven ins Auge fassen.«

Sind wir immer am Puls der Zeit? Oder sind wir eher am Puls des Rauschens?

Warum gibt es keine Wissenschafts-News und warum ist es gerade in komplexen Zeiten wichtig, Abstand von schnellen Medien zu halten? Warum sind Bücher gerade in schnellen Zeiten von besonderer Bedeutung?

Wie kann man die Welt in Schichten verschiedener Geschwindigkeiten begreifen? Stewart Brand bezeichnet dies als Pace Layering:

»Build a thing too fast, and mistakes cascade.
Build a thing at the right pace, and mistakes instruct.
Build a thing too slow, and mistakes are forgotten, then endlessly repeated in the endless restarts.
For instance, with infrastructure:
Building a thing at the right pace steadily all the way to completion probably works best with:
Continuity of control
Protected and guided by continuity of oversight and
Guided by continuously monitored undersight—from workers and early customers.
Continuity is the key.«

Was aber machen wir mit Systemen — um wieder auf Stafford Beer zurückzukommen — deren tatsächlicher Zweck sich vom deklarierten Zweck entfernt hat?

Wir enden nochmals mit einem Zitat von Stewart Brand:

»Fast learns, slow remembers.  Fast proposes, slow disposes.  Fast is discontinuous, slow is continuous.  Fast and small instructs slow and big by accrued innovation and by occasional revolution.  Slow and big controls small and fast by constraint and constancy.  Fast gets all our attention, slow has all the power.«

Was haben Sie mitgenommen? Schreiben Sie mir!

Referenzen

Podcast Umfrage — Bitte teilnehmen!

Andere Episoden

• Episode 122: Komplexitätsillusion oder Heuristik, ein Gespräch mit Gerd Gigerenzer
• Episode 121: Künstliche Unintelligenz
• Episode 119: Spy vs Spy: Über künstlicher Intelligenz und anderen Agenten
• Episode 104: Aus Quantität wird Qualität
• Episode 99: Entkopplung, Kopplung, Rückkopplung
• Episode 92: Wissen und Expertise Teil 2
• Episode 84: (Epistemische) Krisen? Ein Gespräch mit Jan David Zimmermann
• Episode 80: Wissen, Expertise und Prognose, eine Reflexion
• Episode 49: Wo denke ich? Reflexionen über den »undichten« Geist
• Episode 47: Große Worte
• Episode 32: Überleben in der Datenflut – oder: warum das Buch wichtiger ist als je zuvor

Fachliche Referenzen

• Tweet von Axel Bojanowski (2025)
• Herfried Münkler, Verkleinern und entschleunigen. Die Zukunft der Demokratie? ARD (2022)
• Stewart Brand, Pace Layering: How Complex Systems Learn and Keep Learning (2018)
• Stewart Brand, How Buildings Learn: What Happens After They're Built, Penguin (1995)

In dieser Folge steht das Thema »Künstliche Unitelligenz« im Mittelpunkt – ein Begriff, der aus einem Artikel aus dem Spectator stammt: Britain has become a pioneer in Artificial Unintelligence. Was genau verbirgt sich hinter dieser Idee?

»Artificial Unintelligence is the means by which people of perfectly adequate natural intelligence are transformed by policies, procedures and protocols into animate but inflexible cogs. They speak and behave, but do not think or decide.«

Wie werden aus Menschen mit natürlicher Intelligenz bloß unflexible Rädchen? Wir reflektieren die zunehmende Strukturierung und Standardisierung in Organisationen, um mit wachsender gesellschaftlicher Komplexität umgehen zu können. Ein Ausgangspunkt der Episode ist die Frage, warum wir in immer mehr Organisationen eine strukturelle und individuelle Inkompetenz erleben? Ein Zitat aus dem genannten Artikel fasst es treffend zusammen: 

»‘I didn’t find anything in common in these cases,’ I said, ‘except the stupidity of your staff. I expected him to get angry, but he maintained a Buddha-like calm. ‘Oh, I know,’ he replied, ‘but that is the standard expected now.’«

Wie konnte es so weit kommen? Liegt es an der Industrialisierung, die laut Dan Davies in The Unaccountability Machine besagt: 

»A very important consequence of industrialisation is that it breaks the connection between the worker and the product.«

Oder hat es damit zu tun, wie wir mit Überwältungung durch Information umgehen.

»When people are overwhelmed by information, they always react in the same way – by building systems.«

Sind Menschen, die individuell denken, in solchen Systemen eher hinderlich als hilfreich? Doch was passiert, wenn komplexe Probleme auftreten, die Flexibilität und Kreativität erfordern? Sind unsere Organisationen überhaupt noch in der Lage, mit unerwarteten Situationen umzugehen, oder arbeiten sie nur noch »maschinenhaft« nach Vorgaben – und das mit einem Maschinenverständnis des 19. Jahrhunderts? Ist die Stagnation, die wir seit Jahrzehnten spüren, ein Symptom dieses Systemversagens? Und wie hängt das mit der sogenannten »Unaccountability Machine« zusammen, die Davies beschreibt und die man im Deutschen vielleicht als »Verantwortungslosigkeits-Maschine« bezeichnen könnte? Kann es sogar sein, dass manche Strukturen bewusst als »self-organising control fraud« gestaltet sind?

Ein weiteres damit verbundenes Thema ist: Wie beeinflussen moderne Prognose-Tools wie Recommender Systems unser Verhalten? Dienen sie wirklich dazu, bessere Entscheidungen zu ermöglichen, oder machen sie uns hauptsächlich vorhersagbarer? »Menschen, die dies und jedes gekauft/gesehen haben, haben auch dies gekauft/gesehen« – ist das noch Prognose oder schon Formung des Geschmacks? Und was ist mit wissenschaftlichen Modellen komplexer Systeme, die oft relativ beliebige Ergebnisse liefern? Formen sie nicht auch die Meinung von Wissenschaftlern, Politikern und der Gesellschaft – etwa durch die überall beobachtbare schlichte Medienberichterstattung? 

Bleibt außerdem der Mensch wirklich »in the loop«, wie oft behauptet wird, oder ist er längst ein »artificial unintelligent man in the loop«, der Empfehlungen des Systems kaum hinterfragen kann?

Die Episode wirft auch einen kritischen Blick auf naive Ideologien wie das »Scientific World Management« von Alfred Korzybski, der schrieb: 

„it will give a scientific foundation to Political Economy and transform so-called ‘scientific shop management’ into genuine ‘scientific world management.’“ 

War dieser Wunsch nach dem Ersten Weltkrieg verständlich, aber letztlich völlig missgeleitet? Und warum erleben wir heute eine Wiederkehr des naiven Szientismus, der glaubt, »die Wissenschaft« liefere objektive Antworten? Wie hängen solche Ideen mit Phänomenen wie »Science Diplomacy« zusammen?

Die zentrale Frage der Episode lautet: Wie erreicht man, dass Menschen in Verantwortung korrekt im Sinne des definierten Zwecks der Organisation entscheiden? Doch was ist überhaupt der Zweck eines Systems? Stafford Beer sagt: 

»The purpose of a system is what it does.«

Stimmt der definierte Zweck – etwa Gesundheit im Gesundheitssystem – noch mit der Realität überein? Warum entscheiden Ärzte oft defensiv im eigenen Interesse statt im Interesse der Patienten? Und wie überträgt sich dieses Verhalten auf andere Organisationen – von Ministerien bis hin zur Wissenschaft? Davies beschreibt das ab Beispiel des akademischen Publikationswesens so: 

„A not-wholly-unfair analysis of academic publishing would be that it is an industry in which academics compete against one another for the privilege of providing free labour for a profitmaking company, which then sells the results back to them at monopoly prices.“ 

Und weiter: 

„The truly valuable output of the academic publishing industry is not journals, but citations.“ 

Was ist aus der Idee geworden, dass die Generierung von neuem und relevantem Wissen die Aufgabe von Wissenschaft, Förderung und Publikationswesen ist?

Zum Abschluss stelle ich die Frage: Wie können Systeme so gestaltet werden, dass Verantwortung wieder übernommen wird? Wie balanciert man die Zuordnung von Konsequenzen mit der Möglichkeit, ehrlich zu scheitern – ohne Innovation zu ersticken? Und was sind »Luxury Beliefs« – jene modischen Ideen elitärer Kreise, die sie selbst nicht tragen müssen, während sie für andere zur existenziellen Bedrohung werden? 

Die Episode endet so mit einem Aufruf zur Diskussion: Wie lösen wir diesen Spagat zwischen Verantwortung und Risiko in einer immer komplexeren Welt?

Referenzen

Andere Episoden

• Episode 119: Spy vs Spy: Über künstlicher Intelligenz und anderen Agenten
• Episode 118: Science and Decision Making under Uncertainty, A Conversation with Prof. John Ioannidis
• Episode 117: Der humpelnde Staat, ein Gespräch mit Prof. Christoph Kletzer
• Episode 116: Science and Politics, A Conversation with Prof. Jessica Weinkle
• Episode 106: Wissenschaft als Ersatzreligion? Ein Gespräch mit  Manfred Glauninger
• Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger
• Episode 93: Covid. Die unerklärliche Stille nach dem Sturm. Ein Gespräch mit Jan David Zimmermann
• Episode 91: Die Heidi-Klum-Universität, ein Gespräch mit Prof. Ehrmann und Prof. Sommer
• Episode 84: (Epistemische) Krisen? Ein Gespräch mit Jan David Zimmermann

Fachliche Referenzen

• Britain has become a pioneer in Artificial Unintelligence | The Spectator (2025)
• Davies, Dan. The Unaccountability Machine: Why Big Systems Make Terrible Decisions - and How The World Lost its Mind, Profile Books (2024)
• Alfred Korzybski, Manhood of Humanity (1921)
• Jessica Weinkle, What is Science Diplomacy (2025)
• Nassim Taleb, Skin in the Game, Penguin (2018)
• Rob Henderson, 'Luxury beliefs' are latest status symbol for rich Americans, New York Post (2019)
• Lorraine Daston, Rules, Princeton Univ. Press (2023)

In dieser Folge tauchen wir tief in die Welt der Künstlichen Intelligenz (KI) ein und betrachten sie aus einer systemischen Perspektive. Inspiriert vom klassischen Cartoon Spy vs. Spy geht es um die Frage, wie KI-Systeme miteinander interagieren — sowohl im Sinne von Kooperation als auch Konkurrenz — und welche Herausforderungen dies für uns Menschen mit sich bringt.

Ich beleuchte die evolutionäre Natur technischen Fortschritts, die Risiken von Komplexität und Kontrollverlust sowie die möglichen Folgen einer Zukunft, in der KI von einem passiven Werkzeug zu einem aktiven Akteur wird. Begleiten Sie mich auf einer Reise durch emergente Phänomene und Fulgurationen, systemische Abhängigkeiten und die Frage, wie wir die Kontrolle über immer komplexere Systeme behalten können. Denn es stellen sich zahlreiche Fragen:

• Wie könnte sich die Interaktion zwischen KI-Systemen in der Zukunft entwickeln – eher kooperativ oder kompetitiv?
• Welche Rolle spielt der Mensch noch, wenn KI-Systeme immer schneller Entscheidungen treffen und autonome Akteure werden?
• Welche Erfahrungen haben Sie mit technischen Systemen gemacht, die durch Komplexität oder Automatisierung an Kontrolle verloren haben?
• Was bedeutet es für unsere Gesellschaft, wenn wir durch Automatisierung Know-how und Kontrolle an externe Akteure abgeben?
• Wie können wir den Übergang von KI als Spielzeug zu einem systemisch notwendigen Element gestalten, ohne in eine Abhängigkeit zu geraten?
• Glauben Sie, dass KI jemals eine eigene Motivation oder Intentionalität entwickeln könnte – und wenn ja, wie sollten wir darauf reagieren?
• Welche Strategien könnten helfen, die Kontrolle über komplexe, nicht-deterministische Systeme wie KI-Agenten zu behalten?
• Wie sehen Sie die geopolitischen Herausforderungen der KI-Entwicklung, insbesondere in Bezug auf Energie und Innovation?
• Welche positiven Szenarien können Sie sich für eine Zukunft mit KI und autonomen Agenten vorstellen?
• Wie bereiten Sie sich persönlich oder in Ihrem Umfeld auf die kommenden Entwicklungen in der KI vor?

Ich freue mich Ihre Gedanken und Ansichten zu hören! Schreiben Sie mir und lassen Sie uns gemeinsam über die Zukunft nachdenken. Bis zum nächsten Mal beim gemeinsamen Nachdenken über die Zukunft!

Referenzen

Andere Episoden

• Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr
• Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg
• Episode 104: Aus Quantität wird Qualität
• Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger
• Episode 99: Entkopplung, Kopplung, Rückkopplung
• Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg
• Episode 90: Unintended Consequences (Unerwartete Folgen)
• Episode 69: Complexity in Software
• Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger
• Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad

Fachliche Referenzen

• Spy vs. Spy, The Complete Casebook 
• Rupert Riedl, Strukturen der Komplexität: Eine Morphologie des Erkennens und Erklärens, Springer (2000)
• Doug Meil, The U.K. Post Office Scandal: Software Malpractice At Scale – Communications of the ACM (2024)
• Casey Rosenthal, Chaos Engineering, O'Reilly (2017)

Ich möchte Sie auf eine Vorlesung hinweisen, die Sie im Zukunft-Denken YouTube-Kanal finden. Der Titel ist: “Complexity in Software — Handle with Care”

https://youtu.be/hBaxfkzhvKg

Die Vorlesung ist in Englisch und hat Software-Entwicklung und Management im Fokus, betrachtet aber das Thema Komplexität in einem breiteren Sinne und ist insofern auch für nicht-Software-Interessierte von Relevanz.

Wenn Sie an Software wenig interessiert sind — das Video hat Kapitelmarken, überspringen Sie eventuell: “Why is Complexity in Software a Problem?”

Was sind die Themen die in der Vorlesung behandelt werden:

• Was ist Komplexität?
• Was sind zahme und wicked problems?
• Was sind Attraktoren in komplexen dynamisch stabilisierten Systemen?
• Warum wird das Zusammenspiel von Software und anderen gesellschaftlichen Services immer kritischer?
• Was ist Komplexität in Software? Was sind treibende Faktoren, wie kann man Komplexität reduzieren?
• Warum ist Komplexität in Software überhaupt ein Problem?
• Was ist Emergenz, was sind Beispiele für emergentes Verhalten?

Und der letzte Teil der Vorlesung ist relativ generisch in dem Sinne, dass ich versuche zu beschreiben:

• Wie reagieren Menschen in Systemen auf komplexe Probleme
• Welche Reaktionen sinnvoll sein können, unter welchen Umständen und welche nicht zielführend sind
• Welche neuen Management-Paradigmen sollte man überlegen
• Welchen Einfluss spielen Metaphern in unserem Blick auf die technische Welt?

Zum Abschluss führe ich noch kurz in eine für mich sehr faszinierende Idee von Stewart Brand ein, die er Pace Layering nennt. Eine Form von Schichtenmodell der Welt, die unterschiedliche Geschwindigkeiten gegeneinander darstellt und was für uns als Gesellschaft aber auch Techniker und Manager daraus folgt.

Referenzen

• YouTube Video der Vorlesung

Andere Episoden

• Episode 64: Getting Nothing Done
• Episode 42: Gesellschaftliche Verwundbarkeit, ein Blick hinter die Kulissen: Gespräch mit Herbert Saurugg
• Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger
• Episode 37: Probleme und Lösungen
• Episode 35: Innovation oder: Alle Existenz ist Wartung?
• Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad
• Episode 27: Wicked Problems
• Episode 19: Offene Systeme
• Episode 10: Komplizierte Komplexität

Fachliche Referenzen

• siehe YouTube-Video-Beschreibung