Zukunft Denken – Podcast

In dieser Folge tauchen wir tief in die Welt der Künstlichen Intelligenz (KI) ein und betrachten sie aus einer systemischen Perspektive. Inspiriert vom klassischen Cartoon Spy vs. Spy geht es um die Frage, wie KI-Systeme miteinander interagieren — sowohl im Sinne von Kooperation als auch Konkurrenz — und welche Herausforderungen dies für uns Menschen mit sich bringt.

Ich beleuchte die evolutionäre Natur technischen Fortschritts, die Risiken von Komplexität und Kontrollverlust sowie die möglichen Folgen einer Zukunft, in der KI von einem passiven Werkzeug zu einem aktiven Akteur wird. Begleiten Sie mich auf einer Reise durch emergente Phänomene und Fulgurationen, systemische Abhängigkeiten und die Frage, wie wir die Kontrolle über immer komplexere Systeme behalten können. Denn es stellen sich zahlreiche Fragen:

• Wie könnte sich die Interaktion zwischen KI-Systemen in der Zukunft entwickeln – eher kooperativ oder kompetitiv?
• Welche Rolle spielt der Mensch noch, wenn KI-Systeme immer schneller Entscheidungen treffen und autonome Akteure werden?
• Welche Erfahrungen haben Sie mit technischen Systemen gemacht, die durch Komplexität oder Automatisierung an Kontrolle verloren haben?
• Was bedeutet es für unsere Gesellschaft, wenn wir durch Automatisierung Know-how und Kontrolle an externe Akteure abgeben?
• Wie können wir den Übergang von KI als Spielzeug zu einem systemisch notwendigen Element gestalten, ohne in eine Abhängigkeit zu geraten?
• Glauben Sie, dass KI jemals eine eigene Motivation oder Intentionalität entwickeln könnte – und wenn ja, wie sollten wir darauf reagieren?
• Welche Strategien könnten helfen, die Kontrolle über komplexe, nicht-deterministische Systeme wie KI-Agenten zu behalten?
• Wie sehen Sie die geopolitischen Herausforderungen der KI-Entwicklung, insbesondere in Bezug auf Energie und Innovation?
• Welche positiven Szenarien können Sie sich für eine Zukunft mit KI und autonomen Agenten vorstellen?
• Wie bereiten Sie sich persönlich oder in Ihrem Umfeld auf die kommenden Entwicklungen in der KI vor?

Ich freue mich Ihre Gedanken und Ansichten zu hören! Schreiben Sie mir und lassen Sie uns gemeinsam über die Zukunft nachdenken. Bis zum nächsten Mal beim gemeinsamen Nachdenken über die Zukunft!

Referenzen

Andere Episoden

• Episode 109: Was ist Komplexität? Ein Gespräch mit Dr. Marco Wehr
• Episode 107: How to Organise Complex Societies? A Conversation with Johan Norberg
• Episode 104: Aus Quantität wird Qualität
• Episode 103: Schwarze Schwäne in Extremistan; die Welt des Nassim Taleb, ein Gespräch mit Ralph Zlabinger
• Episode 99: Entkopplung, Kopplung, Rückkopplung
• Episode 94: Systemisches Denken und gesellschaftliche Verwundbarkeit, ein Gespräch mit Herbert Saurugg
• Episode 90: Unintended Consequences (Unerwartete Folgen)
• Episode 69: Complexity in Software
• Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger
• Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad

Fachliche Referenzen

• Spy vs. Spy, The Complete Casebook 
• Rupert Riedl, Strukturen der Komplexität: Eine Morphologie des Erkennens und Erklärens, Springer (2000)
• Doug Meil, The U.K. Post Office Scandal: Software Malpractice At Scale – Communications of the ACM (2024)
• Casey Rosenthal, Chaos Engineering, O'Reilly (2017)

Ich möchte Sie auf eine Vorlesung hinweisen, die Sie im Zukunft-Denken YouTube-Kanal finden. Der Titel ist: “Complexity in Software — Handle with Care”

https://youtu.be/hBaxfkzhvKg

Die Vorlesung ist in Englisch und hat Software-Entwicklung und Management im Fokus, betrachtet aber das Thema Komplexität in einem breiteren Sinne und ist insofern auch für nicht-Software-Interessierte von Relevanz.

Wenn Sie an Software wenig interessiert sind — das Video hat Kapitelmarken, überspringen Sie eventuell: “Why is Complexity in Software a Problem?”

Was sind die Themen die in der Vorlesung behandelt werden:

• Was ist Komplexität?
• Was sind zahme und wicked problems?
• Was sind Attraktoren in komplexen dynamisch stabilisierten Systemen?
• Warum wird das Zusammenspiel von Software und anderen gesellschaftlichen Services immer kritischer?
• Was ist Komplexität in Software? Was sind treibende Faktoren, wie kann man Komplexität reduzieren?
• Warum ist Komplexität in Software überhaupt ein Problem?
• Was ist Emergenz, was sind Beispiele für emergentes Verhalten?

Und der letzte Teil der Vorlesung ist relativ generisch in dem Sinne, dass ich versuche zu beschreiben:

• Wie reagieren Menschen in Systemen auf komplexe Probleme
• Welche Reaktionen sinnvoll sein können, unter welchen Umständen und welche nicht zielführend sind
• Welche neuen Management-Paradigmen sollte man überlegen
• Welchen Einfluss spielen Metaphern in unserem Blick auf die technische Welt?

Zum Abschluss führe ich noch kurz in eine für mich sehr faszinierende Idee von Stewart Brand ein, die er Pace Layering nennt. Eine Form von Schichtenmodell der Welt, die unterschiedliche Geschwindigkeiten gegeneinander darstellt und was für uns als Gesellschaft aber auch Techniker und Manager daraus folgt.

Referenzen

• YouTube Video der Vorlesung

Andere Episoden

• Episode 64: Getting Nothing Done
• Episode 42: Gesellschaftliche Verwundbarkeit, ein Blick hinter die Kulissen: Gespräch mit Herbert Saurugg
• Episode 40: Software Nachhaltigkeit, ein Gespräch mit Philipp Reisinger
• Episode 37: Probleme und Lösungen
• Episode 35: Innovation oder: Alle Existenz ist Wartung?
• Episode 31: Software in der modernen Gesellschaft – Gespräch mit Tom Konrad
• Episode 27: Wicked Problems
• Episode 19: Offene Systeme
• Episode 10: Komplizierte Komplexität

Fachliche Referenzen

• siehe YouTube-Video-Beschreibung