Jordan Dea-Mattson: Sci-Fi-Zukünfte, Schurken-KI und warum Meta-Fähigkeiten darüber entscheiden werden, wer Erfolg hat – E634

Werden KIs außer Kontrolle geraten? KIs werden heute Sicherheitsexperimenten unterzogen, bei denen sie, wenn ihnen die Abschaltung droht, versuchen, zu erpressen, zu bestechen, zu betteln oder zu stehlen, um zu überleben. Wenn wir eine KI darauf trainieren, zu überleben und sich so zu verhalten, warum sollte sie nicht auch solche Dinge versuchen? – Jeremy Au, Moderator des BRAVE Southeast Asia Tech Podcast

Wenn man über die Singularität nachdenkt, ist es hilfreich, auf ihre Definition zurückzukommen. Es handelt sich um ein Konzept aus Mathematik und Physik, bei dem die bestehenden Definitionen versagen. Der Begriff, der Ende der 80er Jahre in „Die kommende technologische Singularität“ geprägt wurde, beschreibt, wie die Geschwindigkeit des technologischen Wandels, wenn man sie mit etwas wie dem Mooreschen Gesetz darstellt – wonach sich die Rechenleistung alle 18 Monate verdoppelt und die Kosten um die Hälfte sinken – irgendwann zwischen 2025 und 2030 undefiniert wird. Was passiert dann? Was passiert mit Gesellschaft und Technologie? Manche würden sagen, das ist künstliche allgemeine Intelligenz, aber es ist mehr als das – es geht um die zunehmende Geschwindigkeit des Wandels.“ – Jordan Dea-Mattson, erfahrener Tech-Experte

Jeremy Au und Jordan Dea-Mattson treffen sich erneut, um zu untersuchen, wie Vernor Vinges „Rainbows End“ die heutige Welt mit ihrer rasanten technologischen Entwicklung, den Herausforderungen der Umschulung und demografischen Veränderungen vorwegnahm. Sie untersuchen, welche Vorhersagen sich bewahrheiteten, welche nicht und wie sich diese Lehren auf die Einführung von KI, fragile digitale Systeme und die Notwendigkeit lebenslangen Lernens auswirken. Ihr Gespräch beleuchtet, warum Einzelpersonen Metakompetenzen entwickeln müssen, warum es politischen Entscheidungsträgern an Handlungsempfehlungen mangelt und wie sich Südostasien auf eine Zukunft vorbereiten kann, die sowohl von Singularität als auch von Bevölkerungsrückgang geprägt ist.