Jordan Dea-Mattson: Science-Fiction-Zukunft, abtrünnige KI und warum Meta-Fähigkeiten über Erfolg oder Misserfolg entscheiden werden – E634

Spotify: https://open.spotify.com/episode/1QosmFLam5NI59qN4gkaZ2?si=cc479cb3692e4a4a

YouTube: https://youtu.be/gWN5D0YdQuA

Werden KIs außer Kontrolle geraten? Heutige KIs haben Sicherheitsexperimente durchlaufen, bei denen sie, wenn ihnen die Abschaltung droht, versuchen, durch Erpressung, Bestechung, Bettelei oder Diebstahl zu überleben. Wenn wir eine KI darauf trainieren, so zu überleben und sich so zu verhalten, warum sollte sie es dann nicht auch versuchen? – Jeremy Au, Moderator des BRAVE Southeast Asia Tech Podcasts

„Um die Singularität zu verstehen, ist es hilfreich, sich ihre Definition anzusehen. Es handelt sich um ein Konzept aus Mathematik und Physik, bei dem die bisherigen Definitionen an ihre Grenzen stoßen. Der Begriff, der Ende der 80er-Jahre in dem Buch „Die kommende technologische Singularität“ geprägt wurde, beschreibt, wie die Geschwindigkeit des technologischen Wandels – gemessen am Mooreschen Gesetz, demzufolge sich die Rechenleistung alle 18 Monate verdoppelt und die Kosten halbieren – zwischen 2025 und 2030 undefinierbar wird. Was geschieht dann? Was passiert mit Gesellschaft und Technologie? Manche würden von künstlicher allgemeiner Intelligenz sprechen, aber es geht um mehr – es geht um die rasante Beschleunigung des Wandels.“ – Jordan Dea-Mattson, erfahrener Technologieexperte

Jeremy Au und Jordan Dea-Mattson treffen sich erneut, um zu erörtern, wie Vernor Vinges Roman „Rainbows End“ die heutige Welt mit ihrem rasanten technologischen Fortschritt, den Herausforderungen der Umschulung und demografischen Veränderungen vorwegnahm. Sie untersuchen, welche Vorhersagen sich bewahrheitet haben, welche nicht und wie diese Erkenntnisse auf die Einführung von KI, fragile digitale Systeme und die Notwendigkeit des lebenslangen Lernens anwendbar sind. Ihr Gespräch verdeutlicht, warum Einzelpersonen Metakompetenzen entwickeln müssen, warum politischen Entscheidungsträgern Handlungsanweisungen fehlen und wie sich Südostasien auf eine Zukunft vorbereiten kann, die sowohl von Singularität als auch von Bevölkerungsrückgang geprägt ist.