Werden KIs außer Kontrolle geraten? Heutige KIs haben Sicherheitsexperimente durchlaufen, bei denen sie, wenn ihnen die Abschaltung droht, versuchen, durch Erpressung, Bestechung, Bettelei oder Diebstahl zu überleben. Wenn wir eine KI darauf trainieren, so zu überleben und sich so zu verhalten, warum sollte sie es dann nicht auch versuchen? – Jeremy Au, Moderator des BRAVE Southeast Asia Tech Podcasts – Jordan Dea-Mattson
„Um die Singularität zu verstehen, ist es hilfreich, zu ihrer Definition zurückzukehren. Es handelt sich um ein Konzept aus Mathematik und Physik, bei dem die bestehenden Definitionen an ihre Grenzen stoßen. Der Begriff, der Ende der 80er-Jahre in dem Buch „Die kommende technologische Singularität“ geprägt wurde, beschreibt, wie die Geschwindigkeit des technologischen Wandels – gemessen am Mooreschen Gesetz, demzufolge sich die Rechenleistung alle 18 Monate verdoppelt und die Kosten halbieren – zwischen 2025 und 2030 undefinierbar wird. Was geschieht dann? Was passiert mit Gesellschaft und Technologie? Manche würden von künstlicher allgemeiner Intelligenz sprechen, aber es geht um mehr – es geht um die beschleunigte Veränderungsrate.“ – Jordan Dea-Mattson, erfahrener Technologieexperte
In dieser Folge Jeremy Au über Science-Fiction-Zukunftsszenarien, abtrünnige KI und darüber, warum Meta-Fähigkeiten darüber entscheiden werden, wer sich durchsetzt.
Jetzt auf Apple Podcasts anhören!
Schlüsselwörter: Jordan Dea-Mattson, Science-Fiction-Zukunft, Unkontrollierte KI, Warum Metakompetenzen über Erfolg entscheiden werden, Singapur, Südostasien, Künstliche Intelligenz, Führung, Vordenkerrolle
