In dieser Folge sprechen Matúš und Alwine über KI zwischen Begeisterung und einem ziemlich unguten Gefühl. Die Modelle werden besser. Die Agenten selbstständiger. Und bei der Sicherheit haben wir noch einiges aufzuholen.

Ausgangspunkt ist die Debatte um KI-Warnungen und die im Gespräch aufgegriffene Einschätzung eines zehnprozentigen Auslöschungsrisikos bis zum Ende des Jahrhunderts. Eine Zahl, die nachdenklich macht. Wie belastbar sie ist, hinterfragen die beiden ausdrücklich. Genauso wie die Motive hinter den Warnungen und Forderungen nach Regulierung.

Beim Thema Entwicklungspause sind sich die beiden entsprechend uneinig. Alwine möchte den Unternehmen Zeit zum Aufholen geben. Matúš bezweifelt, dass sich die Forschung tatsächlich bremsen lässt. Auch beim Kill-Switch wird es lebhaft. Abschalten klingt erst mal gut. Dafür muss man aber erkennen, was schiefläuft, und Zugriff auf das betreffende System haben. Die Verantwortung der KI-Anbieter zieht sich durch die Diskussion.

Eine Folge über KI-Risiken, kritische Infrastruktur, die Verantwortung der Anbieter und die Begeisterung für das, was gerade möglich wird.

Timeline

• 00:00 Zurück aus der Sommerpause und mitten in der Doomsday-Debatte
• 05:56 KI-Agenten auf dem eigenen Rechner und der Zugriff auf sensible Daten
• 08:25 Kritische Infrastruktur, unabhängige Prüfungen und Regulierung
• 12:03 Entwicklung bremsen oder Sicherheit aufholen lassen
• 24:50 Der Kill-Switch und die Grenzen des Abschaltens
• 34:11 Verantwortung der KI-Anbieter und die Diskussion um das Zehn-Prozent-Risiko
• 42:42 Bildgenerierung, Videos und die Vorfreude auf digitale Welten

🔗 Weiterführende Links zur Folge

LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

Bild ist offensichtlich KI-generiert