"Ich bin besorgt. Ich glaube, wir steuern gerade auf eine Situation hin, die schwer vorstellbar ist", sagt Daniel Privitera, der Gründer und Geschäftsführer des KIRA-Zentrums, einem unabhängigen Thinktank zum Thema "Künstliche Intelligenz." Zusammen mit anderen Experten hat er den "International AI Safety Report" veröffentlicht und gehört zum Techberater-Kreis der Münchner Sicherheitskonferenz.
In der neuen Ausgabe von "phoenix persönlich" spricht Moderator Theo Koll mit dem KI-Experten über die Gefahren autonomer KI-Agenten, die Grenzen menschlicher Kontrolle und die Frage, wie Gesellschaft und Politik auf die rasante Entwicklung reagieren müssen.
Besonders kritisch sei, so Privitera, die zunehmende Fähigkeit von KI, bei ihrer eigenen Weiterentwicklung mitzuwirken. Gleichzeitig sieht er aber auch enorme Chancen - etwa in der Medizin und der Entwicklung neuer Medikamente. KI könne "wirklich gesundheitliche Verbesserungen bringen für Menschen überall. Es kann Leben retten."
Im Gespräch geht es auch darum, wie sich Menschen, Unternehmen und Staaten schützen können. Daniel Privitera fordert internationale Regeln und Mechanismen, mit denen sich das Entwicklungstempo der KI notfalls bremsen lässt.