Terra X Harald Lesch

Künstliche Intelligenz, die unsere geheimsten Wünsche erkennt, die uns beschützt – und bewacht. Welche neuen Möglichkeiten tun sich auf? Welche Gefahren?

Die KI ist für uns da, immer und fast überall. Sie kennt uns, vielleicht sogar besser als wir uns selbst, und durchschaut die wahren Gefühle. In diesem Spannungsfeld spielt die fiktive ZDF-Serie "Concordia".

Harald Lesch prüft, wie viel davon bereits in unserer Welt angekommen ist.

"Concordia" ist der Traum der Stadt der Zukunft, in der alle sicher sind vor Kriminalität. Können wir uns bereits heute mithilfe der KI schützen? Seit Jahren fallen Plätze der Innenstadt Mannheims durch eine überdurchschnittlich hohe Kriminalitätsrate auf. Eine 24-Stunden-Videoüberwachung könnte helfen. Doch damit individuelle Merkmale wie Geschlecht, Erscheinung oder Hautfarbe keine Rolle spielen, dürfen Gesichter von Personen nicht gescannt werden.

Forschende suchen zusammen mit der Polizei nach einer Methode, die nicht die Persönlichkeitsrechte der Bürger verletzt. Ein spezielles Programm soll ausschließlich die Bewegungsmuster der Passanten analysieren. Die Software muss lernen, zu erkennen, ob es sich noch um eine stürmische Begrüßung handelt oder bereits um einen eskalierenden Konflikt. Bei Letzterem soll die KI sofort Alarm schlagen. So der Plan. Doch wie trainiert man die KI? Und wie Erfolg versprechend ist das System?

In der Serie "Concordia" analysiert ein Überwachungssystem die Emotionen der Menschen – überwiegen Angst, Freude oder Trauer? Und in der Realität? Weiß die KI bald mehr über unsere Gefühle als wir selbst? KI-Systeme lernen bereits heute, Menschen auf vielfältige Weise zu erfassen – auch bis in ihr Innerstes. Wissenschaftsteams beschäftigen sich beispielsweise mit "intelligenter Audioanalyse" und dem sogenannten Affective Computing. Sie wollen herausfinden, wie mittels KI von unserer Stimme auf unsere Stimmung und Emotionen rückgeschlossen werden kann. Was lässt einen Redner besonders charismatisch erscheinen, und wie überzeugt man besonders gut sein Gegenüber?

Zum Training der KI werden neben verschiedenen Stimmproben auch andere Kriterien erfasst, wie Puls, Gesichtsausdruck und Körperhaltung. Auch die sogenannte Facial-Micro-Expression wird hinzugezogen, wenn sich für den Bruchteil von Sekunden unbemerkt Emotionen wie Ablehnung oder Zuneigung in der Mimik zeigen. Fatal – denn die entgleisenden Gesichtszüge zeigen unsere wahren Gefühle, die uns vielleicht nicht einmal selbst so bewusst sind.

Doch was passiert, wenn einzelne KIs mit ihren Fähigkeiten miteinander vernetzt werden zu einer Art Super-KI oder "Artificial General Intelligence"? Google oder Microsoft kündigen bereits an, vernetzte KI-Systeme zu entwickeln, die sich gegenseitig korrigieren und steuern – ohne Zutun von Menschen und deren Kontrolle. Wird es eine Super-KI geben, die in der Lage wäre, Entscheidungen und Schlüsse unabhängig von ihren menschlichen Nutzern zu ziehen – autonom, ohne Aufforderung oder sogar gegen den erklärten Willen?

Harald Lesch beleuchtet auch die Hintergründe, warum Politik und Gesellschaft jetzt gefordert sind, verbindliche Regeln zu KI aufzustellen.