Mit verantwortungsvoller Technologie zu einer besseren Welt?

Sicher war es nur eine Frage der Zeit, bis sie in der aufstrebenden Hochburg für Künstliche Intelligenz (KI) im Südwesten Deutschlands auftreten würde: Sichtlich stolz kündigte Moderator Markus Hermsen-Huyke bei der fünften Veranstaltung der „Learning from Legends“-Reihe des TUM Campus Heilbronn Speakerin Zamina Ahmad als eine der bundesweit gefragtesten KI-Expertinnen an. Die Gründerin und CEO des KI-Beratungsunternehmens „shades & contrast“ mit 15 Jahren Erfahrung im Bereich Daten und Technologie wurde den hohen Erwartungen gerecht: Bei der Veranstaltung „Unter dem Algorithmus – Die grundlegendere Bedeutung von KI" pries sie KI weder als Lösung aller Menschheitsprobleme an noch verteufelte sie sie als gigantische Bedrohung. Stattdessen benannte sie klar die Vorteile und Chancen und machte konstruktive Vorschläge, wie mit den Risiken umgegangen werden könnte.

Die neue Technologie biete ein großes Potenzial für ganz unterschiedliche Wirtschaftszweige, erklärte die Hamburgerin ihrem Publikum, das aus Studierenden und Promovierenden der verschiedenen Einrichtungen auf dem Bildungscampus Heilbronn bestand: „Die Zukunft der KI geht in Richtung autonomerer KI-Agenten, insbesondere in Geschäftsumgebungen, in denen die betriebliche Effizienz und Entscheidungsfindung durch menschliches Eingreifen verbessert werden können.“ Gerade in diesem Bereich gebe es in Deutschland vielversprechende Start-ups wie Aloa.

Kritische Parameter aussortieren

Auf der anderen Seite berge KI aber auch mögliche Gefahren, denen Ahmad ihre größte Vision entgegensetzt: KI fair und verantwortungsvoll zu gestalten. Das sei nicht genau das Gleiche: „Während faire KI sich auf die Verhinderung von Diskriminierung und Voreingenommenheit konzentriert, verfolgt verantwortungsvolle KI einen ganzheitlichen Ansatz, um sicherzustellen, dass KI dem Allgemeinwohl dient, ethischen Standards entspricht und das Vertrauen der Öffentlichkeit und der Interessengruppen aufrechterhält.“ Ein häufiges Problem seien voreingenommene Trainingsdaten, die es etwa Frauen bis heute schwerer machen, einen Kredit zu erhalten als Männern.

„Wie können solche Verzerrungen beseitigt werden?“, fragte einer der Studenten, die sich rege an der Diskussion beteiligten. Man könne kritische Parameter aussortieren, schlug Ahmad vor. Siemens versuchte dies ebenfalls, indem bei automatischen Lebenslauf-Scans das Geschlecht als Kategorie entfernt wurde, um die Geschlechtergerechtigkeit zu erhöhen und damit Frauen nicht ständig aussortiert wurden. Dabei trat ein überraschendes Ergebnis zutage: Die KI bevorzugte Bewerber, die Fußball als Hobby angaben.

Was der Mensch besser kann

Auch Regulierungen seien notwendig: Den „EU AI Act“ bezeichnet sie als den ersten Rechtsrahmen, der Innovation und ethische Verantwortung in Einklang bringt. Sehr wichtig sei auch das Prinzip „Human in the loop“: Dabei geht es darum, sicherzustellen, dass Menschen ein integraler Bestandteil des KI-Entscheidungsprozesses bleiben. Ein vielversprechendes Beispiel stamme aus Taiwan: Dort wurde eine KI implementiert, die Falschinformationen aufspürt. Die Ergebnisse werden abschließend nochmal von einem Menschen überprüft und gekennzeichnet.

Im Umgang mit der KI müsse der Mensch seine Stärken ausspielen: „Zukünftige KI-Experten und -Führungskräfte müssen in der Lage sein, Zusammenhänge zu verstehen, Ziele zu setzen und die Kluft zwischen Technologie und Menschen zu überbrücken. Sie müssen strategisch denken, empathisch kommunizieren und in der Lage sein, den ethischen Einsatz von KI voranzutreiben.“ Sie ist sich sicher: „Die Zukunft liegt in KI-Tools, die den Datenschutz gewährleisten und sich darauf konzentrieren, menschliche Intuition mit KI-gesteuerten Erkenntnissen zu kombinieren.“