Professorin Dr. Katharina Anna Zweig erhält mit der Initiative „AlgorithmWatch“ die Theodor-Heuss-Medaille 2018 „für eine differenzierte Debatte über Kriterien bei der Entwicklung Künstlicher Intelligenz“, wie die Theodor-Heuss-Stiftung mitgeteilt hat. Zweig setzt sich an der Technischen Universität Kaiserslautern mit ihrem Team im Algorithm Accountability Lab kritisch mit dem Umgang von Algorithmen auseinander. 2016 hat sie mit der Philosophin Lorena Jaume-Palasí und den Journalisten Lorenz Matzat und Matthias Spielkamp „AlgorithmWatch“ gegründet, um die Öffentlichkeit besser über die Macht dieser Rechenverfahren aufzuklären.
Algorithmen beeinflussen unseren Alltag: Sie entscheiden zum Beispiel, welche Werbung wir sehen, wenn wir im Netz surfen, aber auch über die Vergabe von Krediten. Sie treffen Vorhersagen und berechnen menschliches Verhalten. Dabei ist oft unklar, welche Daten solchen Rechnungen zugrunde liegen. „Immer mehr Entscheidungen werden heute von solchen Rechenverfahren getroffen. Insbesondere wenn es beispielsweise um Produktionsprozesse geht, ist das oft sehr sinnvoll“, sagt Professorin Katharina Anna Zweig. „Wenn es aber um Entscheidungen über Menschen geht, können Fehlentscheidungen gravierende Folgen haben. Wir untersuchen etwa algorithmische Entscheidungssysteme, die in den USA vor Gericht eingesetzt werden, um das Rückfälligkeitsrisiko von Kriminellen zu beurteilen – und diese sind von erstaunlich schlechter Qualität."
Die Kaiserslauterer Informatikerin untersucht algorithmische Entscheidungssysteme, die wichtige Lebenssituationen von Menschen bewerten. Dabei erforscht sie auch Methoden, mit denen sie sich künftig besser kontrollieren lassen. „Wir benötigen ein System, das insbesondere die Qualität der Entwicklung und Anwendung solcher Systeme sicherstellt“, so die Professorin weiter.
Mit ihrer Forschungsarbeit möchte sie der Bevölkerung aufzeigen, welche Chancen und Risiken solche komplexen Rechenverfahren bergen und auch wie sie mittels der verwendeten Daten dazu lernen können.
Im vergangenen Jahr haben Zweig und AlgorithmWatch gemeinsam mit einem Konsortium von Landesmedienanstalten vor der Bundestagswahl überprüft, wem die Suchmaschine Google welche Nachrichten beziehungsweise Ergebnisse anzeigt. Ihre Untersuchung hat gezeigt, dass Google deutlich weniger personalisiert als angenommen: Bei der Suche nach Politkern gab es im Durchschnitt nur ein bis zwei unterschiedliche Links, auch bei den Parteien stimmte der Großteil überein.
Die überparteiliche Theodor-Heuss-Stiftung wurde 1964 nach dem Tod des ersten Bundespräsidenten gegründet. Mit der Medaille zeichnet sie bürgerliches Engagement, Zivilcourage und den Einsatz für die Stärkung und Weiterentwicklung der Demokratie aus. Die Auszeichnung wird im Rahmen der 53. Theodor-Heuss-Preisverleihung am Samstag, den 16. Juni, um 10.30 Uhr im Haus der Wirtschaft in Stuttgart übergeben. Weitere Informationen unter www.theodor-heuss-stiftung.de/...
AlgorithmWatch wird als gemeinnützige GmbH von Matthias Spielkamp, Lorena Jaume-Palasí und Lorenz Matzat weitergeführt. Mehr zu AlgorithmWatch unter https://algorithmwatch.org
Algorithmen beeinflussen unseren Alltag: Sie entscheiden zum Beispiel, welche Werbung wir sehen, wenn wir im Netz surfen, aber auch über die Vergabe von Krediten. Sie treffen Vorhersagen und berechnen menschliches Verhalten. Dabei ist oft unklar, welche Daten solchen Rechnungen zugrunde liegen. „Immer mehr Entscheidungen werden heute von solchen Rechenverfahren getroffen. Insbesondere wenn es beispielsweise um Produktionsprozesse geht, ist das oft sehr sinnvoll“, sagt Professorin Katharina Anna Zweig. „Wenn es aber um Entscheidungen über Menschen geht, können Fehlentscheidungen gravierende Folgen haben. Wir untersuchen etwa algorithmische Entscheidungssysteme, die in den USA vor Gericht eingesetzt werden, um das Rückfälligkeitsrisiko von Kriminellen zu beurteilen – und diese sind von erstaunlich schlechter Qualität."
Die Kaiserslauterer Informatikerin untersucht algorithmische Entscheidungssysteme, die wichtige Lebenssituationen von Menschen bewerten. Dabei erforscht sie auch Methoden, mit denen sie sich künftig besser kontrollieren lassen. „Wir benötigen ein System, das insbesondere die Qualität der Entwicklung und Anwendung solcher Systeme sicherstellt“, so die Professorin weiter.
Mit ihrer Forschungsarbeit möchte sie der Bevölkerung aufzeigen, welche Chancen und Risiken solche komplexen Rechenverfahren bergen und auch wie sie mittels der verwendeten Daten dazu lernen können.
Im vergangenen Jahr haben Zweig und AlgorithmWatch gemeinsam mit einem Konsortium von Landesmedienanstalten vor der Bundestagswahl überprüft, wem die Suchmaschine Google welche Nachrichten beziehungsweise Ergebnisse anzeigt. Ihre Untersuchung hat gezeigt, dass Google deutlich weniger personalisiert als angenommen: Bei der Suche nach Politkern gab es im Durchschnitt nur ein bis zwei unterschiedliche Links, auch bei den Parteien stimmte der Großteil überein.
Die überparteiliche Theodor-Heuss-Stiftung wurde 1964 nach dem Tod des ersten Bundespräsidenten gegründet. Mit der Medaille zeichnet sie bürgerliches Engagement, Zivilcourage und den Einsatz für die Stärkung und Weiterentwicklung der Demokratie aus. Die Auszeichnung wird im Rahmen der 53. Theodor-Heuss-Preisverleihung am Samstag, den 16. Juni, um 10.30 Uhr im Haus der Wirtschaft in Stuttgart übergeben. Weitere Informationen unter www.theodor-heuss-stiftung.de/...
AlgorithmWatch wird als gemeinnützige GmbH von Matthias Spielkamp, Lorena Jaume-Palasí und Lorenz Matzat weitergeführt. Mehr zu AlgorithmWatch unter https://algorithmwatch.org
