KI: Maschinen mit Sinn für Gerechtigkeit

Anbieter zum Thema

MPDV Mikrolab GmbH

Schneider Electric GmbH

Trebing & Himstedt Prozeßautomation GmbH & Co. KG

Kilbertus und seine Kollegen suchen in diesem Zusammenhang nach einer fairen Lösung - nämlich nach dem kausalen Zusammenhang, warum gerade in diesem besagten Stadtteil das Risiko hoch ist, dass Kreditnehmer ihre Ratenzahlungen nicht mehr bedienen können. „Es kann sein, dass in dieser Postleitzahl die Ausfallquote einfach höher ist, was die Bank dann als Argument nehmen würde, sicherheitshalber gar keine Kredite an Menschen, die dort leben, zu vergeben. Falls aber gleichzeitig in dieser Region vorwiegend eine bestimmte Minderheit wohnt, dann findet hier implizit eine Diskriminierung statt, da diese Minderheit nun systematisch benachteiligt wird.“ Ein starker Appell an alle, zu hinterfragen, wie Daten zustande kommen. Denn wie sollen wir einer künstlichen Intelligenz unseren Alltag regeln lassen, wenn ihre Entscheidungen Verzerrungen enthalten können?

Eventreihe zur digitalen Transformation

„MindShift Mittelstand“: Künstliche Intelligenz hält Einzug in Unternehmen

Vorstellung von Fairness ist nicht interkulturell

Das Problem ist die formale Definition von „fairen Entscheidungen", denn Fairness ist subjektiv. Es gibt keine Definition von Fairness, die für alle Kulturkreise gleichermaßen gültig wäre. Folglich Existiert Kilbertus Algorithmus nur auf dem Papier. Sie ist, wie die meisten Forschungsarbeiten an den Max-Planck-Instituten, Grundlagenforschung. „Es ist bisher nur Theorie. Wir haben keine Experimente gemacht – die Idee ist allein konzeptioneller Natur. Kein Unternehmen dieser Welt verwendet einen fairen Algorithmus, so wie er uns vorschwebt. Das Problem ist, diese kausalen Schlussfolgerungen zu ziehen. Das würde sehr viel Zeit und Kosten verursachen,“ sagt der Wissenschaftler. „Was wir wissen ist, dass die gängige Praxis nicht ausreicht, um unsere Intuition von Fairness vollständig wiederzugeben.“

Selbstlernende Algorithmen

Das kognitive Internet der Dinge – Einstieg in eine neue Ära

Die Grundlagenforschung von Kilbertus und seinen Kollegen soll dazu dienen, ein Umdenken in einer Gesellschaft anzuregen, in der maschinelles Lernen und künstliche Intelligenz künftig immer mehr Entscheidungen beeinflussen werden. „Wenn Maschinen unsere eigenen Wertvorstellungen übernehmen sollen, dann darf man Daten nicht einfach blind weiter verwerten. Wir müssen uns fragen: wie kamen sie zustande? Wir müssen Zusammenhänge hinterfragen. Diese müssen wir zuerst verstehen und formal definieren, bevor wir maschinelles Lernen im sozialen Kontext einsetzen und als fair akzeptieren können.“

(ID:45066062)