Unisonar S2|EP4: Wie gerecht sind Daten?
Schaffen es Algorithmen, dass unsere Gesellschaft gerechter wird? Darüber sprechen wir mit der Genderforscherin Prof. Dr. Bianca Prietl. Sie sagt, dass Algorithmen immer voreingenommen sind, die Stereotypen aus der Vergangenheit weitertragen und dass sogar so scheinbar neutrale Daten wie Krankheitssymptome eine Ungerechtigkeit in sich tragen. Aber: Es gibt Hoffnung auf Besserung.
Prof. Dr. Bianca Prietl beleuchtet die Herausforderungen und Möglichkeiten der Nutzung von Daten und Algorithmen. Sie hinterfragt den Glauben an die Neutralität technischer Systeme und analysiert, wie algorithmische Entscheidungen bestehende Ungleichheiten fortschreiben können.
Prietl diskutiert Beispiele, in denen algorithmische Systeme zu Ungerechtigkeiten führen, wie etwa in der Personalauswahl oder im Justizwesen. Sie zeigt, dass Algorithmen oft bestehende Vorurteile und Diskriminierungen in Daten übernehmen und dadurch soziale Ungleichheiten verstärken. Auch Bildungssysteme, wie in Grossbritannien während der Pandemie, litten unter diesen Verzerrungen, die vor allem sozioökonomisch benachteiligte Gruppen trafen.
Vergangenheit, Gegenwart und Zukunft von Algorithmen
Prietl beschreibt algorithmische Systeme als «self-fulfilling prophecy»-Apparate. Sie basieren auf Daten der Vergangenheit, die bestehende Machtstrukturen widerspiegeln, und nutzen diese, um zukünftige Entscheidungen zu beeinflussen. Das führt zu Feedback-Schleifen, die Vorurteile verfestigen, beispielsweise bei der Bewertung von Rückfallrisiken im Justizwesen oder der Bewerberauswahl.
Trotz der Probleme sieht Prietl auch Potenziale in der Nutzung von Daten für emanzipatorische Zwecke. Projekte wie das Dokumentieren von Femiziden oder Analysen zu geschlechtsspezifischen Ungleichheiten zeigen, wie Daten genutzt werden können, um Missstände sichtbar zu machen und gesellschaftliche Debatten anzuregen. Eine «engagierte Datenpraxis» könnte helfen, bestehende Unsichtbarkeiten zu überwinden und gezielt Daten über marginalisierte Gruppen zu erheben.
Die Zukunft: Sorgsamer Umgang mit Daten
Prietl plädiert für einen kritischeren und verantwortungsvolleren Umgang mit Daten. Sie fordert transparente Prozesse bei der Datenerhebung und ein bewussteres Nachdenken über deren gesellschaftliche Auswirkungen. Dabei betont sie die Notwendigkeit, Datenlücken zu schliessen und Technologien so zu gestalten, dass sie weniger von Machtstrukturen geprägt sind.
