Faire Algorithmen für alle

Beginnen wir ganz an der Basis: Was sind Human Computer Interfaces and Inclusive Technologies?

Elisabeth Lex: Algorithmen und künstliche Intelligenz funktionieren heute in vielen Bereichen sehr gut, allerdings vor allem für Menschen mit Mainstream-Bedürfnissen. In meinem Forschungsfeld geht es darum, diese Systeme so zu gestalten, dass sie auch Menschen mit besonderen oder weniger verbreiteten Bedürfnissen gerecht werden. Wir entwickeln Technologien, die wirklich inklusiv sind und sich an die Menschen anpassen, die sie nutzen - und nicht umgekehrt.

Warum ist das überhaupt notwendig? Also warum funktionieren diese Systeme nicht für alle Menschen gleich gut?

Lex: Dafür gibt es verschiedene Gründe. Häufig existieren über bestimmte Personengruppen einfach zu wenige oder zu wenig differenzierte Daten. Dadurch bleiben ihre Bedürfnisse unsichtbar. Dahinter muss keine Absicht stecken, sondern es liegt oft daran, dass diese Gruppen in Entwicklungsprozessen nicht mitgedacht wurden oder Datensätze wenig divers erstellt werden.

Als konkretes Beispiel: Geht es da um Large Language Models, wie sie momentan häufig diskutiert werden?

Lex: Auch, ja. Mir ist wichtig, dass LLMs zu Werkzeugen werden, die Menschen mit ganz unterschiedlichen Bedürfnissen wirklich unterstützen. Dafür müssen Informationen barrierefrei zugänglich sein. Sehr zentral sind für mich aber auch Recommender Systeme. Dort sehen wir viele Formen von Bias: Sie funktionieren für manche Geschlechter oder Altersgruppen schlechter und bilden nicht alle Lebensrealitäten gleich gut ab. Das zeigt sich schon bei etwas so Alltäglichem wie Musikempfehlungen: Sobald ich etwas abseits des Mainstreams höre, werden die Empfehlungen deutlich schlechter.

In unserer aktuellen Forschung untersuchen wir, ob Recommender Systeme die Lebensrealität von Menschen mit unterschiedlichen Bedürfnissen überhaupt abbilden können - und ob die dafür notwendigen Informationen in den Trainingsdaten enthalten sind. In einer aktuellen Studie haben wir zum Beispiel Point-of-Interest-Recommender untersucht, die Empfehlungen für Sehenswürdigkeiten oder Restaurants aussprechen. Wir haben gezielt nach Orten mit barrierefreien Zugängen gesucht und dabei ein starkes Stadt-Land-Gefälle entdeckt: In Städten gibt es viel mehr und deutlich differenziertere Daten als im ländlichen Raum, und entsprechend besser sind die Empfehlungen.

Untersucht haben wir bisher Daten aus den USA und wollen die Analyse auf Europa ausweiten. Hier ist eine Vergleichsstudie besonders spannend, weil viele Städte historisch gewachsen sind und Barrierefreiheit dort häufig nicht von Beginn an mitgeplant wurde.

Aber wenn diese Informationen in den Daten gar nicht drin sind, welche Möglichkeiten haben Sie dann überhaupt, darauf einzuwirken?

Lex: Der erste Schritt ist, diese Probleme transparent zu machen und die betroffene Gruppe zu involvieren. Um das Beispiel Point-of-Interest-Recommender aufzugreifen – hier gibt es tolle Initiativen wie beispielsweise Wheelmap, eine Onlinekarte um rollstuhlgerechte Orte zu markieren bzw. zu finden. Alle können hier dazu beitragen, Daten zum Thema Rollstuhlgerechtigkeit zu erzeugen. Vielversprechend ist es weiters, bisher getrennte Datenquellen zusammenzuführen und Systeme wirklich gemeinsam mit unterschiedlichen Stakeholdern zu entwickeln.

Die Professur Human Computer Interfaces and Inclusive Technologies wird vom Verein Erzherzog-Johann-Gesellschaft Initiativ für Kinder und Jugendliche mit Behinderungen finanziell unterstützt. Mit der Stiftungsprofessur sollen Inklusion und Technik noch näher zusammengebracht werden.

Warum interessiert Sie dieses Thema so sehr?

Lex: Ich habe mich schon immer sehr dafür interessiert, wie man den Zugang zu Informationen erleichtern kann - denn genau das macht uns als Gesellschaft stark. Gerade für Menschen mit Behinderungen oder besonderen Bedürfnissen ist der Zugang zu der riesigen Menge an verfügbaren Informationen oft nicht gut gestaltet. Dadurch werden sie ausgeschlossen, und das möchte ich ändern.

Ich finde es zudem äußerst spannend, wie Menschen Wissen erwerben, lernen und sich weiterentwickeln. In Recommender Systemen geht es ja auch darum, Lernressourcen, Quellen oder Personen vorzuschlagen. Aus wissenschaftlicher Perspektive interessiert mich, welche psychologischen Prozesse hinter dem Lernen stehen und wie man Menschen - etwa mit einer Lernschwäche - gezielt unterstützen kann.

In meiner Forschung geht es mir immer darum, einen positiven Einfluss auf gesellschaftliche Prozesse zu haben. Maschinen smarter zu machen hat definitiv seinen Reiz, aber am Ende sitzen Menschen an diesen Maschinen - und ihnen soll meine Arbeit helfen.

Haben Sie eine Verbindung zur Psychologie?

Lex: Viele der Algorithmen, an denen ich forsche, sind inspiriert von psychologischen oder auch soziologischen Modellen. Sie helfen uns, Lernverhalten, individuelles Verhalten und unterschiedliche Bedürfnisse besser zu verstehen. Dadurch können wir Systeme entwickeln, die wirklich am Menschen orientiert sind.

Welche Stationen haben Sie in Ihrer wissenschaftlichen Karriere bisher gemacht?

Lex: Ich habe an der TU Graz Telematik studiert – also an der Schnittstelle zwischen Elektrotechnik und Informatik. Nach dem Abschluss war ich zunächst in der Praxis tätig, habe aber schnell gemerkt, dass mir das nicht genügt. Deshalb habe ich mich für ein Doktorat entschieden und mich mit dem Zugang zu Informationen über visuelle und textbasierte Technologien beschäftigt.

Anschließend war ich als PostDoc in Argentinien, wo es besonders spannend war, Forschung unter sehr beschränkten technischen Ressourcen zu betreiben. Als PostDoc an der RWTH Aachen habe ich mich erstmals mit dem Thema Bias und Fairness in Algorithmen auseinandergesetzt. Das Thema hat mich fasziniert - vor allem die Idee, einen Algorithmus nicht nur als technisches Artefakt, sondern eingebettet in einen gesellschaftlichen Kontext zu betrachten.

Schließlich bin ich an die TU Graz zurückgekehrt, habe dort habilitiert und nun die Professur übernommen. Die TU Graz bietet eine ideale Kombination aus technischer Exzellenz, interdisziplinärer Offenheit und einer stark wachsenden Community im Bereich Human-Centered AI. Hier gibt es Teams, die sich für inklusive Technologien begeistern, und eine Infrastruktur, die sowohl Grundlagenforschung als auch konkrete Anwendungen ermöglicht.