Play video
Video in German only. Please use subtitels for translation.
Künstliche Intelligenz steckt heute gefühlt in 90 Prozent der Anwendungen.
Gut, ein bisschen weniger ist es natürlich schon. Aber trotzdem nimmt künstliche Intelligenz, oder kurz KI, einen immer größeren Stellenwert in unserem Alltag ein. Sei es nun als Tool, um verschiedene Suchergebnisse zusammenzufassen, als Chatbot, der die Fragen mehr oder weniger beantworten kann, oder als Vorschlagssystem, das dir neue Restaurants vorschlägt. KI und andere Algorithmen machen also unseren Alltag leichter, können uns Tipps geben und ein wunderbares Werkzeug sein. Aber ist das für alle Menschen so? Oder werden gewisse Gruppen von KI nicht so gut bedient wie die Gesellschaft mit Mainstream-Bedürfnissen?
Mein Name ist Elisabeth Lex und ich bin Professorin am Institute of Human Centered Computing. In meiner Forschung habe ich herausgefunden, dass es eben nicht so ist, dass KI und andere Algorithmen für alle Menschen gleich gut funktionieren.
In den Trainingsdaten sind Biases vorhanden, die das System dann weitergibt. Oder was es noch schlimmer macht, diese Biases noch weiter verstärkt. Das ist nicht immer böse Absicht. Von vielen Gruppen gibt es einfach viel zu wenige Daten in den vorhandenen Trainingsdatensätzen.
Zum Beispiel, wenn eine Sprache nicht so häufig gesprochen wird oder wenn es wenige Texte davon gibt, wenn in dieser Sprache mehrere Dialekte oder regional unterschiedliche Ausdrucksweisen vorhanden sind. Gerade wird überlegt, ob KI als Übersetzungssoftware zum Beispiel bei Asylverfahren eingesetzt werden könnte. Die KI kann dabei benachteiligend wirken. Eine regional kundige Übersetzungsperson hingegen wäre hilfreich.
Ähnlich geht es Menschen mit Bewegungseinschränkungen. Algorithmen können uns heute Empfehlungen für Sehenswürdigkeiten, Restaurants oder Museen geben. Und viele haben schon Attribute wie barrierefrei inkludiert. Aber was bedeutet barrierefrei?
Gibt es eine Rampe am Eingang? Sind die Toiletten wirklich barrierefrei? Welche Art von Rollstuhl kann diesen speziellen Weg befahren? Weiß eine Person das vorab nicht, dann könnte sie beim Lokal ankommen und trotzdem nicht hineinkommen, weil barrierefrei eben nicht gleich barrierefrei ist.
Und wir haben in Studien gesehen, dass vor allem das Design von Social Media-Kanälen ein Problem für neurodiverse oder von ADHS betroffene Personen sein kann. Diese Systeme sind so optimiert, dass sie deine Aufmerksamkeit möglichst lange binden und dich zur Interaktion animieren. Das heißt aber auch, dass es vielen Menschen sehr schwer fällt, die Dauer abzuschätzen, die sie mit dem Scrollen und Videoschauen am Mobiltelefon verbringen. Und häufig geht es ihnen danach schlechter als davor. Ist das bei dir auch so?
Vor allem aber ist das ein Problem eben für neurodiverse oder von ADHS betroffene Personen, die noch wesentlich stärker von diesen Designentscheidungen der Social Media-Unternehmen betroffen sind. Die Bedürfnisse dieser vielen Personen bleiben in KI-Systemen oder Vorschlagsalgorithmen aber häufig unsichtbar. Was kann ich nun dagegen tun? Genau das ist meine große Forschungsaufgabe.
Ich frage mich, wie wir Systeme so bauen können, dass sie zwar leistungsfähig sind, aber gleichzeitig zugänglich für möglichst viele Menschen und ihnen dabei auch nicht schaden. Zum Beispiel gibt es schon mehrere Initiativen, die Daten von unterrepräsentierten Gruppen sammeln und für Trainingsdatensätze zur Verfügung stellen.
Oder sie führen Datensätze zusammen, die gemeinsam ein wesentlich vollständigeres Bild bauen als bisher. Und wir arbeiten intensiv daran, die technische Seite der Algorithmen und KI-Systeme inklusiver zu machen. Wir möchten sie so bauen, dass sie sich an den Menschen anpassen und nicht umgekehrt. Aber das ist für mich nicht nur ein technisches Problem, sondern vor allem auch ein gesellschaftliches Thema. Es geht um Designentscheidungen, die Unternehmen treffen. Und sie müssen immer stärker in die Verantwortung genommen werden, damit wir irgendwann wirklich wunderbare Werkzeuge haben, die unser Leben erleichtern.
