- Kommentare
- App »Lensa«
Mobbing statt Akzeptanz
Die Bildbearbeitungs-App »Lensa« diskriminiert Menschen mit Behinderungen
Die Anwendungsbereiche von Künstlicher Intelligenz (KI) sind riesig und wachsen quasi täglich. Neben einem enormen Potenzial im Gesundheitsbereich, wo sie in der Lage ist, riesige Datenmengen zu analysieren, Muster zu erkennen sowie Diagnosen und Medikamente zu verbessern, umfasst sie noch viele weitere Felder. So zeichnet sich die KI zum Beispiel durch ihre vielseitige Einsetzbarkeit in Verkehrssystemen, bei der Bekämpfung von Desinformation, in der Cybersicherheit und bei Websuchen aus.
Aber: In all den Bereichen, in denen die verhältnismäßig neuartige Technologie von Vorteil sein kann, bildet sie nur das Moralverständnis und das gesellschaftspolitische Wissen ihres Urhebers ab. Und dies ist bewusst nicht gegendert, weil es in dieser männerdominierten Tech-Branche sicherlich an einem besonders fehlt: an Diversität.
Lassen Sie mich das an einem aktuellen Beispiel erklären: Seit einigen Wochen ist die App »Lensa« in den Appstore-Charts. Lensa wird millionenfach runtergeladen, obwohl die Benutzung sogar kostenpflichtig ist. Mithilfe von KI bearbeitet sie Bilder und Gesichter so, dass daraus »magische Avatare« entstehen – also verschiedene Szenen und kunstvolle Positionen der Bilder, die sie zur Verfügung hat. Welche Bilder man in den Algorithmus speist, kann man selbst entscheiden und mit manchen funktioniert die Software besser als mit anderen. Das Ganze wird dann noch mit reiner, faltenloser Haut optimiert. Was daran problematisch ist?
Neben dem äußerst fragwürdigen Motiv der Selbstoptimierung nach westlichem Vorbild bereitet mir noch etwas anderes Kopfzerbrechen. Denn ich habe die App selbst ausprobiert und Bilder von mir inklusive meiner fehlenden rechten Hand mit in den Bearbeitungsprozess gefüttert. Ja, richtig gehört: Ich habe rechts keine Finger. Bei allen Fotos entschied sich Lensa dazu, mir schlicht eine zweite Hand zu verpassen und – um dies noch zu toppen– fügte sie mir sogar einen sechsten Finger hinzu. Oder anders gesagt: Der Algorithmus war mit meiner Behinderung vollkommen überfordert. Andere Nutzer*innen sprechen davon, dass Lensa sie grundlos sexualisiert und aus gewöhnlichen Fotos laszive Nacktbilder erstellt. Auch Rollstühle werden nicht erkannt.
Also keine Behinderung und viel Brust. Und da man am Anfang ein Geschlecht auswählen muss, werden bei der weiblichen Option elfenhafte Gemälde erstellt oder Prinzessinnen im Märchenwald platziert. Beim männlichen Pendant passiert so etwas nicht. Dort werden coole Action-Figuren produziert, die in ihren futuristischen Weltraumanzügen unglaublich mächtig aussehen. Selbstverständlich ohne nackte Haut. Und, obwohl ich damit innerlich fast gerechnet hatte, war ich schockiert. Wie konnten wir nur so wenig mitgedacht werden?
Es geht nicht darum, KI als etwas abzustempeln, das wir besser wieder abschaffen sollten. Aber wir müssen definitiv ein Auge draufhaben, dass wir damit bestimmte Verzerrungen und Stereotype extrem verstärken, anstatt eine gerechtere Welt herzustellen. Denn Letzteres sollte ja das Ziel sein. Oder etwa nicht?
Weitere Beispiele zeigen, wo die Algorithmen der KI bereits an ihre Grenzen gestoßen sind und wo folglich Handlungsbedarf besteht. Unter anderem wurden Schwarze Menschen noch 2021 von einem Facebook-Algorithmus als Affen fehlerkannt. Sowas kann nur passieren, wenn nicht genügend People of Color im Entwicklungsteam sitzen.
Dabei liegt die Lösung auf der Hand: Lasst uns die Tech-Branche diversifizieren und uns unterschiedliche Hautfarben, Menschen mit Behinderungen und auch eine Vielfalt an Geschlechtern mit ins Boot holen. Denn darin sehe ich die einzige Möglichkeit, dass wir nicht die Fehler der Vergangenheit wiederholen. Dann passiert es auch nicht nochmal – wie noch 2019 –, dass Sprachsteuerungssysteme wie Alexa nicht auf Frauenstimmen reagieren. Denn diese machen bekanntlich ungefähr die Hälfte der Weltbevölkerung aus.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
