Seit Mai 2018 ist Bernhard Franke kommissarischer Leiter der Antidiskriminierungsstelle des Bundes. In diesem Interview erklärt er unter anderem, welche Rolle digitale Technologien bei der Gleichbehandlung der Geschlechter und marginalisierter Gruppen spielen und warum jede*r Einzelne eine Mitverantwortung trägt.

Was sind Ihrer Meinung nach die größten Hürden in Bezug auf die Gleichbehandlung unterschiedlicher gesellschaftlicher Gruppen im digitalen Raum?

Es gibt natürlich Hürden beim technischen Zugang. Bei der Antidiskriminierungsstelle des Bundes gehen regelmäßig Beratungsanfragen von Menschen ein, die sich von ganz elementaren Dienstleistungen wie Warenbestellungen oder Bankdienstleistungen, ausgeschlossen sehen, weil diese für sie aufgrund ihres Alters oder einer Behinderung nicht oder nur schwer nutzbar sind, wenn sie rein digital angeboten werden. Das hat sich gerade in der Pandemie als Problem erwiesen. Da gibt es einen Leidensdruck, den man nicht unterschätzen sollte. Und das führt dazu, dass diese Menschen den digitalen Raum nicht als einen Raum der Gleichbehandlung und Diskriminierungsfreiheit erleben.

Das ist nun kein Argument gegen die Digitalisierung und für Maschinenstürmerei. Aber es ist eine Aufforderung, uns in diesem Transformationsprozess auch immer wieder bewusst zu machen, dass es Menschen gibt, die nicht mitzukommen drohen und die besondere Bedürfnisse haben: Eine Diskriminierung kann nämlich auch in vordergründig gleichen Anforderungen bestehen, die für manche aber nur schwer erfüllbar sind. Wir dürfen also Lösungen nicht nur in der Standardisierung, in der Erkennung von Mustern suchen, sondern wir brauchen auch immer den Blick auf die Ausnahme vom Muster, den Respekt für das Individuelle und die Akzeptanz für Minderheiten, beispielsweise für Menschen mit Behinderung. Denn nicht repräsentiert, nicht mitgedacht zu sein – ist eine ganz entscheidende Hürde für volle Teilhabe.

Vier von fünf Menschen in Deutschland (78 %) sind der Auffassung, dass die Diskriminierung im Internet in den letzten Jahren zugenommen hat. Besorgt Sie diese Entwicklung? Und was können wir dagegen tun?

 Diese Zahl spricht dafür, dass die Menschen ein ganz gutes Gefühl für das in Teilen aggressiver gewordene gesellschaftliche Klima haben, das sich eben auch im Internet zeigt. Ja, das muss uns besorgen. Wir erleben nicht nur eine Zunahme von Hassrede, sondern bei uns in der Antidiskriminierungsstelle des Bundes verzeichnen wir etwa seit dem Jahr 2015 einen sprunghaften Anstieg der Anfragen zu Diskriminierung, vor allem zu rassistischer Diskriminierung. Das hat mit höherer Sensibilität zu tun, aber längst nicht nur. Es gibt auch in Teilen der Öffentlichkeit eine Enthemmung, ganz ungeniert menschenverachtende Positionen zu formulieren und sogar ein Recht auf Ausgrenzung in Anspruch zu nehmen. Dem müssen wir entschieden entgegentreten. 

Zur Bekämpfung von Hassrede sind ja in den letzten Jahren eine ganze Reihe von Maßnahmen ergriffen worden, gerade mit dem Ziel, die Plattformbetreiber stärker in die Pflicht zu nehmen. Der Staat selbst und die Justiz dürfen sich dabei aber auch nicht aus der Verantwortung stehlen. Und zugleich muss Diskriminierung im Netz nicht isoliert, sondern im gesellschaftlichen Kontext betrachtet werden. Wir müssen die Resilienz der Gesellschaft gegen Ausgrenzung und Diskriminierung stärken, indem wir noch viel entschlossener der Zivilgesellschaft unter die Arme greifen, die sich überall im Land gegen gruppenbezogene Menschenfeindlichkeit und für einen respektvollen zwischenmenschlichen Umgang einsetzen. Gleichzeitig dürfen wir nicht vergessen, dass die Digitalisierung marginalisierten Gruppen auch große Chancen eröffnet hat. Die Möglichkeiten der Vernetzung und gegenseitigen Stärkung und auch die Chancen, der eigenen Stimme Gehör zu verschaffen, sind durch soziale Medien und eine digitalisierte Kommunikation so groß wie nie zuvor. Einen bedeutenden Teil seines Fortschritts verdankt der Kampf gegen Diskriminierung in den letzten Jahren der Digitalisierung.

Die Informatik prägt unsere digitale Lebens- und Arbeitswelt. Dabei ist die Informatik selbst von Männern dominiert. So arbeiten viermal mehr Männer in IT-Berufen als Frauen. Der Frauenanteil lag 2021 gerade einmal bei 17,5 %. Bei der Frage, ob dies problematisch sei, scheint Deutschland zwiegespalten. Zwei von fünf Menschen (42 %) halten dies nicht für problematisch, ebenso viele (42 %) sind der gegenteiligen Auffassung. 15 % sagen, sie können diese Frage nicht beantworten. Wie stehen Sie dazu?

Die starke Männerdominanz im IT-Bereich ist aus zweierlei Gründen durchaus problematisch. Zum einen zeigt sie, dass die Zugangsbedingungen nach wie vor nicht gleich sind. Das liegt gerade in naturwissenschaftlich-technischen Branchen an stereotypen Berufsbildern und Rollenklischees, und daran wird ja vom Girls Day bis hin zu diversen Initiativen für Frauen in IT-Berufen gearbeitet. Wie wir in unserer Beratung immer wieder sehen, liegt es aber durchaus auch an handfesten Diskriminierungserfahrungen, die insbesondere Frauen mit Kindern oder pflegebedürftigen Angehörigen im Beruf und beim Zugang zum Job nach wie vor machen. Das ist nicht hinzunehmen und deswegen müssen wir den Diskriminierungsschutz weiter stärken und modernisieren: Im Koalitionsvertrag ist eine Reform des Allgemeinen Gleichbehandlungsgesetzes (AGG) vorgesehen und das ist gut so.

Der zweite Aspekt, der die Männerdominanz problematisch macht, hängt aber damit zusammen, was gerade die IT-Berufe leisten: Wenn eine Branche, die unsere Zukunft gestalten soll,  das Geschlechterverhältnis in der Gesellschaft so wenig widerspiegelt, dann müssen wir uns schon fragen, ob sie die richtigen Antworten für die Entwicklung dieser Gesellschaft geben kann. Die Welt lässt sich nun mal nicht allein aus männlicher Perspektive verstehen, da übersieht man zwangsläufig immer mehr als die Hälfte. 

Die Hälfte der Menschen in Deutschland (50 %) glaubt, dass digitale Technologien wie das Internet oder Künstliche Intelligenz insgesamt zu mehr Gleichberechtigung beitragen, indem sie dabei helfen, Informationen zu sammeln und sich zu vernetzen. Teilen Sie diese Auffassung?

Wenn wir uns mal auf die Künstliche Intelligenz bzw. die automatisierten Entscheidungssysteme konzentrieren, dann ist das sicher eine Möglichkeit, aber leider keine Gewissheit. Ich sehe durchaus Chancen in der KI. Da gibt es spannende Projekte mit Gleichstellungsdaten, die versuchen, bestehende Ungleichbehandlungen offenzulegen. Aber auf der anderen Seite bestehen real beobachtbar ganz erhebliche Diskriminierungsrisiken durch KI, die das Karlsruher Institut für Technologie für uns in einer umfangreichen Expertise herausgearbeitet hat. Viele andere Analysen, z. B. die der Datenethikkommission, gehen in eine ähnliche Richtung. Technologie ist eben nicht per se objektiv, sondern kann auch bestehende Benachteiligungen reproduzieren. Amazon hat das festgestellt bei dem Versuch, in Bewerbungsverfahren für IT-Jobs auf eine KI zu setzen, die dann aber Frauen systematisch benachteiligte. Der Algorithmus hat das reproduziert, was er in der Praxis bereits vorfand.

Wir müssen also die richtigen Rahmenbedingungen schaffen, um bestehende Diskriminierungsverbote auch zukünftig durchzusetzen. Auf EU-Ebene wird der Entwurf einer Verordnung über Künstliche Intelligenz diskutiert. Hier ist aus unserer Sicht allerdings bislang die Betroffenenperspektive noch zu wenig berücksichtigt. Und auch auf nationaler Ebene muss man sich die Frage stellen, welche Regulierung nötig ist. Wir selbst arbeiten auch aktiv daran, indem wir in einem Rechtsgutachten untersuchen lassen, ob und wie das AGG für den Umgang mit KI-bezogener Diskriminierung zukunftstauglich gemacht werden muss. Und indem wir die Kapazität von Beratungsstellen stärken, Diskriminierung durch automatisierte Entscheidungssysteme zu erkennen, zu dokumentieren und die Betroffenen zu unterstützen.

Jede*r Zweite sagt, die Politik trage die größte Verantwortung für einen vielseitigen, inklusiven und demokratischen digitalen Wandel. Nur 14 % sehen die Hauptverantwortung bei den Bürger*innen. Unterschätzen die Menschen ihre eigene Rolle in einer gleichberechtigten digitalen Transformation?

Es ist ganz bestimmt richtig, dass wir alle den digitalen Wandel und damit auch unsere gemeinsame Zukunft zu einem gewissen Grad mitgestalten. Und natürlich bedeutet das eine Mitverantwortung für jede*n Einzelnen, einen Beitrag für eine gute Entwicklung in dieser Transformation zu leisten: Indem wir mithelfen, dass der Online-Diskurs nicht diskriminierend ist; indem wir kritisch hinterfragen, welche digitalen Dienste wir wofür nutzen; indem wir uns überall dort für Vielfalt und Gleichbehandlung einsetzen, wo wir es eben können. Aber letzten Endes haben die von Ihnen befragten Bürger*innen schon Recht: Ohne die richtigen Rahmenbedingungen, die die demokratisch legitimierte Politik setzen muss, wird das alles nicht gelingen. Viele folgenreiche Entscheidungen für die Gestaltung des digitalen Wandels müssen in dieser Legislaturperiode gefällt werden. Und darum ist es wichtig, dass Antidiskriminierung ein Querschnittsthema ist, das in allen Ressorts berücksichtigt wird und gerade auch in der Digitalpolitik auf die Agenda gehört.

„Es gibt auch in Teilen der Öffentlichkeit eine Enthemmung, ganz ungeniert menschenverachtende Positionen zu formulieren und sogar ein Recht auf Ausgrenzung in Anspruch zu nehmen. Dem müssen wir entschieden entgegentreten.“