Diskriminierende Algorithmen: Eidgenössische Kommissionen fordern an Konferenz gerechte und transparente KI
Bern, 18.11.2025 — Die Eidgenössische Kommission für Frauenfragen EKF und die Eidgenössische Kommission gegen Rassismus EKR beleuchten an ihrer Konferenz vom Dienstag, 18. November 2025 in Bern rassistische und geschlechtsspezifische Diskriminierung im Kontext von Künstlicher Intelligenz. Dabei präsentieren die Kommissionen ein von ihnen in Auftrag gegebenes Rechtsgutachten und stellen Empfehlungen an Politik, Verwaltung und Wirtschaft vor. Bundesrätin Elisabeth Baume-Schneider unterstrich in ihrer Eröffnungsrede die Bedeutung der Thematik.
Algorithmische Systeme werden teilweise in sehr sensiblen Bereichen eingesetzt, etwa bei der automatisierten Auswertung von Bewerbungen, in der Steuerveranlagung oder bei der biometrischen oder medizinischen Bilderkennung. Das birgt Risiken. Technologien, die auf Künstlicher Intelligenz basieren, reproduzieren bestehende gesellschaftliche Ungleichheiten und haben ein hohes Diskriminierungspotenzial. Heute ist wissenschaftlich klar belegt, dass das Risiko von algorithmischer Diskriminierung – sei es auf Basis von Merkmalen wie Geschlecht, Herkunft oder Lebensform – real ist. Solche Diskriminierungen zeigen sich etwa, wenn KI-Systeme darüber entscheiden, wer Anrecht auf einen Kredit hat, wer zum Bewerbungsgespräch eingeladen wird oder wer Sozialversicherungsleistungen beziehen darf.
Die beiden eidgenössischen Kommissionen haben sich dem Themenkomplex der rassistischen und geschlechtsspezifischen Diskriminierung durch algorithmische Systeme angenommen und ziehen mit der Konferenz ein erstes Zwischenfazit. Eröffnet wurde der Anlass von Bundesrätin Elisabeth Baume-Schneider. Sie unterstrich die Wichtigkeit, die Risiken von algorithmischen Systemen ernst zu nehmen und Rahmenbedingungen für eine diskriminierungsfreie KI zu fördern. Das von Professorin Nadja Braun Binder (Universität Basel) und Professor Florent Thouvenin (Universität Zürich) präsentierte Rechtsgutachten zeigt auch in der Schweiz grossen Handlungsbedarf auf, um Menschen effektiv vor algorithmischer Diskriminierung zu schützen.
Gestützt auf das Gutachten formulieren die beiden Kommissionen Empfehlungen, die sich in erster Linie an die Politik, aber auch an Verwaltung, Wirtschaft und die Forschung richten. Die Kommissionen fordern den Bundesrat und das Parlament dazu auf, sich zu einer diskriminierungsfreien KI zu bekennen. Der Schutz vor algorithmischer Diskriminierung soll in Politik und Verwaltung höchste Priorität erhalten. Die Arbeiten des Bundes sollen durch einen ständigen Beirat begleitet und die entsprechenden Ressourcen bereitgestellt werden. Neben der Forderung, ein allgemeines Gleichbehandlungsgesetz zu schaffen, umfassen die Empfehlungen auch Anpassungen im bestehenden Datenschutzrecht, die Schaffung einer Beratungsstelle und öffentlicher Verzeichnisse sowie Bildungsmassnahmen und die Förderung diskriminierungsfreier KI in Wirtschaft und Verwaltung. Darüber hinaus sollen interdisziplinäre Forschungsprojekte zur Verhinderung von algorithmischer Diskriminierung gefördert werden.
Die beiden Kommissionen werden das Thema auch im Hinblick auf den KI-Gipfel («AI Summit»), der voraussichtlich 2027 in der Schweiz stattfinden wird, eng begleiten und zu gegebenem Zeitpunkt über ihre weiterführenden Aktivitäten informieren.
Weiterführende Informationen:
Die Empfehlungen, das Gutachten sowie eine Kurzfassung sind hier abrufbar:
18. November 2025: «Algorithmische Diskriminierung: Politische Verantwortung»
www.ekf.admin.ch
www.ekr.admin.ch