Algorithmische und KI-basierte System werden von Behörden und Unternehmen für Prognosen, Empfehlungen oder Entscheidungen eingesetzt, so AlgorithmWatch in einem Gastbeitrag auf der Plattform humanrights.ch. Ihr Einsatz könne zu Diskriminierungen führen und bestehende Diskriminierungsmuster verstärken. Das heutige Diskriminierungsverbot in der Schweiz reiche nicht aus.
Von Menschen gemachte Algorithmen könnten die in einer Gesellschaft bereits existierenden Diskriminierungsmuster widerspiegeln, so der Beitrag. Die verwendeten Daten, der Algorithmus selbst oder die Art und Weise seiner Verwendung könnten dafür Gründe sein. So seien in den Niederlanden aufgrund eines selbstlernenden Algorithmus zehntausende Familien mit geringem Einkommen oder Migrationshintergrund fälschlicherweise aufgefordert worden, über Jahre erhaltene Kindergelder zurückzuzahlen.
Der bestehende Diskriminierungsschutz in der Schweiz biete keinen wirksamen Schutz vor Diskriminierung durch algorithmische Systeme, so der Beitrag weiter. So fehle unter anderem ein Verbot für Private, würden algorithmische Systeme doch insbesondere von privaten Unternehmen entwickelt und eingesetzt.
Der Bundesrat habe Ende 2023 informiert, dass er im Rahmen der bereits geplanten Analyse des Regulierungsbedarfs von Künstlicher Intelligenz bis Ende 2024 auch algorithmische Diskriminierung berücksichtigen werde, so der Bericht weiter. Es bleibe jedoch abzuwarten, ob und welche Lösungen vorgeschlagen würden.
