KI, Ungleichheit und Datenmacht

Künstliche Intelligenz (KI) scheint, spätestens seit der populären Nutzung von ChatGPT, in der öffentlichen Debatte ubiquitär zu sein. Die Diskussionen um Chancen und Risiken spannen den Bogen von die Menschheit bedrohenden Dystopien bis hin zu einem unkritischen KI-Hype. Die AG möchte eine realistische Perspektive auf KI, Ungleichheit und Datenmacht einbringen. Viele KI-Systeme bergen ein Diskriminierungspotenzial, das skaliert, wenn sie in immer mehr Bereichen des Alltags eingesetzt werden, wie z. B. bei der Auswahl von Bewerber*innen, der Vergabe von Krediten, Studienplätzen und Wohnungen oder der Inhaltsmoderation in sozialen Medien. Ein besonderer Fokus liegt auf dem Zusammenspiel zwischen Datafizierung, Datenmacht und dem heutigen Erfolg von KI. Es wird aufgezeigt, dass die bisherigen rechtlichen Instrumente des Antidiskriminierungsrechts und des Datenschutzrechts nicht hinreichend für die Risiken von KI gerüstet sind. Abschließend werden die unionsrechtlichen Vorgaben des KI-Verordnungsvorschlags und des Digital Services Acts sowie deren nationale Implikationen diskutiert.