KI in der Medizin

Ausgabe: 3/2021

67. Jahrgang

Diskriminierungsgefahren und Regulationsansätze bei der medizinischen Nutzung von KI

Schneider, Ingrid

Der Beitrag untersucht Diskriminierungsrisiken bei Künstlicher Intelligenz in der Medizin. Hierzu wird eine legitime Differenzierung von ungerechtfertigter Diskriminierung normativ unterschieden. Praxisbeispiele analysieren verschiedene Typen (Geschlecht, ethnischer Bias), und Gegenstandsbereiche von Diskriminierungen, darunter Neurowissenschaft, Notfallmedizin und prädiktive 'Todesalgorithmen' und betonen den Gruppencharakter von Klassifizierungen. Der Zusammenhang von sozialer Ungleichheit, Diskriminierungsrisiken und gesellschaftlicher Entsolidarisierung wird ­problematisiert. Als Regulierungsansätze behandelt der Aufsatz die KI-Ethik und professionelle Selbstregulierung, Zertifizierungsmechanismen sowie den KI-Verordnungsverschlag der Europäischen Kommission.

Tags: Diskriminierung Risiken Regulierung

The article examines risks of discrimination in the medical application of artificial intelligence. To this end, legitimate differentiation is normatively distinguished from unjustified discrimination. Using practice examples, different types (gender, race and ethnic bias), and subject areas of discrimination are analysed, including neuroscience, emergency medicine and predictive ‚death algorithms‘. Moreover, the group nature of classification, the connection between socio-economic inequality and discrimination risks as well as social desolidarisation are problematised. As regulatory approaches, the paper deals with AI ethics and professional self-regulation, certification mechanisms, and the European Commission’s AI regulation proposal.

Tags: discrimination risks regulation

Zum vollständigen Artikel | Artikel bestellen

Zurück