Brugen af kunstig intelligens i den offentlige sektor kan føre til alvorlig diskrimination

Løbende test af beregningsmodellerne og øget grad af gennemsigtighed er vejen frem, mener jurist.

16.03.2021

CSR.dk

Institut for Menneskerettigheder konkluderer i en ny rapport, at der i forbindelse med brugen af kunstig intelligens i den offentlige sektor, kan opstå en risiko for alvorlig diskrimination.

Det skriver HK.

”Forbuddet mod diskrimination er en af de mest grundlæggende menneskerettigheder, vi har. Derfor er det også meget problematisk, at den her risiko for diskrimination er til stede i kommunernes sagsbehandling”, siger Marya Akhtar, der er jurist og chefkonsulent på Institut for Menneskerettigheder.

Læs også: Menneskehandel til tvangsarbejde finder sted i Danmark, men bagmænd dømmes ikke

Risikoen for diskrimination finder sted, når de profileringsmodeller der eksempelvis beregner en borgers ret til en bestemt offentlig ydelse, bygger på f.eks. etnicitet eller køn.

For at komme risikoen for diskrimination til livs ude i kommunerne, anbefaler Marya Akhtar, at alle offentlige myndigheder, der bruger profileringsmodellerne, forpligter sig til at teste løbende for mulig diskrimination i modellernes vurderinger.

Samtidig er der brug for en højere grad af gennemsigtighed, som man ser i blandt andet Helsinki og Amsterdam. Her har kommunerne en oversigt over brugen af kunstige intelligenser frit tilgængelige på deres hjemmesider.

- MTN

Dansk Standard

Sponseret

DSB anvender ISO 14001 til at skabe struktur på deres arbejde med bæredygtighed

Rambøll A/S

Sponseret

Final Call: ESRS Deep-dive webinar

Relateret indhold

25.04.2025CSR.dk

Flere whistleblower-alarmer er en god nyhed

24.04.2025BSR

Sponseret

Earth Day: Centering Health Equity in Climate Action

24.04.2025Red Barnet

Sponseret

Partnerskab med socialt ansvar: Brøndby IF og Red Barnet viser vejen

10.04.2025Læger uden Grænser

Sponseret

Partnerskaber med Læger uden Grænser kan styrke den globale sundhed

08.04.2025CSR.dk

Kampagne vil gøre op med giftig alkoholkultur

08.04.2025Lübech Living ApS

Sponseret

De bedste 15.000 kr. Lübech Living har brugt

04.04.2025CSR.dk

Naturfrisk Group kan se at Cola-boykot rammer B2B-markedet senere: Restauranter og caféer ser mod alternativer

28.03.2025Elis Danmark A/S

Sponseret

Hjælp til familier, der har børn med livstruende sygdomme

Jobmarked

Se alle

Hold dig opdateret med CSR.dk

Tilmeld dig nyhedsbrevet og følg med i alt som rører sig indenfor ESG og bæredygtig udvikling Nyhedsbrevet kommer kun to gange ugentligt. Herudover sender vi dig relevante temaer og spændede events.

Se flere temaer

Events

Se alle