Den kunstige intelligens (AI) er over os, og for nylig kunne man i TV2 Nyhederne høre, at andelen af virksomheder, der anvender AI i HR-funktioner, er gået fra 2% til 32% på bare 2 år.

I forbifarten kan man måske overse, at reglerne om persondata og forskelsbehandling med videre, også og stadigvæk skal overholdes, også når vi får hjælp af kunstig intelligens.

Vær obs på persondata og diskrimination
En del overser formentligt eksempelvis det princip, der følger af den allerede gældende persondataforordning om, at man har en grundlæggende ret til at ikke blive udsat for en afgørelse, eksempelvis afslag på en jobansøgning, der alene er baseret på automatisk behandling.

I det hele taget er netop persondata et område, man bør have betydelig opmærksomhed på, når man anvender kunstig intelligens i HR-situationer. Det gælder både når man prompter (giver systemet en instruks), og i særdeleshed hvis man uploader dokumenter. Det sidste bør man som udgangspunkt helt afholde sig fra, hvis dokumenterne indeholder personhenførbare oplysninger.

Diskrimination og bias er svagheden ved AI
Mindre oplagt, men lige så vigtigt er det, at man som virksomhed er opmærksom på, at man kan risikere at udsætte berørte for utilsigtet diskrimination, hvis man ukritisk anvender kunstig intelligens uden menneskelig supervision.

Skal man eksempelvis besætte en stilling, som i virksomheden historisk har været meget kønsdomineret, risikerer man at lære sit AI system, at det primært er repræsentanter for det pågældende køn, der er relevante ansøgere, og dermed negativt forskelsbehandle repræsentanter for det andet køn.

Kunstig intelligens lærer af tidligere beslutningsdata og genkender mønstre. Derfor indgår fordomme og skævheder, som har præget eksempelvis ansættelser hidtil, i systemets mønstergenkendelse. Hvis historiske data for eksempel, også ubevist eller indirekte, favoriserer en bestemt gruppe, risikerer systemet at fastholde eller endda forstærke denne tendens, når den vurderer nye kandidater.

EU vedtog AI-forordning i 2024
For blandt andet at imødegå nogen af de ovenstående udfordringer, vedtog EU allerede i 2024 en AI-forordning, som efterfølgende træder i kraft i etaper.

Forordningen er omfattende, og inddelt i typer af AI systemer, risikoklasser og personens rolle i AI universet, hvor det eksempelvis er stor forskel på, om man er udbyder af et AI system eller ”idriftsætter” (bruger), ligesom det har betydning, om man anvender AI til planlægning af belægning, eller til at assistere indgribende beslutninger på HR-området. For sidstnævnte indeholder forordningen kun få reguleringer.

Hvis du anvender AI til HR-formål
En virksomhed, som anvender AI til HR-formål såsom ansættelse, overvågning og kontrol, beslutning om forfremmelse, beslutning om afskedigelse og lignende indgribende beslutninger, vil i forordningen blive klassificeret som ”Idriftsætter” af ”et højrisikosystem”; En idriftsætter af et højrisiko AI-system bør notere sig følgende:

Fra februar 2025
Pligt til sikre, at medarbejdere, der er involveret i driften eller anvendelsen af et AI-system, har de fornødne færdigheder.

Pligten er ikke nærmere defineret, eller i øvrigt strafbelagt, så indtil videre er det op til virksomheden selv at afgøre, hvad der, for den pågældende virksomhed, er relevant.

Som minimum bør virksomheden overveje hvilken kontekst eventuelle AI-systemer anvendes i, hvilke personer eller grupper systemerne anvendes på samt om medarbejderne har den nødvendige tekniske viden, erfaring og uddannelse.

Fra februar 2026
Fra februar 2026 træder de fleste regler om højrisikosystemer, herunder eksempelvis regler om grundlæggende rettigheder på HR-området, i kraft. Fra den dato har virksomheder, der anvender højrisikosystemer, en række pligter.

Hvad der mere præcist ligger i de enkelte pligter, forventer vi større klarhed over, efterhånden som vi nærmer os 1. februar 2026. Vi orienterer løbende, når der kommer nyt.

Advokat

Jesper Juhlin

Tlf. +45 35 24 80 56

[email protected]