Rekruttere med hjelp av AI? Ikke glem reglene for personvern og diskriminering

Kunstig intelligens får en større plass i arbeidslivet, og interessen for AI-baserte rekrutteringsverktøy øker blant arbeidsgivere. Disse verktøyene kan effektivisere rekrutteringsprosessen ved å opprette stillingsannonser, gjennomgå søknader, rangere kandidater og tolke kroppsspråk i videointervjuer. Målet er effektivisering. Men arbeidsgivere må være oppmerksomme på de rettslige og etiske utfordringer dette innebærer.  

Den raske utviklingen av AI krever klare regler for ansvarlig bruk. EUs AI forordning ble vedtatt i august 2024, men er ennå ikke implementert i Norge. Inntil da må arbeidsgivere forholde seg til eksisterende lover som likestillings- og diskrimineringsloven, arbeidsmiljøloven og personvernregelverket.

Kapital har tidligere omtalt hvordan datagrunnlaget som brukes under opplæring av AI-verktøy er viktig for resultatet. Dersom verktøyet trenes på begrenset eller skjev data som gjenspeiler tidligere beslutninger/holdninger, kan AI forsterker tidligere mønstre og gjøre fremtidige vurderinger mer ensidige.

Som eksempel ble det vist til Amazon, som brukte AI til å effektivisere rekrutteringsprosessen. Algoritmen ble matet med informasjon om tidligere vellykkede ansettelser. Da datagrunnlaget hovedsakelig besto av menn, fjernet AI-systemet systematisk ut kvinnelige søkere. Slik kan AI-baserte rekrutteringsverktøy reise rettslige og etiske problemstillinger, spesielt knyttet til forbudet mot diskriminering.

Likestillings- og diskrimineringsloven forbyr diskriminering basert på kjønn, etnisitet, religion, funksjonsnedsettelse, seksuell orientering med mer. Loven gjelder på alle samfunnsområder, inkludert rekrutteringsprosesser. Når AI brukes i rekrutteringsprosesser, kan det f.eks. oppstå utfordringer knyttet til kravet om individuell tilrettelegging for arbeidssøkere med funksjonsnedsettelser. Arbeidsgivere har plikt til å aktivt identifisere behov for tilrettelegging og sikre et likeverdig tilbud til alle kandidater. Når AI tas i bruk i rekrutteringsprosesser oppstår spørsmålet om systemene klarer å oppdage og imøtekomme slike individuelle behov, og justere prosessen der det er nødvendig.

Vi må også huske på at arbeidsgiver ikke kan be om helseopplysninger i stillingsannonsen, eller på annen måte kreve at søkere oppgir slike opplysninger eller iverksette tiltak for å innhente dette. Arbeidsmiljølovens forbud mot å kreve helseopplysninger gjelder til tross for kandidatens samtykke. Unntak gjelder for helseopplysninger som er «nødvendige» for å utføre arbeidsoppgaver knyttet til stillingen. Dette må vurderes konkret ut fra stillingens art. Bakgrunnen for unntaket er at enkelte arbeidsplasser kan ha strengere krav til arbeidernes helse. Hvis dette er tilfelle, må spørsmålene rettes mot søkerens arbeidsevne, ikke generell funksjonsevne.

Formålet med regelen er å hindre urimelig utestengelse fra arbeidslivet. Samtidig illustrer den hvor komplekse og utfordrende slike vurderinger kan være.

Flere problemstillinger oppstår når AI tas i bruk. Hva hvis AI innhenter informasjon fra sosiale medier hvor kandidatens sykdomshistorikk fremgår? Er det sikkert at slik informasjon ikke påvirker rekrutteringsprosessen? Hvis en kandidat frivillig deler helseopplysninger i søknaden, så skal ikke disse vektlegges. Men er AI tilstrekkelig trent til å skille opplysningene fra annen informasjon? 

Videre har enkeltpersoner som hovedregel rett til å ikke bli underlagt en avgjørelse som utelukkende er basert på automatisk behandling, herunder profilering, som har rettslige konsekvenser for dem eller på tilsvarende måte i betydelig grad påvirker dem, jf. personvernregelverket. Dette innebærer at det kan være i strid med personvernregelverket dersom en AI-verktøy brukes til å ta avgjørelser i ansettelsesprosesser uten menneskelig innblanding.

Det er forståelig at arbeidsgivere ønsker å benytte AI for å effektivisere rekrutteringsprosessene. Vi mener også at korrekt AI-bruk kan bidra til at man velger kandidater uavhengig av personlige preferanser som kjønn, navn og så videre.

Selv om verktøyene stadig forbedres for å håndtere flere utfordringer, er det viktig å huske at de fortsatt ikke løser visse etiske og rettslige spørsmål i samsvar med lovens krav. Arbeidsgivere må derfor sikre at det gjøres menneskelig vurdering i rekrutteringsprosessen. Dette kan innebære at AI kan brukes som et verktøy for å gi anbefalinger eller rangeringer, men at faktiske avgjørelse tas av ekte personer.

Artikkelen er publisert i Finansavisen.