En algoritme kan lese tusen CV-er på sekunder. Den kan også gjøre en svak vurdering av tusen mennesker på sekunder. Det er nettopp derfor AI Act regler treffer rekruttering hardere enn mange andre deler av virksomheten. Når KI påvirker hvem som får en samtale, et avslag eller et jobbtilbud, påvirker den menneskers muligheter direkte.
Dette handler ikke om å skru av all teknologi. Det handler om å slutte å late som om raskere sortering automatisk er bedre rekruttering. Dere må kunne forklare hva systemet gjør, hvilke data det bruker, hvem som følger med – og hva dere gjør når vurderingen er feil.
Hva er AI Act regler i rekruttering?
EUs AI Act er et regelverk som deler KI-systemer inn etter risiko. Jo større konsekvens systemet kan ha for mennesker, desto strengere krav. KI brukt til rekruttering og arbeidsliv vil ofte falle i kategorien høyrisiko.
Det gjelder blant annet systemer som brukes til å annonsere eller målrette stillinger, sile søknader, rangere kandidater, analysere intervju, vurdere tester eller påvirke beslutninger om ansettelse og arbeidsforhold. Det avgjørende er ikke hva leverandøren kaller løsningen. Det avgjørende er hva den faktisk brukes til.
En chatbot som svarer på praktiske spørsmål om søknadsfrister er noe helt annet enn et system som vurderer om kandidaten virker egnet. Et verktøy som bare transkriberer et intervju, er heller ikke nødvendigvis høyrisiko. Men begynner det å trekke slutninger om personlighet, motivasjon eller sannsynlighet for å lykkes, er dere inne på et langt mer regulert område.
For norske virksomheter kommer regelverket inn gjennom EØS. Tidslinjen avhenger av hvilke deler av forordningen det gjelder og hvordan den innlemmes i norsk rett. Men å vente på siste formelle dato er dårlig strategi. Systemene dere velger, dataene dere samler inn og avtalene dere inngår nå, bestemmer hvor krevende oppryddingen blir senere.
Rekrutterings-KI er ikke nøytral fordi den virker objektiv
Mange rekrutteringssystemer selges med et løfte om mindre magefølelse. Det kan være riktig. Men en modell erstatter ikke skjønn med sannhet. Den erstatter ofte synlig skjønn med skjønn som er vanskeligere å se.
Hvis et system er trent på historiske ansettelser, kan det lære mønstre fra tidligere valg. Kanskje har virksomheten konsekvent ansatt folk fra enkelte skoler, arbeidsgivere eller nettverk. Kanskje har språk, alder, pauser i CV-en eller formuleringer i søknaden fått for stor betydning. Modellen trenger ikke kjenne kjønn eller etnisitet for at resultatet likevel kan slå skjevt ut.
Videoanalyse er et tydelig eksempel. Å la en modell tolke ansiktsuttrykk, tonefall eller blikkontakt som tegn på kompetanse eller personlighet, høres effektivt ut helt til dere spør: Hva er den faglige dokumentasjonen? Hvordan fungerer vurderingen for kandidater med ulik kultur, funksjonsvariasjon eller kommunikasjonsstil? Og kan en kandidat faktisk utfordre konklusjonen?
Det holder ikke å svare at «systemet tar ikke beslutningen». Hvis mennesket i praksis bare godkjenner en poengsum eller en rangering, er kontrollen for svak. Menneskelig tilsyn betyr at noen har tid, kompetanse og mandat til å forstå vurderingen – og til å overstyre den.
Dette må dere ha kontroll på før KI påvirker utvelgelsen
For høyrisikosystemer stiller AI Act krav til blant annet risikostyring, datakvalitet, logging, dokumentasjon, menneskelig tilsyn, nøyaktighet og sikkerhet. Det høres juridisk ut. I rekruttering er det ganske konkret.
Først må dere kartlegge hvor KI faktisk brukes. Ikke stopp ved HR-systemet. Se på leverandører av tester, intervjuplattformer, annonseverktøy, CV-screening og generative KI-verktøy som ansatte bruker på egen hånd. En prosess kan være full av automatiserte vurderinger selv om ingen har kjøpt «et KI-rekrutteringssystem».
Deretter må dere definere formålet presist. «Finne de beste kandidatene» er for vagt. Skal systemet prioritere søknader etter en konkret sertifisering? Foreslå spørsmål basert på krav i rollen? Oppsummere et intervju? Jo mer konkret formålet er, desto enklere er det å vurdere om dataene er relevante og om resultatet kan forklares.
Dere må også avklare rollefordelingen med leverandøren. Den som utvikler systemet, har ansvar for noe. Den som tar det i bruk, har ansvar for noe annet. Som arbeidsgiver eller rekrutteringspartner kan dere ikke gjemme dere bak en leverandørpresentasjon når kandidaten spør hvorfor hun ble rangert lavt. Dere må vite hvilke begrensninger løsningen har, hvordan den er testet og hva den ikke bør brukes til.
Til slutt trenger dere en faktisk kontroll før systemet påvirker noen. Ikke en rutine i en mappe. En kontroll som virker når en kandidat får et resultat som ikke gir mening. Det betyr tydelige eskaleringspunkter, kvalifiserte mennesker og dokumentasjon av hva som ble vurdert.
Kandidaten skal ikke måtte gjette
Åpenhet er ikke bare et krav som skal krysses av. Det er forskjellen på en prosess kandidaten kan stole på, og en svart boks kandidaten aldri får svar fra.
Kandidater bør få vite når KI brukes, hva den brukes til og hvordan de kan be om menneskelig gjennomgang. Språket må være forståelig. «Automatisert beslutningsstøtte basert på proprietære modeller» forklarer ingenting. Si heller om verktøyet oppsummerer svar, rangerer mot definerte kriterier eller foreslår hvilke profiler som bør vurderes videre.
Dette må også ses sammen med personvernreglene. AI Act erstatter ikke GDPR, arbeidsmiljøloven eller forbudet mot diskriminering. Personopplysninger skal fortsatt ha et tydelig formål, et lovlig grunnlag og en begrenset lagringstid. En KI-løsning blir ikke lovlig bare fordi den er populær, og samtykke løser ikke alt i et maktforhold mellom arbeidsgiver og kandidat.
Tre spørsmål som skiller nyttig KI fra støy
Før dere tar i bruk et nytt verktøy, bør dere kunne svare ærlig på tre spørsmål.
For det første: Hvilken beslutning blir faktisk bedre? Hvis svaret bare er at prosessen går fortere, er det ikke nok. Fart har verdi når den gir kandidaten raskere svar og ansettende leder bedre grunnlag. Fart har mindre verdi når den bare lar dere avslå flere uten å forstå hvorfor.
For det andre: Kan dere forklare resultatet til kandidaten? Ikke alle tekniske detaljer, men den reelle logikken. Hvilke kriterier ble vektlagt? Hvilke data var relevante? Hvem så på vurderingen? Hvis dere ikke kan forklare det uten å peke på leverandørens hemmelige modell, bør systemet ikke avgjøre hvem som går videre.
For det tredje: Hva skjer når systemet tar feil? Alle systemer tar feil. Det viktige er om feilen oppdages, kan korrigeres og får konsekvenser for videre bruk. En god prosess gir kandidaten en vei inn igjen. Den lar ikke en score bli en endelig dom.
AI Act regler krever kompetanse, ikke bare innkjøp
AI Act stiller også krav til tilstrekkelig KI-kompetanse hos dem som bruker systemene. Det betyr ikke at alle som intervjuer må bli dataforskere. Det betyr at de må forstå systemets rolle, begrensninger og risiko.
En rekrutterer bør for eksempel vite forskjellen på å bruke KI til å skrive et førsteutkast til en annonse og å bruke KI til å vurdere menneskers egnethet. En ansettende leder bør vite at en kandidatpoengsum ikke er et faktum. En HR-leder bør kunne stille leverandøren spørsmål som faktisk avslører om løsningen tåler innsyn.
Hos Mandag.ai er prinsippet enkelt: Ingen blir valgt bort av en maskin. Teknologi kan gi et bedre utgangspunkt, finne mønstre og gjøre informasjon tilgjengelig. Men kandidaten skal kunne se vurderingen som gjelder dem, og et menneske skal stå ansvarlig for beslutningen. Det er ikke tregere. Det er slik dere unngår å bygge en rask prosess som ingen kan stole på.
Den beste forberedelsen er derfor ikke å samle flest mulig KI-verktøy. Det er å rydde i hva dere vil bruke dem til. Når dere kan vise kandidaten hva som skjedde, hvorfor det skjedde og hvem som tar ansvar, har dere ikke bare kommet nærmere regelverket. Dere har kommet nærmere en rekrutteringsprosess folk faktisk vil delta i.
