En kandidat blir ikke nødvendigvis valgt bort fordi hun mangler kompetanse. Hun kan bli valgt bort fordi et system har lært at tidligere ansatte med en bestemt utdanning, alder eller karrierevei oftere ble ansatt. Det er forskjellen på et mønster og et rettferdig valg. Og det er derfor bias i algoritmer ikke er et teknisk sideprosjekt for HR. Det er et spørsmål om hvem som faktisk får en sjanse.
Rekrutteringsbransjen har lenge hatt bias. Magefølelse, nettverk, prestisjeskoler og uuttalte ideer om hvem som «passer inn» har påvirket valg før noen skrev kode. Algoritmer fjerner ikke automatisk dette. De kan gjøre gamle skjevheter raskere, større og vanskeligere å oppdage.
Det betyr ikke at teknologi er problemet. Problemet oppstår når et system får påvirke mennesker uten at noen kan forklare hva det gjør, hvilke data det bygger på og hvem som taper på mønstrene det finner.
Hva bias i algoritmer faktisk betyr
En algoritme er en metode for å behandle informasjon og komme frem til en vurdering, rangering eller anbefaling. I rekruttering kan den blant annet sortere søknader, foreslå kandidater, analysere intervjusvar eller anslå lønnsnivå. Den gjør ikke vurderinger i et tomrom. Den arbeider med data mennesker har samlet inn, kategorier mennesker har laget og mål mennesker har definert.
Bias oppstår når disse valgene systematisk gir noen en fordel eller ulempe som ikke er relevant for rollen. Det kan være direkte, som når kjønn eller alder brukes i modellen. Oftere er det indirekte. Postnummer, språkbruk, fravær i karrieren eller navn på utdanningsinstitusjoner kan fungere som stedfortredere for forhold som aldri burde avgjøre om noen blir vurdert.
Det mest krevende er at en modell kan se nøytral ut på overflaten. Den trenger ikke spørre om etnisitet for å favorisere kandidater med en bestemt bakgrunn. Hvis den er trent på historiske ansettelser, kan den lære hvem virksomheten pleide å velge. Ikke hvem den burde velge nå.
Historiske data er ikke fasiten
Mange systemer blir vurdert ut fra ett spørsmål: Treffer de godt? Men treff mot fortiden er ikke nødvendigvis kvalitet. Hvis en bedrift tidligere har ansatt flest menn i tekniske roller, kan en modell lære at mannlige karriereprofiler ligner på en «god kandidat». Den kan levere resultater som virker presise, nettopp fordi den gjentar et gammelt mønster.
Det er en dårlig definisjon av suksess. Målet i rekruttering er ikke å kopiere forrige ansettelse. Målet er å finne mennesker som kan lykkes i rollen dere skal fylle.
Her må dere skille mellom data som dokumenterer relevant erfaring, og data som bare speiler hvem som tidligere fikk tilgang. Antall år med et bestemt verktøy kan være relevant i noen roller. Et avbrudd i CV-en er det sjelden. Samme gjelder arbeidssted, studieår og formuleringer i en søknad. De kan fortelle noe, men ikke alltid det dere tror.
En god modell måles derfor ikke bare på hvor raskt den rangerer. Den måles på om rangeringen er relevant, etterprøvbar og forsvarlig. Hvis dere ikke kan forklare hvorfor kandidat A ble anbefalt fremfor kandidat B, har dere ikke fått et bedre beslutningsgrunnlag. Dere har bare fått en svart boks med høyere tempo.
Hvor skjevhetene kommer inn
Bias kan bygges inn før algoritmen i det hele tatt er slått på. Det skjer når stillingskravet er uklart, når dere velger feil data, eller når dere ber systemet optimalisere for noe dere ikke har definert godt nok.
Tenk på en salgsrolle. Hvis oppgaven er å finne kandidater som ligner på selskapets tre beste selgere, kan systemet lære seg trekk som ikke har noe med salgsevne å gjøre. Kanskje alle tre kom fra samme bransje. Kanskje de jobbet i samme by. Kanskje de ble ansatt av samme leder. En modell ser korrelasjoner. Den forstår ikke av seg selv hvilke som er tilfeldige, og hvilke som faktisk betyr noe.
Språkmodeller skaper en annen risiko. De kan oppsummere intervjuer, skrive kandidatvurderinger og trekke frem mønstre i store mengder tekst. Men tekst bærer menneskelige antakelser. En kandidat som beskrives som «tydelig» kan tolkes annerledes enn en kandidat som beskrives som «bestemt», selv når prestasjonen er lik. Hvis systemet forsterker slike vurderinger, flytter ikke biasen seg bare inn i teknologien. Den blir også vanskeligere å se.
Fart er ikke en unnskyldning
Det finnes et reelt problem teknologi kan løse: Rekrutterere og ledere bruker for mye tid på administrasjon, og kandidater får for lite innsikt. Et system kan stille de samme relevante spørsmålene til alle, samle svar på en ryddig måte og hjelpe mennesker med å se informasjon de ellers ville oversett.
Men lik behandling er ikke alltid rettferdig behandling. Samme spørsmål til alle er et godt utgangspunkt når spørsmålene måler det rollen krever. Det er dårlig praksis hvis formatet stenger ute kandidater som kunne løst jobben godt, men som ikke presterer best i akkurat den typen intervju.
Det kommer an på rollen, kandidatgruppen og hva dere faktisk prøver å finne ut. En utvikler, en økonomisjef og en markedsleder skal ikke nødvendigvis vurderes gjennom samme mal. Standardisering skal redusere vilkårlighet. Den skal ikke gjøre rekruttering flatere enn jobben dere ansetter til.
Tre spørsmål dere må kunne svare på
Før dere tar i bruk et algoritmisk verktøy i rekruttering, bør dere kreve klare svar. Ikke en salgspresentasjon med ord som «objektiv» og «AI-drevet». Svar.
For det første: Hvilke data brukes, og hvorfor er de relevante? Leverandøren må kunne forklare hvilke opplysninger som påvirker vurderingen, og hvilke som er bevisst holdt utenfor. «Systemet ser på helheten» er ikke en forklaring.
For det andre: Hvordan blir resultatet kontrollert? Det holder ikke å teste om systemet fungerer teknisk. Dere må undersøke om bestemte grupper oftere blir rangert ned, og om årsaken faktisk er relevant for jobben. Dette må gjøres jevnlig. En modell kan endre oppførsel når datagrunnlaget eller kandidatmarkedet endrer seg.
For det tredje: Hvem tar den endelige avgjørelsen? Et system kan støtte vurderingen, men det skal ikke ha mandat til å velge bort et menneske uten menneskelig kontroll. Den som ansetter må kunne utfordre anbefalingen, se begrunnelsen og stå ansvarlig for valget.
Innsyn er testen som skiller seriøse aktører fra resten
Kandidaten har mest å tape når teknologien er uforståelig. Likevel blir kandidaten ofte den siste som får vite hva som ble vurdert. Det er bakvendt.
Hvis en kandidat har gjennomført et AI-intervju eller blitt analysert av et system, bør kandidaten få se vurderingen, premissene og dataene som ligger bak. Ikke bare en høflig oppsummering. Innsyn gjør det mulig å stille spørsmål, rette feil og forstå hvorfor prosessen fikk det utfallet den fikk.
Det skjerper også arbeidsgiveren. Når dere vet at vurderingen må tåle innsyn, blir det vanskeligere å lene seg på irrelevante signaler. Da må dere formulere hva rollen faktisk krever, og skille mellom dokumentert kompetanse og personlig preferanse.
Dette er prinsippet Mandag.ai bygger på: Teknologi skal gi kandidaten mer kontroll, ikke mindre. Ingen blir valgt bort av en maskin, og kandidaten skal ikke holdes utenfor kunnskapen som brukes til å vurdere dem. Det er ikke bare ryddig. Det gir bedre samtaler og bedre beslutninger.
Slik bruker dere teknologi uten å gjøre rekrutteringen mindre menneskelig
Start med jobben, ikke med verktøyet. Hva skal personen levere de første seks og tolv månedene? Hvilken erfaring er nødvendig fra dag én, og hva kan læres? Når dette er konkret, blir det lettere å vurdere om algoritmen ser etter relevante signaler eller bare ligner på det dere kjenner fra før.
Gi deretter teknologien en avgrenset rolle. La den frigjøre tid fra repetitivt arbeid, strukturere informasjon og avdekke spørsmål dere bør undersøke nærmere. Ikke la den late som den kan måle motivasjon, samarbeidsevne eller potensial med en enkel score. Slike vurderinger krever kontekst, dialog og ansvar.
Til slutt: Følg med på utfallet. Hvem går videre? Hvem faller fra? Hvem ansettes, og hvem lykkes faktisk i rollen? Hvis dere aldri undersøker forskjellen mellom systemets anbefalinger og virkelige resultater, har dere ingen kontroll på om løsningen hjelper eller skader.
Den beste rekrutteringsteknologien gjør ikke mennesker overflødige. Den gjør dårlige snarveier synlige. Det er der endringen begynner: Ikke med en algoritme som bestemmer mer, men med en prosess der både kandidat og arbeidsgiver får se mer – og velge på et bedre grunnlag.
