AI visar mer fördomar än människor vid rekrytering
Ny forskning visar att AI-modeller (stora språkmodeller) inte bara ärver mänskliga fördomar från träningsdata – de kan också utveckla egna biaser vid rekrytering. Det är värt att tänka på eftersom AI-verktyg redan används för att sålla CV:n innan någon människa ens sett dem.
Djupdykning
Redan idag används AI för att sålla jobbansökningar hos många stora företag — du kanske aldrig ens når en mänsklig rekryterare om algoritmen säger nej. Det vi visste sedan tidigare är att stora språkmodeller (LLMs, alltså AI-system som GPT) absorberar fördomar från sin träningsdata, vilket speglar de mänskliga biaser som finns i den text de matats med. Men den nya forskningen pekar på något ännu mer oroande: LLMs kan utveckla *egna* biaser som inte direkt kan spåras till träningsdatan, utan uppstår som ett slags statistiska sidoeffekter av hur modellerna processar information. Det som de flesta missar i debatten är att vi ofta diskuterar AI-bias som ett renhetstest — "är AI:n lika fördomsfull som en människa?" — när den egentliga ribban borde vara betydligt högre än så, eftersom AI-beslut fattas i massiv skala och utan den intuition och kontextkänslighet som en trött men empatisk HR-person faktiskt kan bidra med. En människa som har en dålig dag diskriminerar kanske tio kandidater; en dåligt kalibrerad modell diskriminerar tiotusentals innan någon ens märker mönstret.