IMY granskar Arbetsförmedlingens AI-system för arbetssökande
Integritetsskyddsmyndigheten (IMY) har inlett en granskning av Arbetsförmedlingens AI-system som används för att avgöra om arbetssökande ska delta i programmet 'Rusta och matcha'. Granskningen triggered av tips och medieuppgifter, fokuserar på om systemet fattar automatiserade beslut och hur personuppgifter hanteras – det vill säga om folk ens förstår att en algoritm är med och bestämmer över deras jobbchans.
Djupdykning
Arbetsförmedlingens AI-system "Rusta och matcha" är inte ett nytt påfund – det har funnits ett tag och används av handläggare för att avgöra vilka arbetssökande som ska slussas in i programmet, som i sin tur avgör om du får stöd, utbildning eller matchning mot jobb. Det IMY nu tittar extra noga på är om det finns något som kallas automatiserat beslutsfattande, vilket kort sagt betyder att en algoritm fattar eller starkt styr beslut utan att en människa gör en riktig bedömning – något som är hårt reglerat i GDPR just för att det kan få stora konsekvenser för enskilda personer. Det de flesta missar i den här typen av nyheter är att granskningen inte handlar om AI i allmänhet, utan om transparens: förstår du som arbetssökande ens att ett AI-system deltar i bedömningen av ditt ärende? Troligen inte, och det är själva kärnan i IMY:s oro. Myndigheter har länge fått stor frihet att digitalisera sina processer, men nu börjar tillsynsmyndigheterna faktiskt hänga med i takten – och Arbetsförmedlingen är knappast ensamma om att ha den här typen av system i sina flöden.