Försäkringskassans AI-system anklagas för att missgynna kvinnor och invandrare

I en granskning av hur Försäkringskassan använder stickprovskontroller och AI för att hitta fuskare påstås kvinnor flaggas dubbelt så ofta, och fyra invandrare på varje svensk, som ”riskfyllda”.

Enligt Svenska Dagbladet är det Försäkringskassans bäst bevarade hemlighet – en AI byggd på maskininlärning och statistiska modeller som jagar potentiella fuskare bland dem som ansöker om olika ersättningar.

Sorteringen i systemet bygger på en riskpoäng mellan 0 och 100 som räknar fram möjligheten för att man gjort något fel i sin ansökan och ifall det kan vara så att man medvetet försökt fuska.

LÄS ÄVEN: Försäkringskassan: Migranter överrepresenterade i alla typer av bidragsbrott

Fall som får en tillräckligt hög riskpoäng flaggas och tas över av en handläggare, vilket i sin tur kan innebära mer djupgående kontroller som att arbetsgivare eller förskola kontaktas för att stämma av uppgifter.

Fallen med den allra högsta riskpoängen kan skickas vidare till kontrollutredningen, en avdelning som arbetar med att utreda bidragsbrott, något som blivit allt vanligare under de senaste åren och som bland andra kriminella klaner ägnar sig åt.

Stora summor till fusk

I en intervju med tidningen säger Anders Viseth, som ansvarar för myndighetens kamp mot bidragsbrott, att hela välfärdssystemet lider av problem med fusk. Han konstaterar samtidigt att det är ganska mycket pengar som betalas ut felaktigt som skulle kunna användas till andra nyttiga saker i samhället.

Viseth försäkrar att varje flaggad person får en rättssäker bedömning och att syftet är att det ska bli rätt från början.

I SvD:s granskning skriver man att ”vissa grupper bedömdes av oklar anledning som mer riskfyllda än andra” med hänvisning till en rapport som Försäkringskassans tillsynsmyndighet, Inspektionen för socialförsäkringen, släppte i mars 2018.

I tillsynsrapporten framgår vilka parametrar som används vid flaggning – data som juridiskt kön, utländsk bakgrund och inkomst- och utbildningsnivå.

Följer diskrimineringslagen

Tidningen tar fram sex olika tester för att kontrollera om Försäkringskassan behandlar alla lika eller om vissa grupper missgynnas. Resultatet blir att systemet ”pekade gång på gång ut oskyldiga mammor och föräldrar med utländsk bakgrund, låg utbildning eller inkomst”.

– De här modellerna har visat sig vara bland det träffsäkraste vi har. Och vi måste ju använda våra resurser på ett kostnadseffektivt sätt. Samtidigt så diskriminerar vi ingen utan vi följer diskrimineringslagen, säger Anders Viseth till SvD som försöker pressa honom att medge att man diskriminerar kvinnor och invandrare.

LÄS ÄVEN: Nationalekonom: Klanerna dränerar välfärden genom bidragsfusk