Beslutsfattande får inte vara en experimentverkstad

Porträttfoto på Simon Vinge
Debattartikel

DEBATT. Det är bra att automatiserat beslutsfattande nu får en seriös genomlysning. Vi kräver en algoritmombudsman och en statlig reglering som säkrar insyn, skriver chefsekonom Simon Vinge, Akademikerförbundet SSR.

(Debattartikel publicerade i Altinget den 14 februari 2020)

Rädslan att framstå som teknikfientlig ligger i dag som en våt filt över debatten om automatiserat beslutsfattande. Men denna rädsla får inte göra att vi missar möjligheten att ta fram en bra plan för hur algoritmer och automatiskt beslutsfattande bör ske i våra kommuner.

Eftersom detta kräver en analys av både risker och fördelar med de tekniska förändringarna behövs en mer nykter syn än att enbart experimentera med och bejaka all ny teknik.

Svårt att få insyn

Det finns en bred konsensus kring att samma regler ska gälla för automatiserade beslut som för de beslut som fattas av människor. Det finns dessutom ofta en uppfattning om att samma regler faktiskt gäller. I praktiken ser det dock inte ut så.

Akademikerförbundet SSR har erfarit att det kan vara väldigt svårt att få insyn i automatiserade beslut, och i en specifik kommun – Trelleborg – har det dröjt mer än ett år innan vi ens har fått några handlingar på en relativt enkel fråga.

Detta ärende ligger just nu på Justitieombudsmannens bord och gällde att vi ville veta hur kommunens algoritm, som i dag fattar automatiska beslut om ekonomiskt bistånd – inklusive avslag, fungerar.

Obesvarade frågor

Insyn och transparens är bärande pelare i vårt demokratiska samhälle. Som medborgare har vi rätt till information och kunskap om hur kommuner fattar beslut, och hur de i praktiken verkställs.

Automatisering inom den kommunala verksamheten kommer att ge goda möjligheter att lyfta bort rutinartade arbetsuppgifter från medarbetare – som att sammanställa information från register och databaser eller fylla i formulär. Men det är samtidigt en utveckling som ställer många nya frågor, där ett flertal fortfarande är obesvarade. Det är oroväckande eftersom demokratiska rättigheter inte ska vara beroende av vilken teknik som kommunen råkar använda för tillfället.

En seriös genomlysning

I dagarna meddelade regeringen att de ska utreda automatiserat beslutsfattande i kommuner och regioner (Dir 2020:10). Utredaren ska se över både rätten till insyn och skyddet för personuppgifter. Det är mycket bra att detta får en seriös genomlysning och vi har efterfrågat en utredning om just dessa frågor – och vi kommer givetvis att följa processen nära.

Begriplig information

Vi ser att den nya europeiska dataskyddsförordningen, GDPR, ger ett långtgående stöd för de individer som träffas av automatiserat beslutsfattande. I synnerhet pekar denna reglering på uppgiftslämnarens skyldigheter att se till att den information som lämnas ut är begriplig för medborgaren.

Det finns ett långtgående ansvar att säkra att det faktiskt är meningsfull information – varför exempelvis källkod eller tekniskt språk inte uppfyller kraven.

Måste finnas insyn

Akademikerförbundet SSR har därför goda förhoppningar på att denna utredning ska lyfta frågan och leda till en bättre väg framåt. Automatiserat beslutsfattande kan vara bra, men det får inte fortsätta vara en rättsosäker experimentverkstad utan insyn – som dessutom drabbar de grupper i samhället som har sämst möjligheter att ifrågasätta eller syna algoritmens beslut.

Våra krav är:

  • En algoritmombudsman dit alla kan vända sig med alla frågor om automatisering och algoritmer inom den offentliga sektorn.
  • En statlig reglering om – och modell för – hur offentlighetsprincipen och insyn för medborgare säkras, och som gör det enkelt och begripligt att följa automatiserat beslutsfattande.