Etiskt svart hål när välfärden digitaliseras

Forskarna Anne Kaun och Julia Velkova ifrågasätter om Sverige är redo att låta maskiner fatta besluten inom offentliga välfärdstjänster. Akademikerförbundet SSR delar författarnas problembeskrivning, men anser att det behövs en tydligare algoritmpolitik med skarpare principer för att möta den digitaliseringsutveckling som vi står inför.

Beslut om rätt till ersättning inom välfärdssystemen får långtgående konsekvenser för medborgarna. Därför har dessa beslut alltid formats utifrån fastställda principer om tydlighet, dialog, insyn, rättssäkerhet och möjligheter att överklaga. Offentlighetsprincipen är en bärande del. Samma principer måste gälla om en maskin/algoritm ligger till grund för beslutsfattandet.

Akademikerförbundet SSR har många medlemmar inom offentlig sektor och vi är beredda att medverka i utformningen av nya digitala verktyg. Det finns en stor potential i att algoritmer och automatiserade beslutsprocesser kan utföra rutinartade uppgifter och avlasta medarbetarna, som då får ökat utrymme att göra det som de är bäst på. Det kan handla om kontakt med medborgarna, ge stöd och hjälp och göra komplexa bedömningar samt att företräda myndigheterna i beslut som hjälper medborgarna till egenförsörjning och egenmakt. 

De principer som artikeln presenterar är dock långt ifrån tillräckliga, och det är svårt att se hur de skulle ha förhindrat exempelvis datasystemfelet hos Arbetsförmedlingen som beskrivs i debattartikeln. 

Robotarnas och algoritmernas kraft kan tas till vara utan att villkoren för medborgarna och medarbetarna försämras. Men då måste ett antal krav uppfyllas:

• Varje beslut måste kopplas till en ansvarig handläggare och besluten ska kunna följas och granskas utifrån vilka beslutsgrunder som föreligger och vilken information har algoritmen programmerats med.

• Där så behövs ska en individuell behovsbedömning komplettera beslutet.

• Tydlig information för medborgarna om hur beslutsfattande går till, vilka principer som styr och hur gör man för att överklaga.

• Algoritmernas koder ska vara en offentlig handling och kunna begäras ut.

• En etisk kod ska utarbetas för att säkerställa arbetet med algoritmer.

• En algoritmombudsman inrättas som har befogenhet att få ut de koder som är underlag för algoritmerna och som kan vara en funktion medborgarna kan vända sig till för stöd och information.

Heike Erkers, förbundsordförande Akademikerförbundet SSR