Så kan tilliten till automatiska beslut i den offentliga sektorn öka

Automatiseringen av offentlig sektor kommer med stormsteg. I kommuner, regioner och myndigheter ersätts och effektiviseras mänskliga arbetsuppgifter med algoritmernas hjälp. 

Digital teknik har stor potential att öka kvaliteten men när utvecklingen går snabbt riskerar lagstiftning och etiska principer att inte hinna med. Om potentialen ska tas tillvara, komma alla medborgare till del och förbättra välfärden, krävs tydlig reglering och mer visionär politik. 

Sveriges Ingenjörer är det fackförbund som organiserar de flesta som kodar och skriver algoritmerna. Akademikerförbundet SSR organiserar många som har arbetsuppgifter som ersätts av eller effektiviseras med automatisering i kommuner och på myndigheter. Det ger oss tillsammans en unik insikt i möjligheter och utmaningar med den tekniska utvecklingen.  

Automatiserat beslutsfattande hanterar i dag visst rutinarbete på myndigheter och frigör därmed personalens arbetstid för mer avancerade uppgifter. Samtidigt har användningen av automatiserat beslutsfattande också stora brister. Det gäller inte minst i kommunerna, som står för den största delen av välfärden. Huruvida det ens är lagligt att automatisera kommunala myndighetsbeslut har en statlig utredning som just presenterats tittat på. 

Men vissa kommuner, som Trelleborg, har förekommit utredningen och betalar sedan flera år ut ekonomiskt bistånd baserat på automatiserade beslut. Akademikerförbundet SSR begärde för mer än två år sedan att få veta hur algoritmen fungerar men har inte fått något svar. 

Frågan är av fundamentalt principiellt intresse för en demokratisk rättsstat. Som medborgare delegerar vi makt och inflytande till det offentliga. Det är därför helt centralt att själva processen kring hur beslut fattas går att få insyn i, följa och begripa – oavsett om det är en människa eller en AI som står bakom. 

Vi anser att komplexa beslut av stor betydelse för enskilda individer inte kan automatiseras fullt ut med mindre än att man har full insyn i hur beslutet är fattat. Annars riskerar vi godtyckliga myndighetsbeslut utan transparens – och i förlängningen medborgarens tillit till samhället och rättsstaten.

Många delar av detta är i grunden inget nytt och faller på oss parter att lösa: vi kan behöva kräva åtkomst till viss data när vi förhandlar kollektivavtal, exempelvis. Vi bevakar också utvecklingen och de förslag som läggs. Det senaste exemplet är kring Öppna data-utredningen, där förbunden gemensamt framförde att öppna data bidrar till innovation och utveckling, men att grundprincipen bör vara att också källkoden och programvaran inom offentlig sektor bör vara öppna och transparenta. Någonting som utredningen duckade. 

En del kräver också ny och mer ambitiös politik. Det är uppenbart att staten behöver gå före och skapa tydliga spelregler och bra infrastruktur. Varje kommun och myndighet kan inte på egen hand lösa de i grunden komplexa och svåra frågor som ställs med automatiseringen. Det behövs reglering kring vad det innebär att ”visa hur en algoritm fungerar på ett begripligt sätt” vilket varje offentlig aktör som automatiserar verksamhet är skyldig, enligt dataskyddsförordningen, GDPR.  

Sverige har alla förutsättningar att förknippas med en ansvarsfull utveckling och tillämpning av digital teknik. Vägar fram kan vara en överenskommelse mellan näringsliv, offentlig sektor och fackliga organisationer och en algoritmombudsman som kan vägleda inte minst i de kommande etiska frågor som väcks med artificiell intelligens och maskininlärning, och hur de kan göras begripliga för människor. 

Detta är bara ett par av de krav som vi ser att en seriös och modern digitaliseringspolitik behöver tillgodose. En politik som är helt nödvändig för att den tekniska utvecklingen ska förbättra, utveckla och effektivisera den offentliga sektorn – i stället för att underminera dess centrala värden.  

Ulrika Lindstrand, förbundsordförande Sveriges Ingenjörer
Heike Erkers, förbundsordförande, Akademikerförbundet SSR