Liv och död får aldrig vara upp till en algoritm

Vi står mitt i en enorm förändring på arbetsmarknaden, nämligen den vi svepande kallar för digitaliseringen. Allt fler arbetsuppgifter kan automatiseras och skötas genom algoritmer i datorprogram – programmerade beslutsregler som blir allt mer komplexa och effektiva. Utvecklingen är mycket lovande för hela samhället. Samtidigt är det uppenbart att det offentliga inte är helt redo för denna förändring.

Akademikerförbundet SSR har ett antal utgångspunkter som behöver beaktas för att utvecklingen ska bli så bra som möjligt för medborgare och medarbetare i välfärden. En av de viktigaste principerna är att de nya digitala system som skapas – både av kommuner och myndigheter själva som i samarbete med internationella företag – är transparenta och går att få insyn i. Även om ett beslut fattas av en algoritm, ska du som medborgare ha rätt att veta hur det beslutet faktiskt har tagits.

Algoritmer kommer att ta över allt fler arbetsuppgifter från människor och detta har redan börjat ske. Ett exempel är Trelleborgs kommun som delvis har automatiserat och digitaliserat sitt system för att betala ut ekonomiskt bistånd. Förbundet företräder stora grupper akademiker inom statlig och kommunal sektor, varför det är självklart att vi bevakar frågan om algoritmer noga. Därför begärde vi för mer än ett år sedan ut information om hur biståndsalgoritmen fungerar. Det är givetvis inte en enkel fråga eftersom mycket är dolt i programmeringsspråk. Samtidigt är det självklart att handlingarna som rör hur besluten tas omfattas av offentlighetsprincipen.

Efter mer än ett år har vi dock inte fått se det kommunen lovade att lämna ut. Vi har givetvis anmält detta till Justitieombudsmannen eftersom vi inte heller fått något avslag. Om vi som fackförbund med anställda utredare som fokuserar på frågan inte lyckas ta reda på hur algoritmen fungerar – hur ska då en vanlig medborgare som påverkas av dess beslut då veta?

I framtiden kommer offentlighetens algoritmer ta beslut som handlar om liv och död. Ska den självkörande bussen krocka in i en bergvägg när den väjer för att rädda barnet som plötsligt hoppar ut på vägen, eller rädda passagerna? Det behöver fastställas i programmeringskod. Vad exakt gick fel när operationsroboten inte lyckades rädda patienten – var det en bugg i systemet eller omöjligt att undvika? Denna fråga handlar inte om ekonomiskt bistånd eller ens om Trelleborgs kommun. Den handlar om den större frågan om algoritmernas roll i vår offentliga sektor.

Automatiseringen har en självklar och nödvändig plats i vårt samhälle, men kommuner och myndigheter ska inte kunna gömma sig bakom en ”robot”. Vi måste kunna utkräva ansvar av våra folkvalda, överklaga övertramp – och föra det för demokratin livsviktiga samtalet om hur vårt gemensamma samhälle ska utformas. Då behöver man veta hur besluten fattas och av vem.

Därför behöver vi en lagstiftning kring hur algoritmernas transparens är möjlig och vad den ska innehålla. Vi behöver en ombudsman för algoritmer som resonerar och ger medborgare stöd i dessa frågor. Och vi behöver fortsätta utveckla och förbättra automatiseringen – och algoritmerna – i vår offentliga sektor. Därför vänder vi oss nu till digitaliseringsminister Anders Ygeman och vill höra hans syn på saken.

Heike Erkers, förbundsordförande, Akademikerförbundet SSR
Simon Vinge, chefsekonom, Akademikerförbundet SSR