Varför bry sig om algoritmer?

Varför ska Akademikerförbundet SSR bry sig om den rådande utvecklingen inom automatisering och digitalisering? Svaret är enkelt: därför att det kommer att få stora konsekvenser på verksamheten inom offentlig sektor, och därmed stora effekter för väldigt många medlemmar inom förbundet. Vi har redan sett exempel i våra kommuner.

Förändring även i offentlig sektor

Till skillnad från vad man kanske kan tro kommer inte utvecklingen bara att ske på det tekniska området, vilket vi senast framhöll i ett remissvar på utredningen om självkörande fordon. Vi måste vara lika beredda på de ”mjuka” områdena inom offentlig välfärd – där handläggare och kuratorer, läkare och undersköterskor kommer att ersättas av, och kompletteras med, algoritmer och robotar.

Kräver principer

Det väcker en rad frågor – och för att vi inte ska backa in i framtiden och köpa den vision som erbjuds av programmerare och tekniska tjänstemän utan koll på välfärden, krävs det att vi själva tar grepp om frågan. Därför är det väldigt roligt att vi tillsammans med Sveriges största arbetsgivare, Sveriges kommuner och landsting, är överens om några principer som alltid måste beaktas.

Vad är nytt då?

För låt oss komma ihåg att det mesta med utvecklingen är förändringar vi sett i hundratals år, om än i ny förpackning. Industrialisering och rationalisering av verksamheter har förändrat arbetsmarknaden och våra arbetsuppgifter så länge vi haft offentlig sektor överhuvudtaget. Förmedlingstjänster är lika gamla som kapitalismen – även om det är smidigare att fördela jobb eller lägenheter via en app än utan. Det är gradskillnader – inte revolution.

Algoritmerna!

Ett område är dock delvis nytt och berör själva kärnan i vår demokrati – och det handlar om algoritmerna. Automatiserade och självlärande funktioner har kommit till samhället för att stanna. Det är bra, men det är viktigt att det blir rätt.

Algoritmerna i offentlig sektor är egentligen bara ett knippe regler – "när Y sker, gör X" – men i och med automatiseringen blir de väldigt komplexa och kraftfulla. De har möjligheter att exempelvis samla in, behandla och sammanställa stora mängder data och utifrån den rekommendera eller till och med fatta beslut. 

Vem är ansvarig?

Samhället delegerar beslutsfattande till politiker som genomför besluten genom tjänstemän. För att vi och granskande organ som medier eller andra myndigheter ska kunna utkräva ansvar eller veta vilka beslut som faktiskt har fattats måste besluten gå att att följa up och vara helt tydligt av vem de fattats och hur.

Med automatisering riskerar vi att detta blir suddigt och oklart. Hur ska vi göra med programvara som skrivs i Silicon Valley och köps rakt av? Om processen (algoritmen) blir viktigare än de enskilda besluten, men ligger inbäddad kod och svårbegripliga programmeringsspråk? Om vi använder självlärande program, som redan idag kan utföra vissa uppgifter, så har vi ingen aning om hur de kommer fram till sina slutsatser. Det finns utmärkta användningsområden för dem – men när är de inte lämpliga? Alla dessa frågor kräver svar. Svar som vi menar att utredningsväsendet inte ger.

Ett vägval

Därför är det oerhört viktigt att vi nu lägger grunden för en utveckling som gör att robotar och automatisering gör största möjliga nytta för samhället, medborgare och medarbetare. Demokratin får inte vara beroende av vilken teknik som det offentliga använder. Där är vi helt överens med en av de viktigaste arbetsgivarna i denna process – men vi har fortfarande ett stort jobb att göra. Vi behöver helt enkelt en algoritmpolitik!