”Obehörig algoritm tar beslut i socialtjänsten”

Porträtt av Heike Erkers och Simon Vinge
Debattartikel

Socialsekreterare fattar normalt beslut om försörjningsstöd. Men i Trelleborgs kommun är det istället en algoritm som sköter detta – men det går inte att få svar på hur den jobbar. Därför JO-anmäler vi nu Trelleborgs kommun, skriver företrädare för Akademikerförbundet SSR.

Debattartikel i Svenska Dagbladet 2020-01-18

Ibland låter det som att robotar och automatisering är någonting som är på väg, och som vi kommer att få i framtiden. Så är inte fallet, utan framtiden är redan här. Även i den offentliga sektorn. I Trelleborg är det idag en obehörig robot som fattar automatiserade beslut för kommuninvånare som söker ekonomiskt bistånd. Ett avslag, som kan få enorma konsekvenser för den enskilde, kan alltså tas emot helt utan mänsklig kontakt.

När vi som fackförbund försöker få reda på hur algoritmen faktiskt jobbar tar det mer än ett år innan vi får veta någonting. Så kan det inte gå till. Vi ser stora möjligheter med utvecklingen för både medarbetare och invånare, men det är oerhört viktigt att det blir rättssäkert och rätt. Därför har vi anmält denna kommun till Justitieombudsmannen, JO.

När allt fler mänskliga arbetsuppgifter ersätts av maskiner och robotar ställer det krav på att lagstiftningen också uppdateras. Att regleringen inte hänger med ser vi exempel på i den kommun som har gått längst vad gäller automatiseringen av ekonomiskt bistånd, nämligen Trelleborg. Istället för att socialsekreterare fattar beslut om försörjningsstöd, vilket är den lagstadgade ordningen, är det delegerat till en algoritm. Detta trots att det i kommunen helt saknas delegationsordning för denna automatisering. I de handlingar som visar hur de förtroendevalda kommunpolitikerna delegerar uppgifter till tjänstemännen står det att det är socialsekreterare som ska besluta om ärendena. Algoritmen är helt enkelt obehörig.

För de individer som tar emot beslut från algoritmen och för de medarbetare som ska förklara dem eller ta hand om överklagade beslut, är det centralt att veta hur besluten faktiskt har fattats. Vår utgångspunkt är att varje medborgare ska ha samma rätt till insyn i kommuners och myndigheters agerande, oavsett om beslut och handlingar genomförts av en robot eller av en människa. En av de bärande principerna för ansvarsutkrävande i en demokratisk rättsstat måste vara teknikneutral.

När Akademikerförbundet SSR ber att få ta del av hur den mest omfattande automatiseringen av försörjningsstöd faktiskt fungerar, visar det sig inte vara så lätt. Det verkar helt saknas rutiner och strukturer för att hantera så grundläggande frågor som offentlighetsprincipen, när vi försöker ta reda på hur algoritmen i Trelleborg fattar sina beslut. Digitaliseringsrättsutredningen skriver om rätten till ”meningsfull information om logiken bakom samt betydelsen och de förutsedda följderna” av automatisering för den enskilde. Det ska helt enkelt vara möjligt att förstå och delges hur en offentlig aktör har agerat utan vare sig tekniskt kunnande eller programmeringskunskaper.

Vi inledde en dialog med kommunen om hur de skulle kunna visa hur själva ”roboten” eller algoritmen fungerade och Trelleborg lovade att skicka vissa handlingar – men istället upphörde dock all kontakt och under ett år hör vi ingenting från kommunen trots påminnelser.

Mot denna bakgrund har Akademikerförbundet SSR JO-anmält Trelleborg, och Justitieombudsmannen ska ta ställning till kommunens agerande. Det handlar om frågan kring dröjsmål vad gäller att skyndsamt lämna ut handlingar, som bara den förmodligen är ett brott mot förvaltningslagen. I synnerhet handlar det dock om vad som är meningsfull information om automatisering – att invånare och medborgare ska kunna förstå och följa vad en algoritm gör.

Ärendet Trelleborg vittnar om en stor osäkerhet kring vad som faktiskt gäller vid införandet av automatisering i förvaltningen, vilket vi känner igen från många andra kommuner. Det riskerar inte bara att grundläggande rättigheter tummas på som i detta fall, utan det får också som konsekvens att utvecklingen stannar upp i många av de kommuner som inte vågar gå vidare. Lagstiftaren behöver klart och tydligt visa vad som gäller, och bara så kan fördelarna med automatiskt beslutsfattande och utökat användande av algoritmer få ett bra genomslag.

Vad detta exempel allra tydligast visar är att just frågan om att visa hur en algoritm fungerar på ett meningsfullt sätt är helt obesvarad. Det är ingen lätt fråga, och den kan därför inte behandlas på 290 olika sätt och vara upp till varje kommun. Det är tvärtom en fråga som bör lyftas till den nivå där fler intressen kan tas tillvara. Att visa på hur automatisering fungerar bör vara en väl avvägd balansakt mellan medborgares behov av insyn, offentlighetsprincipen, företags affärshemligheter, arbetsbördan och administrationen för förvaltningen och medarbetares inflytande, för att nämna några. En god modell för automatiserat beslutsfattande bör minska administrationen och öka insynen – inte tvärtom som idag.

Exemplet Trelleborg visar att vi har en bit kvar. Vi ser inte att det finns någon illvilja i deras agerande. Vi ser snarare att det finns ett stort tomrum där staten bör ta sitt ansvar med stöd, riktlinjer och lagstiftning. Inom en snar framtid kommer en mycket stor del av den offentliga sektorn att påverkas av utvecklingen. På alla nivåer kommer automatiserat beslutsfattande och beslutsstöd att vara betydligt mer utbrett, och utgöra en reell möjlighet att faktiskt frigöra tid och resurser för välfärdens medarbetare att göra mer av det de kan bäst.

Men för att denna vision ska bli verklighet kommer det att behövas en seriös utredning om hur det automatiserade beslutsfattandet – och algoritmerna – i våra kommuner, regioner och myndigheter bör se ut. Därför är det också dags för en algoritmombudsman där dessa frågor kan samlas, och som kan driva utvecklingen framåt på ett positivt sätt. Och det kommer att behövas ett statligt centralt stöd för automatiseringen i hela sektorn. Vi vänder oss till hela regeringen: automatiseringen kommer att beröra alla delar av offentlig sektor.

Demokratiska rättigheter ska aldrig vara beroende av vilken teknik som används – och medborgare eller medarbetare ska inte behöva lära sig programmering för att få veta hur de beslut som politikerna fattar har gått till och genomförts.

Heike Erkers
förbundsordförande Akademikerförbundet SSR

Simon Vinge
chefsekonom, Akademikerförbundet SSR