DN Debatt.”Full insyn måste råda i offentliga algoritmer”

Porträtt av kvinna och man

Akademikerförbundet SSR: Vi säger i vårt remissvar nej till den statliga utredningen om hur automatiserat beslutsfattande ska se ut.

Regeringen måste ta artificiell intelligens (AI) på allvar.

Publicerad i Dagens Nyheter 2021-07-25

Vi står mitt i en större förändring av den offentliga sektorn och välfärden än digitaliseringen. Den offentliga förvaltningens resa från pappersdokument och hålkort till elektroniska system för att sköta samhällets grundfunktioner var dramatisk, men ändå mindre omvälvande än vad vi nu genomgår: robotar, algoritmer och artificiell intelligens tar över mänskliga arbetsuppgifter. Därför är vi förvånade över att regeringen inte vill förbereda Sverige bättre på denna förändring.

Akademikerförbundet SSR ser att utvecklingen har en enorm potential att förbättra och effektivisera samhället – och ta över de administrativa och repetitiva uppgifter som stjäl alldeles för mycket av medarbetarnas tid. Den tiden skulle kunna läggas på att träffa människor och komplexa uppgifter som datorer inte klarar. Men för att åstadkomma det krävs bra politik i form av reglering, stöd riktlinjer för kommuner, regioner och myndigheter där algoritmer nu införs på bred front för att fatta och skapa underlag till beslut.

Det finns en stor risk att algoritmer, som kommer fatta allt fler beslut för vår räkning, blir svarta lådor utan insyn ­eller förklaring. Demokratiska beslut blir då programkod framtagen av ett fåtal multinationella konsultföretag som har helt andra intressen än vad vi förväntar oss av kommunala förvaltningar och statliga myndigheter.

Exemplen där det gått snett i andra länder är alltför många, där för­domar avgjort beslut, rasism avgjort strafflängd och människor i behov av samhällets stöd blivit utelämnade till automatiserade avslag, utan möjlighet till mänsklig kontakt eller förklaring.

Det kan låta som ett dystopiskt framtidsscenario, men tendenserna finns redan på hemmaplan. Som exempel har Akademikerförbundet SSR under lång tid försökt få insyn i den algoritm som delar ut försörjningsstöd i Trelleborg. Efter att den skånska kommunen upphört att svara på våra frågor, när vi bara vill få en övergripande förklaring av hur den fattar sina beslut, lyfte vi frågan med Justitieombudsmannen (JO) som gav oss rätt i kritiken. Nämnden borde ha förklarat hur algoritmen fungerar.

Det är bra att detta tydliggjorts, men flera år har gått sedan vi bad om en förklaring – och ingen har blivit klokare på hur den faktiskt fungerar. Är det rimligt att en sådan grundläggande fråga – som hur en kommun fattat ett visst beslut – blir en flerårig juridisk process som landar i kritik men inte i något svar? Vi anser inte det, i synnerhet när det rör en fråga som försörjningsstöd, som kan ha avgörande konsekvenser för den enskilde medborgaren.

Det är därför Akademikerförbundet SSR kommer att avslå den utredning (”En väl fungerande ordning för val och beslutsfattande i kommuner och regioner”) som nyligen gick ut på remiss. Den ställde frågan hur automatiserat beslutsfattande ska se ut i våra kommuner och regioner.

Regeringen tillsatte utredningen i fjol eftersom det enligt de flesta bedömningar, däribland Sveriges kommuner och regioner, kommunernas och regionernas organisation, inte varit lagligt att automatisera kommunala ­beslut. Den uppmärksamme noterar att ­Trelleborg alltså fattat sådana i ett antal år – men först nu föreslår utredningen att det ska bli lagligt.

Tyvärr innehåller utredningen ingenting om hur en sådan laglighet skulle se ut. Med den utveckling som vi sett i Sverige och andra länder är automatiserade beslut inte vilka beslut som helst. Inte ens med JO:s stöd och ett fackförbunds utredningsresurser går det att få en förklaring av hur besluten tas. Därför är det naivt att introducera denna möjlighet i lagen, utan att det finns en modell för hur den faktiskt ska genomföras.

Vi kräver svar på hur en kommun ska visa upp hur algoritmen fungerar på ett sätt som är begripligt för envar. Demokratin ska inte vara beroende av den teknik som det offentliga råkar använda för tillfället. Vi kräver förtydligande att full insyn i beslutsprocesserna ska råda. Rättsstaten ska inte vara något vi har till låns av amerikanska konsulter.

Vi kräver också ett ramverk på plats som tar höjd för den närliggande och revolutionerande tekniken med artificiell intelligens (AI). Här har tidigare statliga utredare konstaterat att ett rejält arbete krävs för att avgöra när AI faktiskt får användas, hur den ska förklaras och vilka datamängder som ”tränar” AI:n som behövs.

AI fungerar genom att utifrån ­historiska händelser skapa nya bedömningar. Funktionen blir med andra ord beroende av vad som matas in. Även här finns många exempel på vad som kan gå snett: uppenbar diskriminering som finns i data har reproducerats och förstärks i en rad sammanhang.

Det är minst sagt anmärkningsvärt är att den utredning som nu ligger på bordet inte en enda gång nämner ­begreppet artificiell intelligens på de 238 sidorna. Vi är därför oroade över om regeringen och deras utredare förstått frågan.

Vi är glada att JO gett oss rätt, men beklagar att beslutet trots en flerårig process inte över huvud taget har fört oss närmare en förklaring på hur algoritmen fungerar. Vi har precis tagit emot regeringens utredningsförslag om att rakt av legalisera automatiserat beslutsfattande i kommuner och regioner, men kommer att avslå detta om inte byggstenar för att säkra rättssäkerhet och insyn kommer på plats samtidigt.

Vi tror på teknisk utveckling, men den behöver regleras för att den ska komma medborgare och demokratin till nytta. Vi som företräder medarbetare i den offentliga sektorn behöver ha en central roll i arbetet – en roll vi är beredda att axla. Det är hög tid för en seriös algoritmpolitik.