Stora risker när AI fattar viktiga beslut utan reglering

“Vi kommer att behöva reglering av algoritmer och artificiell intelligens, så att det går att redogöra för vad programvaran gör – och sedan kolla att den faktiskt gör det den säger att den gör.” Citatet kommer från Leif Johansson som är styrelseordförande på Astra Zeneca och väl känd från en lång karriär i näringslivet.

Den offentliga förvaltningen i stat, region och kommun fattar allt fler beslut med algoritmers hjälp. Delar av detta är en positiv utveckling med stor potential. Vi vet alla att det finns många rutinartade arbetsuppgifter som kan lyftas bort och administrativa bördor som kan förenklas. Samtidigt är det lika uppenbart att denna utveckling kräver reglering på många håll.

Stora risker

Vi ser exempelvis att robotar fattar beslut om ekonomiskt bistånd och att delar av arbetsförmedlingens bedömningsstöd automatiserats.

Än mer avancerad teknik som bygger på artificiell intelligens har börjats införas, där vi bland annat noterar att den svenska polisen börjat använda sig av den omstridda metoden ansiktsigenkänning.

Det finns stora och uppenbara risker när vi använder så pass nya och oprövade tekniska lösningar för beslut som kan få långtgående konsekvenser för den enskilde individen. Vi ser risken för läckor eller för de barnsjukdomar som all ny teknik dras med, frågor som det offentliga knappt har börjat att titta på.

Men lika central är frågan om hur besluten faktiskt fattas – och vem som begriper och kan förklara hur de programmeras. Ta ekonomiskt bistånd som är ett stöd till den som är allra mest utsatt, vilket är en komplex bedömning där lagstiftningen kräver en individuell bedömning i varje enskilt fall. Frågan här är om vi vill att professionen, på delegation och uppdrag av demokratiskt valda företrädare i våra kommuner, ska göra dessa bedömningar – eller om vi vill att de ska tas fram av utländska konsultföretag, i system som saknar insyn eller möjlighet till förklaring?

Vi tycker att svaret är självklart. Det krävs en demokratisk reglering. Det har vi drivit under ett antal år och har starkt stöd från många tunga forskare – och från medborgare. Vi vet att tilliten till det offentliga bygger på att de beslut som fattas går att förstå och följa.

I många av Sveriges kommuner experimenteras med automatiserat beslutsfattande och beslutsstöd, ofta med begränsad insyn, otillräcklig dokumentation och oklart rättsläge. Förvaltningen behöver bli mer transparent, inte mindre.

Det vi kräver är en tydlig struktur för hur automatiserade beslut ska redovisas, begripas och granskas. Detta kommer inte att lösa sig av sig själv utan kräver politik och grundlig utredning med expertkompetens. Det räcker inte att 290 kommunala mellanchefer fortsätter gå på it-mässor, vilket är känslan som genomförandet inger idag.

Lyfta kostnaderna

Vi riktar i första hand kraven mot staten. Under flera år har vi påtalat denna fråga och de uppenbara risker som vi ser, men utan något svar från regeringen. Nu har vi en ny regering som har en möjlighet att agera innan nästa val. Staten har ett ansvar för att gå före och för att lyfta bort kostnaderna för regleringen av dessa frågor från lokal nivå. En tydlig spelplan skulle dessutom ge Sverige chansen att bli ett ledande land igen – eller i vart fall lyfta oss högre än sistaplatsen på OECD-listan över digitalisering inom offentlig sektor.

Idag ligger ett antal förslag från två stora utredningar på bordet. De bereds i Regeringskansliet, men utifrån dem behövs lagstiftningen på området radikalt utvecklas. Och där finns stora möjligheter! För vi är och förblir obotliga optimister. När vi ser våra medlemmars vardag i den offentliga sektorn, i myndigheter, regioner och på kommuner, ser vi en ofta hopplös digital arbetsmiljö. Här finns stor potential för effektivisering och automatisering; fokusera på detta i stället för att skala upp rättsosäkra och experimentella system. För det ska ske krävs tydlig lagstiftning byggd på offentlighetsprincipen. Och det krävs att frågan vad som kan automatiseras och göras bättre i välfärden ställs till professionen och de medarbetare som arbetar där – inte bara till amerikanska konsulter.

Heike Erkers, förbundsordförande, Akademikerförbundet SSR

Simon Vinge, chefsekonom, Akademikerförbundet SSR