Sverige måste återta makten över algoritmerna

Just nu pratar alla om artificiell intelligens, AI. Investeringarna växer explosionsartat och intresset för att satsa på denna relativt nya teknik är stor. Utvecklingen går fort men samtidigt saknas en debatt om hur AI påverkar vår demokrati och medborgarnas rätt till insyn. Vem har makten över besluten?

Kommuner, regioner och myndig­heter börjar nu införa algoritmer och AI för att fatta beslut. Det ger fantastiska möjligheter, men vi ser också med oro på bristen av insyn och respekt för skattepengar. Utvecklingen är snabb och Sverige behöver både stora satsningar och en strategi.

Alltför ofta innebär nya digitala system att data hamnar i andra länder, i privat ägande, och att det som skulle ha underlättat för medarbetarna ­snarare ger en högre arbetsbelastning. Något är trasigt i den svenska digitaliseringen.

Livsavgörande beslut har närmast rutinartat automatiserats. Beslut om boende, försörjningsstöd, vård och ­arbetsförmåga lämnas till automatiserade algoritmer. Ofta är det helt omöjligt för den enskilde att få veta hur beslutet har fattats och på vilka grunder.

Det riskerar att undergräva offentlig­hetsprincipen och möjligheten att överklaga beslut och förstå på vilka grunder de tas. Det offentliga Sverige lyckas inte kombinera rättssäkerhet, öppenhet och teknikutveckling och då riskerar demokratin att bli en svart låda som ingen litar på.

I Nederländerna infördes ett system med offentligfinansierade barnomsorgstjänster. Skattemyndigheterna satte upp ett datasystem för kontroll av bidragen där systemet valde ut misstänkta ärenden för kontroll med stöd av en AI-baserad självlärande funktion för klassificering av risk.

En av flera riskfaktorer för fusk var bidragstagares medborgarskap, där utländskt medborgarskap var en särskild riskfaktor. I kombination med oproportionerligt hårda sanktioner blev resultatet ett beslutsstöd som konsekvent diskriminerade baserat på nationalitet, och i kölvattnet följde mänskliga tragedier. När omfattningen av skandalen uppdagades tvingades den nederländska regeringen att avgå.

I Göteborg fick familjer besked om vilken skola deras barn var antagna till. Barnen placerades kors och tvärs över stadens vattendrag med orimligt lång skolväg som resultat. En grupp föräldrar la pussel och såg att 12 000 placeringsbeslut tagits samma dag, och att placeringsbesluten baserats på fågelväg, inte barnens riktiga skolväg runt älven.

Det blev uppenbart att en algoritm fattat besluten, och att många av besluten blivit oriktiga. Trots att stadens egna revisorer slog fast att besluten tagits av en algoritm lämnades inte källkoden ut till föräldrarna och majoriteten av besluten korrigeras inte.

Det är livsfarligt när vi bygger in våra fördomar i källkod – det kan leda till snedvridna resultat som riskerar att gå långt över algoritmens ursprungliga syfte. Riskerna är särkilt stora när algoritmer i praktiken fattar myndighetsbeslut. Utan insyn blir det dessutom ofta snudd på omöjligt för individen eller medier att granska vilket trasar sönder tilliten till det offentliga Sverige.

Makten behöver föras tillbaka till de demokratiska institutionerna. Ett sätt att säkra att rätt frågor ställs i de algoritmer som används i offentlig förvaltning är att förvaltningen utformar och kodar dem själva från grunden. Öppen källkod gör tekniken mer transparent, granskningsbar och öppen för medskapande. Det skulle göra offentlig sektor mindre beroende av enskilda företags egna insynsskyddade lösningar och patenterade system.

Det är inte rimligt att regioner och kommuner lämnas ensamma i frågorna, det krävs att staten tar sitt ansvar för samordning och regelverk.

AI är en del av framtiden, vare sig vi vill det eller inte. De potentiella vinsterna med effektivisering och ökad precision genom AI är stora. Men en risk är att ansvarsutkrävandet försvåras. Vi ser faror med att beslutsfattare har en naiv inställning där AI-system framställs som bortom mänsklig förståelse, och därmed mänsklig kontroll.

Nu krävs demokratiskt inflytande över teknik som AI. För att kunna gå vidare mot ett hållbart införande av AI i offentlig sektor har vi tre konkreta förslag:

1. Insyn och transparens. Vårt demokratiska system bygger på att medborgare, tillsynsmyndigheter och medier kan granska och ifrågasätta offentliga beslut. Vi är i Sverige ofta stolta över vår offentlighetsprincip, men den fungerar i dag inte vid automatiserade beslut.

2. Självständighet. Offentlig sektor måste vara en ledande innovatör och kompetent beställare inom digital utveckling, inte en passiv kund. När kommuner och regioner utvecklar egna modeller slipper de fastna i kommersiella modeller och upphandlingar med tveksamma villkor. Lösningarna kräver egen förmåga till utveckling eller stärkt beställar- och tillsyns­kompetens.

3. Staten behöver kliva fram. Reglering och incitament behöver ses över. Stärkt insyn genom tillsyn och revision är centrala redskap för att säkra en korrekt AI-användning i förvaltningens arbete.

När grundläggande villkor för insyn, opartiskhet och transparens är uppfyllda är det utmärkt att vår offentliga sektor stärks av AI. Fram till dess krävs ett mod i offentlig sektor att ställa krav på att grundläggande demokratiska förutsättningar ska vara uppfyllda och att annars våga säga nej till AI-lösningar.

Fia Ewald, informationssäkerhetsexpert och skribent

Maja Fjaestad, docent i teknikhistoria, fd statssekreterare

Karim Jebari, forskare vid Institutet för framtidsstudier

Marcin de Kaminski, mångårig nätaktivist och digital integritetsexpert

Charlotta Kronblad, postdoktor vid Institutionen för tillämpad it, avdelningen för informatik, Göteborgs Universitet.

Stefan Larsson, docent vid institutionen för teknik och samhälle, Lunds universitet

Cecilia Magnusson Sjöberg, professor i rättsinformatik, Stockholms universitet

Marcus Matteby, it-direktör (CIO) för Ånge och Sundsvalls kommuner

Simon Vinge, chefsekonom, Akademikerförbundet SSR