Debatt: Oreglerad AI farlig för demokratin

Akademikerförbundet SSR:s chefsekonom Simon Vinge skriver tillsammans med ett antal forskare på Dagens Industris debattsida om behovet av att både välkomna och reglera AI för att värna ett öppet demokratiskt Sverige.
 Vi har tre krav för en algoritmpolitik som värnar det öppna demokratiska Sverige, skriver debattörerna.

Gärna AI men först en rejäl algoritmpolitik. För några veckor sedan skrev ett hundratal personer i tech-branschen, bland dem Elon Musk, ett upprop om att pausa utvecklingen av särskilt kraftiga AI-modeller. De hänvisar till faror för mänskligheten och att tekniken riskerar att löpa amok. Bakgrunden är delvis den extremt snabba utveckling som har skett inom AI-fältet där nya generationer av självlärande algoritmer blir allt svårare att skilja från människor när det gäller att lösa problem, skriva texter eller tolka och skapa bilder. 

Huruvida mänskligt skapad teknik kan löpa amok och gå emot sina skapare har diskuterats lika länge som mänsklig teknik har funnits. Två exempel från populärkulturen är Frankensteins monster från 1818 och filmen 2000: A Space Oddyssey från 1968 – den senare med AI.  Det låter ibland även i dagens AI-debatt som science fiction: en avlägsen och riskabel framtid. Men framtiden är redan här, och det finns viktiga utmaningar för samhället och politiken att lösa redan i dag.

Den offentliga förvaltningen är alltför oförberedd på teknikutvecklingen – samtidigt som denna utveckling kommer att, och redan har börjat, förändra vår välfärd, våra domstolar och vår offentlighetsprincip i grunden. 

Detta samlas ofta slarvigt och svepande under samlingsnamnet ”digitalisering”, men digitala verktyg har funnits i 50–60 år och är knappast något nytt. Det nya, menar vi, är just algoritmerna: vi har delegerat många av samhällets uppgifter till komplexa programmerade regelträd, med eller utan AI. I privat sektor handlar det om nästan allt vi ser och upplever i vår uppkopplade vardag: vilka nyheter vi tar del av på sociala medier, vilken reklam vi får riktad mot oss – ja till och med förslag på vem vi ska dejta och bilda familj med. 

I den offentliga sektorn har algoritmernas intåg redan inneburit stora förändringar. Myndighetsbeslut, bedömningar av individer, anställningsförfaranden, skolintag - otaliga förvaltningsbeslut har i någon mån automatiserats med algoritmer.

Vi tror i grunden att detta kan leda oss mot en ljus framtid. Vad gäller användning av AI i förvaltning sitter det offentliga dessutom på både nycklar och inflytande - men då krävs att politiken hänger med. I Sverige har vi en av världens stoltaste traditioner av offentlighetsprincip och insyn i samhällets förehavanden, vilket hänger ihop med ett högt förtroende för staten och dess institutioner. Du har som medborgare och individ både rätt till insyn och möjlighet att ställa krav på begripliga och konsekventa regler och påföljder. Detta förtroende måste värnas. 

Algoritmernas intåg kräver reglering och medvetna åtgärder om inte dessa grundläggande värden ska hotas: insyn, transparens och begriplighet får aldrig vara beroende av vilken teknik det offentliga råkar använda för tillfället. Med teknikutvecklingen menar vi att det till och med finns bättre möjligheter till att ta del av hur beslut fattas och hur processer går till i det offentliga. Hittills är resultatet precis tvärtom. Vi har alla fyra skribenter olika erfarenheter av att beslut, processer och system som tidigare var begripliga och reglerade har förvandlats till ”svarta lådor” när de automatiseras. 

Med ”svarta lådor” menar vi att det inte längre är möjligt att följa hur avgörande beslut om individer har tagits, på vilka grunder eller utifrån vilka parametrar – och att den som så har försökt göra det tvingats in i processer som liknar en blandning av Kafkas Processen och Hellers Moment 22. På samma sätt blir inte algoritmerna bättre än den data de bygger på. Data som präglas av befintliga fördomar och bias i representation och urval riskerar att reproducera samma fördomar med hjälp av förvaltningen om detta inte uppmärksammas.

I Sverige har vi följt bland annat skolvalet i vissa kommuner och utbetalning av ekonomiskt bistånd. Gemensamt för dessa är att hur själva beslutet fattas är centralt. Människor som blir föremål för offentliga beslut måste kunna förstå, granska och ompröva, så även om algoritmen bara är rådgivande. Att ”algoritmen sade så” är inte en värdig återkoppling till medborgare i en demokrati.

Detta menar vi beror på ett underskott av politisk och demokratisk styrning. Teknik är en central del av hur samhället utformas, och precis som andra delar av maktutövning behöver den underkastas demokratins principer och ansvarsutkrävande. Det innebär en skyldighet för politiker och offentlig sektor att förstå, undersöka och ifrågasätta ny teknik - AI är en del av samhället, inte något som står i motsats till samhället. 

Alternativet till en tydlig politik på området är att vårt samhälle riskerar förlora möjligheten till inflytande i demokratins mest centrala funktioner – för med teknik följer makt. Dessa val och avvägningar ska genomföras demokratiskt och inför öppen ridå.

Vi hör ständigt att samma lagar ska gälla för den digitala förvaltningen och offentliga sektorn som alltid har gällt. Vi har inte hört någon säga att vi ska tumma på insyn, begriplighet och förutsägbarhet – och i förlängningen tillit och förtroende – bara för att vi digitaliserat och automatiserat några processer. Men detta sker i dag. Vi har tre krav för en algoritmpolitik som värnar det öppna demokratiska Sverige:  

• En modell för algoritmiskt beslutsfattande för begriplighet och transparens. Automatiseringen ställer nya och spännande frågor kring hur offentlig sektor kan sörja för insyn och möjlighet till begriplighet. Hur begär man ut en algoritm; vilka frågor bör en offentlig aktör besvara som automatiserar processer; hur ska data hanteras i den; vad är en begriplig artificiell intelligens? Alla dessa frågor måste besvaras när offentlig sektor automatiserar viktiga processer. 

• Algoritmisk revision. Även om rätten till insyn kan garanteras så ska det inte krävas tekniska kunskaper för den som vill delta i det demokratiska samtalet. Och även för den som besitter sådan kunskap så är det omöjligt att överblicka miljoner rader kod för att förstå en algoritm. Därför krävs en opartisk funktion som i likhet med aktiebolagets revisionsfunktion faktiskt säkerställer att algoritmen gör det som den säger att den gör, och ingenting annat

• Säkerställa lagstiftningens teknikneutralitet. Vår gemensamma erfarenhet har visat att rådande lagstiftning vid upprepade tillfällen inte har gått att applicera på automatiserade processer och beslut. Därför krävs en ordentlig genomgång som säkerställer att rättssystemet kan fungera som avsett i en allt mer digitaliserad förvaltning. Automatisering får inte tas som intäkt för godtyckligt maktutövande.

Simon Vinge, chefsekonom Akademikerförbundet SSR

Maja Fjaestad, tekn. dr, forskare på Karolinska Institutet

Charlotta Kronblad, jur kand, post doc på House of Innovation, Handelshögskolan i Sthlm

Jacob Dexe, fil. dr, forskare på RISE