AI och algoritmer: Våra politiska krav

Akademikerförbundet SSR kräver att Sverige genomför en algoritmpolitik som bland annat innehåller följande:

Absolut insyn och begriplighet ska alltid gälla när det offentliga automatiserar verksamhet.

Om vi inte får tillräcklig insyn har vi ingen chans att påverka. Insyn och transparens tillhör den offentliga sektorns portalparagrafer och krävs för att värna medborgarens tillit gentemot samhällets institutioner. Det offentliga ska inte gömma sig bakom formuleringar som affärshemligheter, konkurrensnackdelar eller teknisk jargong och programmeringsspråk.

En människa ska vara ansvarig, och ha möjlighet att vara ansvarig, för de beslut som fattas.

Som medborgare måste du ha möjlighet att förstå och följa ett beslut som rör dig, processen bakom samt kunna se vem som är ansvarig för beslutet. Du har också alltid rätt att få veta vilken bedömning som ligger bakom beslutet och att få det motiverat. Detta betyder givetvis att även medarbetaren ska ha möjlighet att faktiskt förstå beslutet för att kunna ställa sig bakom det, vilket kräver insikt i både automatiserade beslut som systemen för beslutsstöd.

Det krävs en algoritmombudsman för att samla frågorna om automatisering.

Allt fler beslut och processer automatiseras, men det är fortfarande oklart vart medborgaren ska vända sig när det offentliga inte uppfyller vad som krävs. Det kan handla om att inte leva upp till grundläggande krav på förvaltningen eller bristande insyn och begriplighet.

Öppna data och standarder ska vara utgångspunkt för den offentliga förvaltningen.

Många offentliga aktörer är inlåsta i långa upphandlingar av system med bristande anpassning till verksamheten, vilket späs på av att varje leverantör vinner på att myndigheten eller kommunen sitter fast med just deras programvara. Därför skulle en utgångspunkt i öppna data och etablerade standarder göra det lättare att byta och förbättra konkurrensen samt öka tillgången till offentliga datamängder. 

Vi behöver en modell för hur insyn ska gå till i praktiken och som säkerställer att digitaliseringen ökar den offentliga förvaltningens transparens.

Slutligen är det inte givet hur logiken bakom en algoritm faktiskt kan uppvisas på ett begripligt sätt, trots att detta krävs i lag redan i dag. Vi vill inte heller ha en situation där varje enskild offentlig huvudman på egen hand ska behöva resonera kring dessa principiella avvägningar och svåra frågor. Därför måste det offentliga gå före och ordentligt utreda frågan hur och i vilken form en algoritm ska kunna lämnas ut för att värna begriplighet och transparens, med hänsyn till andra värden som säkerhet, integritet eller affärshemligheter där så behövs.