Akademikerförbundet SSR skriver i Dagens Samhälle om hur Ai och nya digitala lösningar utan tillräcklig kontroll riskerar att undergräva både rättssäkerheten och säkerheten. Det offentliga Sverige håller på att tappa kontrollen över säkerheten i den digitala eran. Det är inte apparna som är farliga – det är vad som händer när invånares data kopplas samman med AI-system och beslutsmodeller som staten själv inte längre har överblick över. Läs hela debattartikeln här.
Säpos brister borde leda till att staten agerar, vi har tre krav på AI och digitalisering i offentlig sektor:
- Fullständig insyn och begriplighet
Offentlig sektor måste alltid kunna förklara när och hur AI används. Kod och beslutslogik får inte döljas som affärshemligheter eller teknisk jargong – det handlar om demokratisk transparens. - Ansvarig mänsklig kontroll
En människa ska bära ansvaret för alla beslut, kunna förklara dem och motivera dem. Det ska vara tydligt vem som är ansvarig när algoritmer tar plats. - En algoritmombudsman
En särskild AI-ombudsman som samlar frågor om automatisering, hjälper medborgare och kan ingripa vid bristande insyn eller rättssäkerhet. En instans där du som medborgare kan överklaga besluten.
