AI i arbetslivet – risk för diskriminering?

AI är big business. AI är arbetsmiljö. AI är inget som vi egentligen kan stoppa. Det är redan här och det implementeras i verksamheten i svenska företag och organisationer steg för steg. Ibland märker vi det, men ofta inte. Nya systemstöd kommer till, vi får hjälp att sortera stora mängder data eller kanske kandidater till positioner som vi ska rekrytera till. Vi kan få beslutsunderlag eller rent av ta hjälp med själva beslutsfattandet.  
  
Mot bakgrund av det borde det vara fullständigt klart för var och en av oss att vi människor i verksamheterna behöver insyn i processen med algoritmer som ligger till grund för beslutsfattande eller sorterandet av kandidater. Vad grundar sig egentligen beslutsförslaget på? Vem rekommenderas en tjänst och vem vill AI att vi väljer bort?  

Lika barn är ingen lek 

Risken att vi med stöd av AI omedvetet diskriminerar i rekryteringsprocessen är uppenbar - om vi inte tänker några varv extra i hanteringen av data och urvalsprocessen. AI är inte bättre än den information den matas med. Ska AI hjälpa oss att hitta en kandidat som mest liknar de anställda vi redan har, eller hitta någon kandidat som sticker ut?  Fullt så enkelt är det dock inte. Lika barn leka bäst, olika barn hittar på de bästa lekarna…   

Att diskriminering på svensk arbetsmarknad är utbredd vet vi redan. Ändå kom Diskrimineringsombudsmannen (DO) med rapporten Förekomst av diskriminering 2023 under våren 2023 och den följdes upp med rapporten Rekrytera utan att diskriminera – Vad visar forskningen? De slår fast mycket av det vi redan känner oss veta. Samtidigt som siffror och diagram ger en bättre grund att fatta beslut på, än bara ren magkänsla.  
  
Arbetsmarknaden är den samhällssektor som genererar allra flest anmälningar om diskriminering. Här har vi som parter en fet läxa att göra - och DO en rejäl upphämtning att processa. Just när det gäller algoritmer i beslutsfattandet är det ändå glädjande att se DO ligga ganska långt fram i att tala om riskerna (och möjligheterna) med AI kopplat till bland annat rekrytering. Rapporten AI och risker för diskriminering i arbetslivet som publicerades förra veckan är viktig läsning. Detsamma gäller myndighetens vurm för att vilja titta på jämlikhetsdata som en del i processen att kartlägga problemen med diskriminering. En datahantering som kräver rigorösa säkerhetsåtgärder, men som kan ge väldigt många svar om hur det faktiskt ligger till.  

Facklig handbok om AI 

Förbundets fackliga handbok om AI är den första i sitt slag och den såg dagens ljus här under hösten. Den är för övrigt skriven av en riktig människa. Förbundets algoritmpolitik har flera år på nacken. Våra medlemmar har sett AI komma smygande (eller dundrade det in i Trelleborg den gången?) under en längre tid. Det nya är väl i så fall önskan om transparens, insyn och delaktighet i beslutsunderlag och -process. Tillgången till framför allt begreppet ”förklarande AI” är kanske det senaste. Det innebär att en uppsättning av processer och metoder hjälper människan som använder beslutsunderlaget att förstå vilka bedömningar som gjort längs vägen och kan därmed i högre grad lita på resultaten av ad maskininlärda algoritmerna.  

Mänskliga rättighetsdagarna 

Förbundet deltar på Mänskliga rättigheter-dagarna i Helsingborg i slutet av den här veckan. För egen del ser jag fram emot att möta nya och befintliga medlemmar som är engagerade i frågorna och verkligen glöder. En vitamininjektion så här i novembermörkret! Men jag bävar för den demokratiska kräftgången i Sverige. De politiska besluten som i allt högre grad bygger på repression, kontroll, protektionism och nationalism. Mot bakgrund av det väljer förbundet att arrangera programpunkten Öppet Demokratiskt Sverige.  

Här hittar du programpunkterna vi medverkar i:

Öppet demokratiskt Sverige

Diskriminering på jobbet - vem rekryteras? Vem väljs bort?

MR-utvecklingen i Sverige – Institutet för mänskliga rättigheter rapporterar

Hotet mot facken och demokratin

Daniel Hjalmarsson, utvecklingsstrateg på Akademikerförbundet SSR