Artificiell intelligens och de jämställdhetspolitiska målen

Risker och möjligheter

Artificiell intelligens och jämställdhet har en komplex relation. Å ena sidan kan AI förstärka befintliga ojämställdhetsmönster – till exempel när algoritmer tränas på partiska eller ofullständiga data och ger diskriminerande utfall. Å andra sidan kan AI användas för att synliggöra mönster, hitta kunskapsluckor och ge bättre beslutsunderlag för ett mer jämställt samhälle. 

För att AI ska kunna bidra till en positiv utveckling inom jämställdhetsområdet krävs ett mer målmedvetet och kunskapsbaserat arbetssätt än idag. I rapporten beskriver vi hur AI och jämställdhet hänger ihop. Vi lyfter fram såväl centrala utmaningar som möjligheter. Vi ger också rekommendationer för hur AI:s potential att bidra till ökad jämställdhet kan stärkas ytterligare, säger Sophia Ivarsson, Vinnovas expert inom jämställdhetsfrågor.

Rapporten pekar på att AI-utvecklingen i stor utsträckning är reaktiv: jämställdhetsproblem hanteras ofta när problem redan har uppstått vilket skadar tilliten till tekniken. För att ta vara på möjligheterna krävs i stället att jämställdhet är en integrerad utgångspunkt i all användning av AI – från behovsanalys och datainsamling till utveckling, upphandling och uppföljning.

Tre återkommande risker

• AI kan skapa ojämställdhet – nya arbetssätt, plattformar och automatiserade beslut kan ge olika villkor och möjligheter för kvinnor och män.
• AI kan återskapa ojämställdhet – historiska data och etablerade normer kan byggas in i modeller och spridas i stor skala.  
• AI kan leda till könsdiskriminering – direkt eller indirekt, exempelvis genom proxy-variabler som samvarierar med kön.

Rapporten lyfter också områden där riskerna blir särskilt tydliga. Några exempel är diskriminerande utfall i exempelvis kredit- och rekryteringsprocesser, brister i innehållsmoderering och transparens på digitala plattformar, samt ökade former av onlinevåld och spridning av deepfakes som i hög grad drabbar kvinnor och flickor. 

Så kan AI bli ett verktyg för de jämställdhetspolitiska målen

Vinnova har sedan 2019 genomfört en rad aktiviteter inom satsningen AI för ökad jämställdhet. Erfarenheter från forsknings- och innovationsprojekt visar att AI, under rätt förutsättningar, kan stödja uppföljning och utveckling av de jämställdhetspolitiska målen.

En nyckelfråga är den data som ligger till grund för AI-användning. Kön är ofta underrepresenterat i dataset, vilket kan skapa systematiska skevheter i analys och beslutsstöd. Samtidigt är teknik aldrig värderingsneutral, så AI behöver användas som ett komplement till andra verktyg och metoder. Det är samspelet mellan människa och teknik som avgör om AI ska kunna bidra till mer jämställdhet i samhället, säger Sophia Ivarsson.

Några exempel på möjligheter riktat mot de jämställdhetspolitiska målen:

• Jämställd fördelning av makt och inflytande: AI-stödda utbildningsinsatser kan stärka flickors och kvinnors väg in i STEM och teknikutveckling.
• Ekonomisk jämställdhet: beslutsstöd kan minska effekter av medvetna och omedvetna bias i exempelvis investeringar, krediter och försäkringar, förutsatt att de modeller som används har genomgått gedigna jämställdhetsanalyser.
• Jämställd utbildning: individanpassad återkoppling och stöd som kan bidra till bättre studieresultat och minskade könsskillnader.
• Jämställd hälsa: förbättrad diagnostik och mer träffsäkra behandlingar, särskilt i områden där kvinnors symptom historiskt varit underutforskade.
• Mäns våld mot kvinnor ska upphöra: AI som stärker digital säkerhet, upptäcker hot och trakasserier och stödjer förebyggande insatser, med fokus på säkerhet och rättigheter.

Behov framåt

Idag saknas det tydliga behovsägare och en välutvecklad marknad för AI-lösningar som särskilt riktar sig mot jämställdhetsutmaningar. AI-utvecklingen domineras i hög grad av industrin. Därför krävs det tydliga politiska initiativ, riktad finansiering samt ett långsiktigt ansvarstagande från såväl offentliga som privata aktörer.

Om vi bara hanterar jämställdhet i efterhand kommer AI att fortsätta förstärka ojämställdhet. Med rätt innovationspolitik kan vi i stället utveckla, testa och anpassa AI som stärker ett jämställt samhälle, säger Sophia Ivarsson.

Fem förslag för jämställdhetsdriven AI

I rapporten har Vinnova tagit fram fem förslag på åtgärder:

1. Nationella AI-piloter som tar sig an konkreta jämställdhetsutmaningar i olika sektorer och bygger in jämställdhetskompetens från start.
2. Utveckling av jämställdhetsinformerade AI-modeller, exempelvis språkmodeller och analysverktyg som tränas och valideras mot kunskap om jämställdhet.
3. Tvärsektoriella partnerskap mellan offentlig sektor, näringsliv, civilsamhälle, AI-utvecklare och jämställdhetsexperter – med genusforskning integrerad i hela kedjan.
4. Upphandling som styrmedel, där krav på jämställdhetsanalyser och mätbara effekter driver marknaden mot önskade samhällsresultat.
5. Stärkt kompetenslyft för att möta både AI-kompetensbehov och den fortsatta underrepresentationen av kvinnor i STEM.

Rapporten i korthet

• AI har en dubbel funktion: den kan både förstärka ojämställdhet och bidra till att minska den.
• Riskerna omfattar bland annat diskriminerande beslut, onlinevåld och bristande transparens i plattformar och data.
• Reglering som EU:s AI Act är viktig, men fångar inte alltid upp indirekta könseffekter.
• För att ta vara på möjligheterna behöver jämställdhet vara en integrerad utgångspunkt i utveckling, upphandling och användning.
• Rapporten föreslår piloter, modeller, partnerskap, upphandling och kompetenslyft som centrala steg. 

Mer om rapporten

Rapporten är en expertrapport till 2024 års jämställdhetsutredning och har tidigare publicerats på webbplatsen sou.gov.se.
2024 års jämställdhetsutredning (A 2024:06)