Ska det krävas en AI-skandal för att regeringen ska agera?

Regeringen betonar i sin nya AI-strategi att rättigheter ska respekteras och att digital inkludering är en förutsättning för hållbar AI-användning i hela landet. Därför är det både förvånande och bekymmersamt att de konkreta förslagen till reglering i Sverige saknar fokus på ett effektivt rättighetsskydd. Ambitionen om att bli en världsledande AI-nation saknar trovärdighet utan en AI-politik som säkerställer allas rättigheter.

Ett tydligt rättighetsperspektiv saknas

EU:s AI-förordning trädde i kraft den 1 augusti 2025. Enligt förordningen ska människors grundläggande rättigheter skyddas – särskilt vid riskfyllda tillämpningar som ansiktsigenkänning eller när AI används för beslut om antagning till utbildning, rätt till bidrag, rekrytering eller kreditgivning.

När AI fattar fel beslut kan konsekvenserna bli mycket allvarliga, både för enskilda och för tilliten till offentliga institutioner. Erfarenheter från flera europeiska länder – från automatiserade felbedömningar av socialförsäkring i Nederländerna till diskriminerande system i Utbetalningsmyndigheten i Danmark – visar vad som händer när rättighetsskyddet inte är tillräckligt starkt från början.

När AI fattar fel beslut kan konsekvenserna bli mycket allvarliga, både för enskilda och för tilliten till offentliga institutioner

Trots detta saknas ett tydligt rättighetsperspektiv i de svenska utredningsförslagen om hur AI-förordningen ska tillämpas. Förslagen behandlar marknadskontroll, innovationsfrämjande sandlådor och sekretess, men vi saknar exempelvis tydliga krav på tillgänglighet i AI-lösningarna. Det är också oklart hur klagomålshanteringen ska fungera, vart den enskilde ska vända sig vid misstanke om lagbrott och hur upprättelse ska säkerställas om ett AI-verktyg fattar ett felaktigt eller diskriminerande beslut.

Skydda medborgarna från rättsskandaler

Vi ser med oro på att utredningen inte tar tillräckligt stor hänsyn till de grupper som löper störst risk att drabbas – personer med funktionsnedsättning och konsumenter som saknar insyn i hur algoritmer påverkar deras liv.

Sverige bör inte invänta en egen AI-skandal innan vi agerar. Regeringen behöver utveckla en politik för ansvarsfull AI-utveckling som tar hänsyn till hela befolkningens behov och skyddar medborgarna mot en rättsosäker tillämpning.

Vi vill att regeringen:

• Inrättar ett nationellt AI-råd med bred representation
  EU:s rådgivande AI-forum ska vara jämnt fördelat mellan civilsamhälle och näringsliv. Sverige saknar motsvarande struktur. Det behövs ett nationellt AI-råd med representation från civilsamhälle, akademi, myndigheter och näringsliv för att säkerställa att implementeringen styrs av rättigheter.
• Stärker rättighetsperspektivet
  Diskrimineringsombudsmannen måste få resurser och mandat att granska AI-system. Enskilda måste ges möjlighet att få sin sak prövad och – när rättigheter kränks – kunna utkräva skadestånd.
• Antar en standard för tillgänglig och likvärdig AI
  Den kanadensiska standarden för Accessible and equitable AI systems ger konkreta riktlinjer för hur AI kan utformas inkluderande. Sverige bör pröva hur den kan användas nationellt och därmed vara tidigt ute i Europa med att integrera tillgänglighet i praktiken.

Genom att kombinera tydliga krav på rättssäkerhet, fungerande klagomålsvägar, sanktionsmöjligheter och höga tillgänglighetsstandarder kan vi skapa en AI-utveckling som gynnar alla. Först då finns förutsättningar att nå ambitionen om att tillhöra världens ledande AI-nationer.