E-government: Hantera riskerna med digitalisering och AI
– Personlig integritet istället för digital diktatur.
Teknologiskt system som ger makthavare möjlighet till direkt kontroll.
Digital identitet, digital valuta och artificiell intelligens – en ny global infrastruktur med långtgående konsekvenser
Digitala identitetssystem, centralbankernas digitala valutor (CBDC) och artificiell intelligens (AI) utgör tillsammans en framväxande global digital infrastruktur som stegvis integreras i våra samhällsstrukturer. Tekniskt sett finns mycket av denna infrastruktur redan på plats – men det är först nu som dess fulla implikationer börjar bli tydliga. Den som kontrollerar denna infrastruktur kommer i praktiken att kontrollera samhällsutvecklingen.
Trots de potentiella fördelarna i form av ökad effektivitet, bekvämlighet och tillgänglighet, är riskerna med denna utveckling både påtagliga och grundläggande. Om digitala plånböcker, kontrollerade av en central aktör som tex EU Kommissionen, kopplas samman med en individs digitala identitet, skapas ett teknologiskt system som ger beslutsfattare möjlighet till direkt kontroll över medborgarnas ekonomiska och sociala deltagande i samhället. Detta öppnar för en ny typ av styrning som tidigare varit tekniskt omöjlig – där rätten att använda sina pengar, resa, eller ta del av samhällstjänster kan villkoras, begränsas eller blockeras i realtid.
Samtidigt pågår en parallell omvälvning inom området artificiell intelligens. AI definieras i grunden som system som kan kommunicera och agera på sätt som efterliknar mänsklig intelligens – genom att resonera, fatta beslut, lösa komplexa problem och anpassa sig utifrån ny information.
I takt med att AI integreras med andra datadrivna teknologier som avancerad datalagring, maskininlärning, bild- och språkbehandling samt sensorteknik, genomgår vi en teknologisk transformation med mycket stor räckvidd. Det vi nu ser är inte en gradvis utveckling, utan en genomgripande systemförändring – sannolikt snabbare och mer omfattande än någon tidigare teknologisk revolution sedan industrialismen. Effekterna kommer att märkas inom samhällets alla områden: från ekonomi, rättsväsende och utbildning till offentlig förvaltning och demokratiskt beslutsfattande.
Det är därför avgörande att förstå att denna infrastruktur – även om den marknadsförs som tekniskt neutral och samhällsnyttig – i praktiken skapar nya maktstrukturer. Strukturer som kan förstärka kontroll, övervakning och ojämlikhet, om de lämnas oreglerade eller överlåts till privata eller överstatliga aktörer utan demokratisk insyn. Detta är inte en teknisk detalj. Det är en strukturell förskjutning av makt, från medborgare till system, från demokratisk kontroll till kodstyrd övervakning. Den som kontrollerar denna infrastruktur kommer i praktiken att kontrollera samhällsutvecklingen.
Frågan är inte längre om detta sker – utan på vems villkor
Politiken har hittills varit reaktiv, långsam och tekniskt okunnig. Regeringen har inrättat ett så kallat Nationellt AI-råd, men det är ett löst sammansatt diskussionsforum utan tydliga befogenheter, utan oberoende granskning och utan tekniskt djup. Det är inte ett organ som kan axla ansvaret för att skydda det svenska samhället från de risker – och ta tillvara de möjligheter – som digital infrastruktur och AI för med sig. Men samma tekniker kan man också förvrida opinioner, cementera makt, slå ut yrken och göra människor till övervakade konsumenter i ett system de inte förstår.
Ambition Sverige ska verka för att:
Vad gäller digitala ID och digitala centralbanksvalutor:
- Kräv offentlig debatt och folkomröstning innan implementering av digital centralbanks valuta och ID.
- Vi kräver att varje individ ges full juridisk äganderätt och kontroll över sin egen biometriska data – inklusive rätt till samtycke, begränsning, spårbarhet och ekonomiskt skydd mot kommersiellt utnyttjande.
- Vi kräver ett stopp för obligatorisk koppling mellan ID-system och finansiella transaktioner.
- Säkra och bevara kontanter som en lagstadgad, skyddad rättighet.
- Sätt gränser i lag för vad digitala valutor och ID-system får innehålla, registrera och styra.
- Bygg öppna, icke-centralt kontrollerade alternativ för digital identitet.
Vad gäller AI:
- Utan fri tillgång till information finns ingen fri tanke – och utan fria tankar, ingen demokrati. Ambition Sverige kräver därför att tillgången till information på internet förblir fri, öppen och ocensurerad – eftersom informationsfrihet är en grundförutsättning för demokrati, yttrandefrihet och ett fritt samhälle. AI som tillhandahålls till svenska medborgare ska därför uppfylla dessa krav.
- Vi kräver en nationell AI-infrastruktur – Offentligt finansierad samt öppet och transparent granskade AI-modeller som bygger på lokal lagstiftning, språk, kultur och etik ska tas fram.
- Vi kräver att ingen AI får fatta beslut som påverkar människors liv utan full transparens, juridisk ansvarsfördelning och mänsklig kontroll – som i Danmarks lagstiftning. Det måste tydligt framgå vem som står bakom ett AI-beslut, vilka data det bygger på och vilka värderingar som prioriterats. Automatiska beslut ska alltid vara överklagbara.
- Datasuveränitet – All känslig data, särskilt från myndigheter, skolor och vård, måste lagras och behandlas inom Sveriges gränser och av aktörer under demokratisk kontroll (inte EU eller globala och privata aktörer).
- Digital bildning – Medborgare och beslutsfattare bör utbildas kring ny teknik och AI.
- Aktiv reglering för att hindra plattformsberoende och för att främja öppna, interoperabla alternativ.
- Ambition Sverige kräver att arbete för att identifiera och analysera risker kopplade till AI i militära och civila säkerhetssystem inleds och att skydd för kritisk infrastruktur från AI-drivna angrepp, sabotage eller desinformation utvecklas.
- Slutligen kräver vi att vi utvecklar vår försvarsförmåga mot autonoma vapensystem och digitalt riktade attacker och att vi stärker folkrättsliga, etiska och tekniska skydd mot att AI används mot befolkningen – av andra stater eller av privata aktörer.