Det är inte bara krig och mänskliga rättigheter som kräver internationella lagar och överenskommelser. Över tid har mänskligheten hitta nya problem att lösa gemensamt och nya hot att skapa regler för att motverka, inte minst gäller det på miljöområdet.
Nu måste vi ta oss an den snabba tekniska utvecklingen ur ett perspektiv av global säkerhet. Hoten är av flera slag och vi kan inte vara naiva eller passiva inför den snabba utvecklingen inom AI. Martin Gelin varnade häromdagen på kultursidorna i Dagens Nyheter för techmiljardärernas krig mot demokratin och menar att vi måste ta hoten på allvar. Han kommenterar ett antal aktuella böcker där temat är tech-branschens allians med demokratifientliga idéer. Tyvärr handlar det inte om dystopisk fiktion, utan allt är i allra högsta grad verkligt.
Lika verkligt som när Elon Musk gjorde en Hitlerhälsning på Trumps installatationsceremoni, trots att många försökte få det till något helt annat. Musk är en av techoligarkerna som ges en del utrymme i boken The Nerd Reich. Författaren och journalisten Gil Durán menar att techmiljardärerna i Silicon Valley använder AI och kryptovalutor för att underminera demokratin i syfte att etablera en ny form av styre, ett slags corporate dictatorship.
Två andra män som är aktuella i sammanhanget är Pieter Thiel, grundare, och Alex Karp VD för Palantir. Ett välkänt och mycket kontroversiellt teknikföretag. Framför allt har kritiken varit stark mot den enorma insamlingen av data som sedan används för att fatta beslut om krigföring i USA:s och Israels intressen, samt för att spåra samt utvisa immigranter genom USA:s ICE-styrkor.
I End Times Fascism av Naomi Klein och Astra Taylor visar de hur techmiljardärer som Thiel och Karp med flera vill ersätta demokrati, politiska val och humanitärt ansvar med en ”global kleptokrati”. Om deras ideologi skriver Klein på sin webbplats:
“End Times Fascism” is the ideology of the actors who strive to make the world unlivable and then seek to protect themselves from the fall-out. ”
Ur End Time Fascism av Naomi Klein och Astra Taylor
Flera incidenter har nu skett där AI-agenter agerar självständigt, utan människors kommandon, för att hacka sig in i datasystem. Mest känd är Hugging Face-incidenten där AI-modeller under utveckling bröt sig loss från sin testmiljö och tog sig ut på internet där de hackade sig in på Hugging Face, som är en testplattform för AI-modeller.
Flera experter varnar för att tekniken utvecklas snabbare än vad företagen kan kontrollera och det har även lett till att ett antal säkerhetsansvariga har hoppat av, bland annat David Robinson, tidigare säkerhetsansvarig på OpenAI.
Men det finns reaktioner som väcker hopp om att politiken förstår att man måste agera. De två nordiska ledarna Stubb och Støre har tillsammans med 22 andra ledare uppmanat FN att utreda möjligheten att inrätta en internationell organisation som kan skapa standarder för AI-säkerhet.
Rimliga krav kan man konstatera men Sveriges (Tidö)regering har inte ställt sig bakom dem och Kristerssons numera övergångsregering har kritiserats från flera håll, för detta och inte bara av politiska motståndare.
FN instämmer i vikten av globalt samarbete för att ta fram gemensamma principer och åtaganden för att hantera de globala riskerna med AI: ”Nationell handling är nödvändig, men global samordning är oumbärlig”, säger FN:s generalsekreterare António Guterres.
I Sverige är tech-miljardären Karp dessutom just nu aktuell med sitt köp av ett stort skogsområde i Härjedalen. Det väcker stor oro i lokalsamhället. Vad ska hända med naturen, med jakten och hur ska det påverka människorna som lever där. Tidningen ETC har i en artikel spekulerat om vad som kan ligga bakom. Karp är som många andra i techbranschen intresserad av att leva långa liv – så kallade longevitys. Därför kan hans köp av 15 000 hektar mark i Härjedalen vara ämnat för hans intresse längdskidåkning, och inte för att bygga datacenter. Han äger redan tjugo hus på andra platser där längdskidåkning är gynnsamt. För att få en känsla av hur stort markköpet är så kan vi värmlänningar jämföra med Munkfors kommun som är cirka 14 700 hektar.
Men medan Karp investerar miljarder i sin privata rekreation för ett långt liv börjar oron för AI:s konsekvenser för mänsklighetens överlevnad diskuteras. Experter och forskare inom AI varnar för vad en oreglerad, eller otillräckligt reglerad, AI-utveckling inom vapensystem, sjukvård och andra områden kan innebära för risker för mänskligheten.
”Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen av AI system som är smartare än människor, och att vårt agerande under de kommande två till tio åren kommer avgöra utfallet”, hävdade Geoffrey Irving nyligen, som tidigare jobbat på bland annat Open AI.
Att reglera AI och säkra att demokratin håller för detta tekniksprång är en av politikens viktigare uppgifter de kommande åren. Det gäller såväl hur vi använder AI i svensk offentlig förvaltning som behovet av reglering inom EU och globalt.
