AI: ett annat hot

Föreställningen att AI på något autonomt sätt skulle kunna ta kontroll över sin egen utveckling och i grunden utgöra ett hot mot mänskligheten är ett fantasifoster. För den skull kan man inte utesluta att vi blir en sorts slavar till AI eftersom man bygger in AI i allt fler system. Det gör att vi snart är lika beroende av AI som vi är av internet, pengar, elektricitet och rinnande vatten. Det stora problemet med att AI ersätter människor är inte arbetslöshet utan att det får oss att acceptera ett sämre resultat och att de mänskliga egenskaper som AI inte behärskar kommer ges mindre värde eftersom ny teknik (åter)skapar sina egna förutsättningar och vårt behov av den.

Två IT-professorer vid Göteborgs universitet, Jonas Ivarsson och Johan Magnusson, argumenterar i en debattartikel i Dagens Nyheter för en ”tredje väg” i debatten om artificiell Intelligens.

De menar att debatten om AI fastnat i två diametralt motsatta positioner, en ”konservativ dystopi” och en ”progressiv utopi”. Grundtesen i den konservativa dystopin är att tekniken inte bara ersätter utan även styr människan och att den därmed kommer att urholka värden som kunskap, jämlikhet och rättssäkerhet, i värsta fall utrota mänskligheten. Den progressiv utopi talar om potentialen i besparingar och en rad fantastiska nya möjligheter och en strålande framtid. För dessa förespråkare är det oerhört viktigt att Sverige satsar hårt på detta nya område. Professorerna vänder sig mot att båda har en deterministisk inställning till teknik: ”Gemensamt för båda är dock en underförstådd teknikdeterminism där tekniken i sig själv bär på en inne­boende kraft vilken kommer att leda samhället i endera riktningen.” De anser att debatten istället borde handla om hur vi skall använda AI och att samhället borde utveckla en vision för vilken typ av samhälle vi vill leva i framtiden, och utifrån den utveckla AI för att styra mot detta mål. 

Jag kan dela det tvås frustration över den tvåspåriga debatten, men delar inte alls deras syn på tekniken eller deras tilltro till målstyrning. Det exempel de ger om hur AI skulle kunna användas på ett positivt sätt är också mycket talande. De anför att AI skulle kunna vara en lösning på bristen på kvalificerade lärare i skolan, istället för att se till att det finns tillräckligt med lärare så får eleverna hålla till godo med en artificiell lärare (en AL alltså). Det är i mitt tycke just ett exempel på sådant AI inte borde användas till (därmed inte sagt att AI inte kan ha någon som helst roll i undervisning, det kan den säkert). Men AI kommer säkert att användas till detta och liknande sysslor i väldigt stor utsträckning.

Teknik är inte neutral

Även om det finns en del teknik som kan användas på en rad olika sätt och med olika syften, så finns det många goda skäl för att anse att teknik mycket sällan är neutral. Det gäller i allra högsta grad ännu mer för den sorts systemförändrande teknologier som AI representerar. Löpande bandet, bilen, fossila bränslen, konstgödsel, internet är alla exempel på teknik som förändrar hela branscher, ja hela det moderna samhället i grunden. Vilken teknik som kommer att utvecklas och vilken som kommer att vara framgångsrik kan inte heller frikopplas från frågor om olika gruppers intressen eller ställning i samhället eller till ekonomiska och sociala förhållanden. Alf Hornborg har utvecklat detta väl i boken Myten om maskinen. Där kritiserar han tanken att maskinernas funktion och logik kan frikopplas från samhället de verkar i. Ofta innebär en mekanisering att någon vinner tid eller rum på någon annans bekostnad. Och är det inte en fattig på andra sidan jordklotet så är det kanske en dyngbagge eller en orangutang.

Det är lätt att se att detta också gäller AI, där redan utvecklingen av tekniken bygger på enorma mängder arbete av lågavlönade AI tränare och att modellerna utnyttjar andras kompetenser eller kvaliteter utan ersättning. När modellerna sedan används är det uppenbart att de i ett kapitalistiskt samhälle kommer att användas för att öka lönsamheten i företagen, och inte för altruistiska ändamål. AI kräver också oerhörda mängder energi. På senare tid har det kommit många rapporter om hur företagen som utvecklar AI investerar i både kärnkraft och fossilgas för att försäkra sig om att ha tillräckligt med el för att driva utvecklingen. I USA räknar man med att datacenter idag förbrukar 3,5 % av all elektricitet och att detta kan öka till 9 % 2030. De stora it-företagens utsläpp av växthusgaser har ökat kraftigt som ett resultat av deras AI-satsningar och de kommer inte alls kunna leva upp till de storstilade löften om klimatneutralitet som de gjort.

Radikala monopol

Visst kan man använda AI för att studera och klassificera röntgenbilder och många andra tillämpningar som kan vara nyttiga och i något fall banbrytande. På grund av de spektakulära framstegen med AI förväntar sig folk att mer resurser automatiskt kommer ge bättre resultat, trots att det normalt sett är en avtagande marginalnytta med ny teknik efter de första stora genombrotten. Det stora språnget för att skriva med digitala hjälpmedel var ordbehandlare som Word Perfect i slutet på 1980-talet, det som tillkommit senare är mest kosmetik och coola funktioner. Det stora språnget för mobiltelefonerna var när de kopplades upp mot internet och blev minidatorer vilket gjorde att man inte var beroende av ett skrivbord. Till och med i vetenskapen i allmänhet sker det färre riktigt stora genombrott jämfört med tidigare trots de enorma resurser som satsas och de stora möjligheterna som internet och datorkraft ger. Istället görs det oändliga mängder scenarier och metaanalyser, meta-metaanalyser och meta-scenarier. Dessa görs just för att man kan göra dem med de nya verktygen. 

Nya tekniker skapar sina nya egna behov och blir med tiden helt nödvändiga. Som Ivan Illich skriver i Tools for Conviviality uppstår det professionella eliter (yrkesutövare, leverantörer, statliga tillsynsmän osv.) för vilka en konstant expansion av en viss teknologi är ett självintresse. Det man kan göra bra med en viss teknik tenderar till att öka i betydelse, medan det man inte kan använda tekniken till anses mindre viktigt. Eftersom omdöme, förnuft, kritisk tänkande, kreativitet och empati inte ligger för AI, är det sannolikt att en ökad användning av AI i samhället kommer att undertrycka dessa egenskaper snarare än att öka dem.

AI kommer, om allt fortsätter som hittills, sannolikt utvecklas till ett radikalt monopol (se ruta) på samma sätt som internet, dvs en teknik eller institution som det i princip är omöjligt att klara sig utan, dvs det blir inget fritt val att använda AI eller inte. Och använder du det inte själv kommer i alla fall både staten och företagen använda sig av det i sina kontakter med dig. I värsta fall för att övervaka dig.

Teknik du inte kan klara dig utan

Med ”radikala monopol” syftade den mycket intressanta tänkaren, prästen och filosofen Ivan Illich på att en viss teknik eller en viss organisationsform ges en ställning där det i princip är omöjligt att klara sig utan det. Skolan är i princip ett radikalt monopol. Den är obligatorisk och starkt reglerad och kan bara tillhandahållas av godkända institutioner. Det är i princip omöjligt att komma någonstans i samhället om man inte har vissa specificerade utbildningar, oavsett vilka kunskaper man har. Internet och mobiltelefoner utgör också ett radikalt monopol, då det är nästan omöjligt att få tillgång till information och service om man inte är uppkopplad – i takt med att myndigheters och företags service förbättras på internet försämras den i ”verkligheten”. I USA får nog bilen och dess infrastruktur också anses vara ett radikalt monopol. Pengar utgör också en sorts radikala monopol.

En annan oroande utveckling är att AI bygger på regelstyrning och sannolikheter, både i sina funktioner och i sin användning. Detta leder till ytterligare regleringar i en redan överreglerade tillvaro. Eftersom tekniken bara fungerar i förutsägbara situationer måste alla situationer standardiseras för att bli just förutsägbara. Detta gäller givetvis också våra beteenden eftersom ”systemet kräver det”. Förutsägbarhet och dess syster kontroll är en viktig del av den moderna civilisationen med det är samtidigt det som gör den tråkig och kvävande.

Utöver dessa mer principiella perspektiv så tror jag att man i allmänhet överdriver effekterna av AI på produktiviteten på samma sätt som man konsekvent har överdrivit effekterna av digitaliseringen på produktiviteten. Trots den mycket omfattande digitaliseringen har arbetsproduktiviteten i de rika länderna inte alls gått lika snabbt som innan digitaliseringen tog fart och den största effekten på den ekonomiska utvecklingen av digitaliseringen och internet är i de branscher som används för själva tekniken, ett mönster som också verkar finnas inom AI. Detta är heller inget nytt eller unikt för digital teknik, den största effekten av bilismen på den ekonomiska utvecklingen har varit bilindustrin, vägbyggena och allt som hör till.

En annan sorts slavar

Däremot så är föreställningen att AI på något autonomt sätt skulle kunna ta kontroll över sin egen utveckling och i grunden utgöra ett hot mot mänskligheten ett fantasifoster. AI kontrollerar inte det mest grundläggande för alla organismer, sin egen energiförsörjning, utan är helt beroende av människan för den (jag är osäker på om AI kan reproducera sig själv vilket är en annan grundläggande egenskap hos organismer). För den skull kan man inte utesluta att vi blir en sorts slavar till AI eftersom man bygger in AI i allt fler system. Det gör att vi snart är lika beroende av AI som vi är av internet, pengar, elektricitet och rinnande vatten. På så sätt skulle AI kunna bli en teknologisk motsvarighet till marknaden som ju också kan betraktas som en enda gigantisk algoritm som det är svårt att undvika och som styr utvecklingen, även om vi lurats att tro att det är våra egna val som styr.

Det blir säkert en hel del oförutsedda effekter av AI, tillämpningar som vi aldrig kan gissa idag och nackdelar som vi heller inte kan se idag, precis som det blir av alla teknikskiften. Och effekterna kan mycket väl bli motsatta det som hävdas. Bilen framställs som glesbygdens räddare, men lyfter man blicken så ser man att glesbygden är som dödast i de länder där bilens dominans är total. Nya vägar för inte världen till landsbygden utan transporterar in landsbygdens folk och resurser till städerna för att en liten ström sedan skall nå tillbaks. Internet skulle stärka demokratin och ge alla samma tillgång till information. Det skapade samtidigt helt nya möjligheter till manipulation och dränkte oss i en flod av felaktig eller meningslös data. Man blandade ihop flödet av binära data med kunskap som är något helt annat. Internet skulle också bryta de stora företagens makt sades det, men affärsverksamheten på internet och själva infrastrukturen är ännu mer monopoliserad än den analoga världen.

Inte färre jobb – men sämre resultat

AI kommer säkert användas för att spara in på arbete. Faran med det är inte att det leder till massarbetslöshet även om det säkert kan göra att arbetstillfällen minskar drastiskt i vissa yrken. Ingen annan arbetssparande teknik har lett till arbetslöshet på systemnivå. Det beror på att det finns en inneboende mänsklig drift att arbeta. Det beror också på att kapitalismen använder den arbetskraft som frigörs när ett område rationaliseras till ny produktion, eftersom det är just arbete som gör att vinster kan uppstå och mer kapital kan ackumuleras. Det är liksom själva poängen med kapitalismen och det som gör att den driver den ekonomiska tillväxten och miljöförstöring på samma gång.

Det stora problemet med att AI ersätter människor är istället att det får oss att acceptera ett sämre resultat. De två professorernas ”vision” om AI-ledda lektioner är ett uttryck för just det. De största hotet mot översättarna är inte att AI gör ett lika bra jobb utan att den gör ett dåligt jobb, som vi accepterar för att det går blixtsnabbt och är billigt. På liknande sätt har vi accepterat en sämre service och bristande kunskap om produkterna från mängder av företag mot att vi gör jobbet själva och sparar några kronor eller tid.

Avslutningsvis vill jag tipsa om Håkan Lindgrens skarpa analyser av AI: ”Om du skiter i AI redan idag ligger du 50 år före alla andra.” säger han.

 

 

* Jag har förvisso mina dubier om värdet av skolväsendet i allmänhet och ännu mera värdet av att snart hela befolkningen skall studera minst 13 år, och ofta 16-20 år innan de kan arbeta, skolan är i det sammanhanget också ett “radikalt monopol” som man borde ifrågasätta mer. Men skolan blir sannerligen inte bättre av att vara ett AI lett radikalt monopol än ett människolett dito.