En sak är jag tämligen övertygad om, artificiell intelligens tar inte makten över oss människor. Det kommer inte att bli någon Terminator-framtid där robotarna har tagit över. Jag är samtidigt säker på att AI-utvecklingen inte kan stoppas.

Datorerna kommer inte att styra på egen hand, däremot kommer den som har stor makt över den så kallade artificiella intelligensen ha ännu större inflytande över våra liv än internet och sociala medier har haft hittills. Det blir som med dagens Tiktok, Facebook och internet, fast mycket mycket mer inträngande, djupare, smartare och genomgående.

Redan i dag kan annonsörer prickskjuta med snudd på otäck precision mot konsumenterna, berättade universitetsadjunkt Jan Sjölund från Högskolan i Gävle under ett panelsamtal med forskare på Musikhuset i förra veckan. Hans exempel löd: på Facebook kan det märkas att en tonårig tjej är nedstämd och just då kan hon anses vara extra mottaglig för upplyftande sminkreklam …

Åter till ödesfrågan: om jag får rätt och AI inte kommer att styra på eget bevåg, vem styr då den artificiella intelligensen? Blir det goda krafter, eller blir det mörka krafter? Svaret beror ju delvis på vem jag är, det vill säga vad jag tycker är gott eller ont. Oavsett vad jag tycker blir det nog dessutom lite av båda.

För precis som vid annan datautveckling styrs AI av vad som stoppas in i den så kallade svarta låda som styr den. Det speciella är sedan att den avancerade artificiella intelligensen har möjlighet att utveckla sig själv. Det är så komplext att vi där kan förlora kontrollen över exakt vad som sker, hur och varför. Så resultatet kan bli dåligt, även om avsikten var ”god”.

Men givetvis finns det massor av möjligheter med tekniken: sjukvården kan bli bättre och transportsystemen säkrare. Databaserad granskning kan stärka demokratin och artificiell intelligens kan göra till exempel rekrytering mindre fördomsfull. En mängd användbara och roliga produkter skapas och del tråkiga arbetsuppgifter slopas. AI kommer kanske också att användas för att avslöja falsk information och falska nyheter. Å ena sidan.

Å andra sidan. Det finns skäl att se upp - och hysa stora farhågor.

AI kan inkräkta på integriteten både genom till exempel ansiktsigenkänning och genom att spåra vad enskilda människor gör. Tänk dig en regim som den kinesiska och föreställ dig vad en rapport kan innebära som sammanställer var du varit, berättar hur många öl du brukar köpa, vad du äter, vad du läser, vilka vänner du pratar med, och kanske om vad, samt vilka sjukdomar du har. Därefter ger den underlag till vilken karriär du kan göra.

Strukturella fördomar kan förstärkas, istället för att sållas bort, både beroende på hur datan är programmerad och hur den används. AI kommer dessutom att kunna producera extremt välgjorda men falska bilder, filmer och texter som kommer att upplevas verkliga och sannolika. Polarisering, där olika versioner av vad som är sant ställs mot varandra, kommer troligen att öka. AI kan programmeras för att påverka val. Demokratier kan hotas, även här i Sverige.

Det kommer helt enkelt ha väldigt stor betydelse vilket syfte den har som programmerar den svarta låda som styr de AI-produkter som blir framtidens datasuccéer som Google, Facebook och Tiktok.

Vi får inte vara naiva och vi måste själva bli kunniga - i hela befolkningen. Klarar vi det?