Bevaka
AI-utvecklingen

S REN ANDERSSON / S REN ANDERSSON
AI-utvecklingen

Ekonom öppnar svenskt AI-center med etik i fokus

Anna Felländer är digitaliseringsekonom, rådgivare och grundare av AI Sustainability Center. fPlus möter henne på Alma i Stockholm, ett kreativt kontor där entreprenörer och kreatörer hyr in sig. Senare i höst kommer medlemsklubben även bli en knutpunkt för yrkesverksamma inom AI och etik. Planen är att samla forskningen, regelverket, näringsliv och entreprenörskapet som rör AI och etik i en och samma plattform, berättar Felländer. 
Google Search fyller 20 år. Hur har det och den digitala revolutionen liksom AI i stort förändrat näringslivet och världen?
– Den digitala utvecklingen, med Artificiell Intelligens som just nu är den drivande kraften, skapar enormt värde för individer, företagen och samhället i stort. Alla behöver omfamna detta. Idag finns det ett ökat gap mellan de som leder utvecklingen och de som inte hakar på alls.
–  Man skulle kunna säga att det pågår en global kapprustning om vem som investerar mest i AI, där USA och Kina leder stort. Men de investerar bara i ena sidan av myntet, ingenjörsdelen. Den humanistiska sidan saknas. För att undvika oavsiktliga fallgropar behöver vi kunna identifiera, mäta och styra hur AI "skalar upp" i en bredare etisk och samhällsekonomisk kontext. 
AI har både möjliggjort att olika kunderbjudanden kan personifieras och bidragit till enorma kostnadseffektiviseringar operationellt, berättar Anna Felländer som samtidigt pekar på de varningstecken som finns. En undersökning som Boston Consulting Group och MIT gjorde visar att chefer överlag har låga kunskaper gällande att styra AI. Speciellt saknas insikter och förståelsen kring vilka följder AI får i en etisk och social kontext.
– Det finns egentligen två typer av förhållningssätt som är riskabla när det kommer till AI. Antingen är man för rädd och avvaktande, vilket leder till att man snabbt förlorar relevans. Eller så skyndar man på för snabbt utan att träna, testa och styra vilka konsekvenser AI får utöver vinst och ökad försäljning. Då ökar risken för att hamna i kostsamma fallgropar, förklarar Felländer.
– AI skiljer sig från andra datadrivna digitala initiativ. Explicita och implicita antaganden reproduceras av självlärande algoritmer på ständigt föränderliga data sets. De etiska värderingarna riskerar därmed att bli svåra att övervaka och styra. För att garantera att de etiska principerna man som företag redan värnar, hänger med in i AI-ramverket behöver företag omfamna AI på ett hållbart sätt. Det blir som en uppgraderad form av CSR ”Corporate Social Responsibility”. Det är just denna organisatoriska approach till AI och etik som vi kommer jobba fram i AI Sustainability Center. 
Som ekonom, vilka är vinsterna som du ser med den nya tekniken och finns det några ekonomiska baksidor?
–  I den offentliga statistiken syns inte de produktivitetsvinster som vi tycker borde följa av digitaliseringen och det förbryllar oss ekonomer. Under det tidigare skedet av digitaliseringen såg vi stora produktivitetsvinster i statistiken till följd av utvecklingen av hårdvara. Men trots att vi nu skördar ännu mer frukter av digitaliseringen saknas det i statistiken.
– Detta kan bero på flera faktorer, men jag tror, liksom Erik Bryngelsson på MIT, att vi mäter fel. Det handlar dels om nya prismodeller men även om att den tidsoptimering i vår fritid vi uppnått idag, till exempel genom användandet av tjänster som Swish, inte lyckas fångas fullt ut i statistiken. 
Felländer pekar på att det vid varje teknologiskt paradigmskifte tar tid att realisera nya innovationer och kanske är det så att det till och med tar extra lång tid i just den data drivna AI-eran. Det kan alltså vara ytterligare en förklaring till den uteblivna produktivitetsökningen.
– Det är möjligt att vi inte heller kommer att se produktivitetsvinsterna under åren som kommer, sammanfattar Felländer.
– Sedan behöver vi också bättre metoder för mäta digitaliseringens vinster i stort för samhället. För om man från politikens håll inte ser vinsterna med digitaliseringen så är det svårt att fortsätta att satsa och investera på det.
Vilka branscher har mest att vinna på AI?
– Utbildning, sjukvård och hälsa. Dessa branscher är lågt hängande frukter och de samhällsekonomiska vinsterna som finns här är enorma. 
Hur ser du på monopolfrågan, det är idag ett antal färre stora aktörer, som Google, Facebook och Amazon som driver utvecklingen framåt?
– Data kring mänskliga beteenden och preferenser är det nya guldet. Vi söker oss till sociala plattformar ”där alla finns”, och denna nätverkseffekt skapar stora ”first-mover advantages”. Men dessa snabba monopolställningar och höga inträdesbarriärer ifrågasätts när Facebook-skandalen gör det tydligt att det inte finns någon konkurrent att gå över till.
Vad bör fokuset framåt vara? 
– Utbildning och individuellt livslångt lärande. Det är inte jobb som försvinner utan arbetsuppgifter som förändras. De största vinsterna uppstår när AI och människan jobbar tillsammans, slår Felländer fast.
– Vi står inför ett vägval där vi behöver lära oss att leda utvecklingen i rätt håll och förstärka det som är bra. Det finns “bias" i både data och algoritmer samtidigt som självlärande algoritmer gör det svårt att övervaka att värderingar och principer som egentligen följs. För att undvika att tilliten går förlorad måste vi hitta ramar som fungerar, fortsätter Felländer och lyfter betydelsen av att de etiska frågorna kommer allt högre upp på agendan. Är det till exempel etiskt försvarbart för ett mediaföretag att algoritmen fungerar så att den rekommenderar artiklar till en person med rasistiska åsikter som endast stödjer hens åsikter?
I stort handlar det även om, menar hon, om att hitta balansen mellan att människor behöver lämna ifrån sig viss integritet för att få desto mer personliga rekommendationer som underlättar och tidsoptimerar vardagen. Men, GDPR skapar idag en falsk trygghet och det finns en regulatorisk gråzon. Kunder och medborgare kräver i allt större utsträckning att deras data hanteras på ett etiskt hållbart sätt och det blir en viktig konkurrensfaktor för företag att kommunicera detta, avslutar Felländer.

16 okt