AI-utvecklingen

Ny rapport: Tillitsfrågan är central för AI:s framtid

Det nystartade AI-centret AI Sustainability Center har släppt en rapport som pekar på behovet av ett samlat grepp om ansvarsfrågorna inom det nya teknikfältet. ”Människan behöver styra AI, inte tvärtom” säger Anna Felländer, medgrundare till AI Sustainability Center och tillsammans med bland andra forskaren Stefan Larsson, en av rapportförfattarna till ”Hållbar AI”.

Vilka vill ni nå med rapporten?

– Politiker, lagstiftare men även akademin och organisationer som behöver ta ansvar och arbeta proaktivt för att teknologin inte ska leda till diskriminering, integritetskränkningar samt beslut och rekommendationer baserade på förlegade normer. Människan behöver styra AI, inte tvärtom. Näringslivet och offentlig sektor behöver ta ett ansvar för hur teknologin påverkar samhället. Teknologin skapar enorma värden, dessa riskerar att gå förlorade om vi inte tar en bredare och ansvarsfull ansats.

Vilken roll har institutet, vad särskiljer er från andra organisationer som arbetar med AI-frågor? 

– Vårt syfte är att mäta, identifiera och styra implikationerna av AI i en bredare kontext. Centret inriktar sig både på forskning och insikter och hjälper organisationer att omfamna AI på ett hållbart och ansvarfullt sätt. Regelverket släpar efter och AI:s  uppbyggnad och dess implikationer för samhället kräver en djup förståelse inom olika vetenskapliga discipliner - teknikvetenskap, samhällsvetenskap, juridik, medicin som humaniora. Men kanske ännu viktigare just nu är samarbeten mellan akademi, industri och offentlig sektor. Det är en av centrets huvudsyfte.

Vilket är ert viktigaste medskick till politiker eller någon som arbetar med policy inom området? 

– Tillitsfrågan är central om vi vill uppfylla de löften och värden AI kan medföra.

Hållbarhet är en term som förekommer inom olika domäner och branscher. Vad betyder hållbarhet i AI-sammanhang?

– Ansvar och pro-aktivitet för att undvika kostsamma fallgropar: Att skapa förutsättningar för att att AI integreras i samhället och i organisationer utan att vi förlorar kontroll över våra våra värderingar. Att utifrån både ett tvärvetenskapligt perspektiv och med vårt ramverk reda ut vad till exempel förklarbarhet och transparens betyder i praktiken.

Talar politiken, akademin och industrin samma språk när det gäller denna nya teknologi?

– Tyvärr inte. Mycket står på spel när tilliten till AI utmanas. Regleringsfrågorna är många och det behövs en mer fokuserad ansats. Det gäller både etiska ramverk såväl som tolkning av rådande regleringar. Och, tillsynsmyndigheterna behöver utbildas för att kunna hålla jämna steg med teknik- och metodutvecklingen och hantera AI som marknadstillämpad teknologi. Relationen mellan förklarbarhet/transparens och ansvarsfrågor är nyckelfrågor för tillit.

Ni efterlyser ett kunskapslyft. Hur kan det gå till i praktiken? Behövs någon form av obligatorium, AI för alla, liknande den som kom med internetvågen?  

– Vi behöver kunskap om detta på alla nivåer i samhället. Näringslivet och offentlig sektor behöver ta ett ansvar för hur teknologin påverkar samhället. De har allt att vinna på att agera proaktiv och ansvarsfullt för att undgå oavsikliga negativa etiska fallgropar ochbygga tillitfsulla relationer med sina kunder.  

Toppnyheter

Välj organisation

Få nyheter från den organisation du väljer