WASP-HS – forskning om AI-teknik, människa och samhälle
Artificiell intelligens påverkar samhället och individer på många nivåer. Forskningsprogrammet WASP-HS ska undersöka utvecklingen av den nya tekniken och hur den påverkar vårt samhälle och våra beteenden.
Vi står inför, eller befinner oss snarare mitt i, ett omfattande teknikskifte som kommer att påverka oss på ett så genomgripande sätt att det brukar jämföras med den industriella revolutionen.
– När Knut och Alice Wallenbergs Stiftelse beslutade att satsa på WASP, grundforskning inom autonoma system och AI, så kom diskussionerna även in på att de humanistiska och samhälleliga perspektiven av det kommande teknikskiftet också behöver utforskas, berättar Peter Wallenberg Jr, ordförande för Knut och Alice Wallenbergs Stiftelse och Marianne och Marcus Wallenbergs Stiftelse.
Diskussionerna slutade i att Wallenbergstiftelserna genom Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond beslutade sig för den gemensamma satsningen på det nationella programmet WASP-HS, med 660 miljoner kronor under tio år.
Mänskliga värderingar och etiska principer
Idag, befinner vi oss i det som kallas den andra generationens AI-forskning med fokus på maskininlärning, alltså att AI-systemen lär sig utifrån stora mängder data med hjälp av sådant som neurala nätverk och djupinlärning. Men vi knackar också på dörren till tredje generationen, där det handlar om hur vi, människor, också blir en del av AI-systemen.
Runt om i Sverige finns forskare som förbereder framtiden. Och i deras laboratorier utvecklas just nu teknik som kommer ha en stor betydelse i våra framtida liv. Forskarna inom WASP-HS funderar på de möjligheter och utmaningar på samhället och vår vardag som den nya tekniken medför.
– Vi tittar bland annat på hur metoder och verktyg kan säkerställa att artificiell intelligens och autonoma system formas på ett ansvarsfullt vis så att de inte strider mot mänskliga värderingar och etiska principer, säger programdirektör och professor Virginia Dignum, som forskar på samhälleliga, etiska och kulturella konsekvenser av AI vid Umeå universitet.
Forskningsprogrammet ska framför allt analysera etiska, kulturella, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter som kan komma med teknikskiftet.
AI-system styr sökmotorer, som Google, och vad vi får för svar. De avgör om vi får lån, jobb eller utbildningsplats – och vi kan räkna med att allt fler beslut framöver kommer att tas av AI. Därtill interagerar vi med AI-system eftersom tekniken byggs in i många produkter och tjänster.
– Det är därför det är så viktigt att designa systemen så att vi förstår vad de gör. Och eftersom de också fattar beslut som har stor betydelse för oss är det viktigt att de är rättvisa och inte diskriminerande, säger Virginia Dignum.
28 forskningsprojekt över hela landet
Sammanlagt har hittills 28 forskningsprojekt vid ett stort antal svenska universitet fått finansiering via WASP-HS. Några exempel på forskningsområden som projekten behandlar är: Kommer AI-vård vara tillgänglig för alla? Hur ser internationell reglering ut av artificiell intelligens? Vad innebär AI för affärsmodeller, strategier och organisatoriska processer? Hur förändrar artificiell intelligens arbetsmarknaden? Hur påverkar politiska botar demokratin? Vilka utmaningar och möjligheter uppstår inom kreativ-AI? Hur kan sociala robotar vara stöd för lärande? Vad innebär AI för kulturarvssamlingar? Vilka industriföretag kommer att överleva teknikskiftet i Sverige?
Virginia Dignum betonar programmets tvärvetenskapliga karaktär.
– Det är viktigt att vi forskar mer multidisciplinärt, där humaniora och samhällsvetenskap kombineras med teknisk forskning. AI kan inte längre ses som enbart en teknisk eller datavetenskaplig disciplin. Den är per definition tvärvetenskaplig, förklarar Virginia Dignum.
– Det finns många och utmanande frågor. Jag står helt bakom Europeiska kommissionens vision om att artificiell intelligens ska ha människan i fokus och bidra till samhällets och människors välbefinnande. I slutändan hoppas jag att all artificiell intelligens kommer att vara ansvarsfull, säger Virginia Dignum.
Omkring 70 doktorander kommer att knytas till WASP-HS, alla med ett starkt fokus på den sociala interaktionen mellan människor, ny teknik och artificiell intelligens. De studerar vad som händer när människor möter robotar, hur sjukvården förändras med robotar, vilken roll drönare kan spela i människors vardag, hur intelligenta system påverkar människor, hur AI påverkar politiska uttryck i sociala medier, om AI-system kan ha juridiskt ansvar och olika frågor om medicinsk etik, för att nämna några av forskningsfrågorna.
Läs mer om de olika forskningsprojekten
Fakta WASP-HS
WASP-HS ska undersöka de konsekvenser som uppstår till följd av det teknikskiftet som utvecklingen av AI och autonoma system innebär. Forskningsprogrammet ska framför allt analysera etiska, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter.
Programmet är tvärvetenskapligt, humaniora och samhällsvetenskap kombineras med teknisk forskning.
Inom det tioåriga programmet ska en omfattande forskarskola byggas upp med upp till 70 doktorander. 28 forskningsprojekt bedrivs vid ett flertal svenska universitet och utöver det rekryteras minst tio nya forskargrupper och tolv gästprofessorer.
Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond satsar upp till 660 miljoner kronor under tio år på programmet.
WASP-HS ska vara fristående från, men drivas i nära samarbete med, WASP, Wallenberg AI, Autonomous Systems and Software Program. En satsning på 5,5 miljarder kronor av Knut och Alice Wallenbergs Stiftelse på grundforskning inom autonoma system och AI.
Virginia Dignum
är professor i artificiell intelligens med inriktning mot social och etisk AI vid Umeå universitet och var en av de första professorerna som rekryterades inom satsningen Wallenberg AI, Autonomous Systems and Software Program, WASP.
Virginia Dignum deltar aktivt i flera internationella initiativ som rör politiska och strategiska riktlinjer för forskning och tillämpningar inom AI. Hon är bland annat en av 52 experter som har utsetts för att presentera riktlinjer och rekommendationer inom Europas AI-strategi samt medlem av World Economic Forums Global Artificial Intelligence Council, Europeiska kommissionens expertgrupp för artificiell intelligens, verkställande kommittén för IEEE Initiative on Ethically Aligned Design, samt deltagare i European Artificial Intelligence Association (EURAI.