Studier av artificiell generell intelligens – AGI

Anandi Hattiangadi vill genom projektet undersöka och besvara ett antal frågor kring artificiell generell intelligens, AGI. Några av dem är: Vad är AGI? Vad innebär det att AGI växer fram i ett system? Vad kan vi lära oss av de risker som är förknippade med framväxande AGI?

”Cogito machina” – latin för Jag, en maskin, tänker – föreslogs av ChatGPT som titel till detta projekt vilket fick projektgruppen att fundera ett extra varv. Kan ChatGPT tänka? Förstod den frågan?

Nyligen uppfattades tänkande maskiner som science fiction, men teknologiska språng i utvecklandet av stora språkmodeller, LLM, – som till exempel just ChatGPT – har de senaste åren revolutionerat modellernas förmågor. Den senaste generationens LLM kan skriva poesi, lösa avancerad matematik och lära dig baka – vilket fått vissa att hävda att modellerna nu visar tydliga tecken på artificiell generell intelligens, AGI, och genuin språkförståelse. Andra menar att systemen bara är ”stokastiska papegojor” som kan härma intelligent beteende men utan att ha egen intelligens.

Systemen är än så länge bara artificiella neurala nätverk, tränade på enorma mängder data som
på allt precisare sätt kan förutsäga den mest sannolika fortsättningen på ett textflöde. Även om
ChatGPT kan lära dig baka en kaka har den aldrig ätit en kaka, än mindre bakat en.

Att besvara frågan om AI-system inom en snar framtid kommer att uppvisa AGI menar forskarna är en brådskande nödvändighet. Om AI-system börjar närma sig mänsklig intelligensnivå, då kan de snart ha förmågan att sätta sina egna mål och försöka få makt över människor.

I ljuset av de mycket snabba teknologiska framstegen oroar sig vissa forskare över att artificiella superintelligenta varelser kommer att dyka upp och se till att vi människor utrotas. Är denna oro obefogad och alarmistisk? Eller vore vi naiva om vi inte tog den på allvar? Hur mycket av vår begränsade tid och energi ska vi ägna åt att minska den risk för människors liv som en framväxande AGI utgör? Å andra sidan, om AI-system mycket snart uppvisar AGI, så kommer vi att behöva bemöta AI-system med övertygelser, önskningar, hopp och rädslor, som i moraliskt hänseende är mycket lika människor eftersom de kommer att precis som vi ha legitima intressen, rättigheter och skyldigheter.

Problemet är att det inte finns något konsensus om vad AGI är, vad som krävs för att ett system ska uppvisa det, och hur vi kan veta om AGI är på framväxt i ett system. Många riktmärken som idag används för att avgöra AGI är ytliga och testar bara utförande, och klarar därför inte av att skilja imitation från verklig AGI.

Anandi Hattiangadi vill fylla kunskapsluckan om AGI genom att besvara följande frågor:

• Vad är AGI?
• Vad krävs för att ett system ska uppvisa AGI?
• Vad innebär det att AGI växer fram i ett system?
• Hur kan vi veta att AGI är på framväxt i ett AI-system?
• Är AGI på framväxt i dagens eller den nära framtidens AI-system?
• Vad kan vi lära oss av de risker som är förknippade med framväxande AGI?