Sedan ett par år samlar ett antal privatpersoner ihop och skannar in dokument från Palmeutredningen i ett öppet arkiv på nätet, Palmemordsarkivet.se.

Nu har utvecklarna Jakob Ehn och Peter Örneholm, som till vardags arbetar på Active Solution, byggt ett experiment som använder en GPT-modell, och som gör att de kan chatta med materialet i arkivet.

Även om PalmeGPT, som de kallar den, inte släppts brett har den fått stor uppmärksamhet i sociala medier och Computer Sweden passade på att fråga utvecklarna bakom modellen hur de kom på idén, hur de arbetade fram den – och om modellen kan lösa gåtan som polisen gått bet på.

Hur fick ni idén till PalmeGPT?

Jakob Ehn:

– Peter och jag har utforskat de olika möjligheter som LLM (GPT-3, Chat GPT etc) innebär. Som med allt arbete inom AI så blir det som allra mest intressant när det finns ett behov och ett relevant dataset att arbeta med. När Christian Landgren för några dagar sedan delade en idé på Twitter så hade vi fått just ett behov och delar av det relevanta datasetet fanns tillgängliggjort av teamet bakom Palmemordsarkivet. Så Peter och jag drog ett mess till varandra och hackade ihop ett experiment över helgen.

Hur har ni gått till väga när ni byggt den och hur är funktionen uppbyggd?

Peter Örneholm:

– Först och främst behövde vi indexera de dokument som skulle ligga som underlag för chattbotten. Det här blir ju lite meta, men vi insåg ju att för att spara tid kunde vi låta Chat GPT skriva det programmet åt oss. En kort prompt och 47 sekunder senare så var indexeringsapplikationen klar. Den här utvecklingen med möjlighet att generera kod har gått så fort att man hinner knappt blinka innan det finns tre nya AI-tjänster som snabbar upp kodning.

Jakob Ehn:

– Kruxet med Chat GPT är att den har en begränsning på hur mycket information den kan processa i taget, så vi som utvecklare behöver hitta ett sätt att – givet en fråga – mata GPT-modellen med lagom mycket information så det går att chatta med den.

– Vi utgick ifrån ett open source-projekt från Microsoft som löser stora delar av det här åt oss. Den kombinerar Azure Cognitive Search med Chat GPT-modellen vilket ger oss möjligheten att chatta med massor av ostrukturerade data, i det här fallet skannade PDF:er. Det häftiga, och kanske kritiska för såna här typer av tillämpningsområden, är att vi också, till skillnad ifrån vanliga Chat GPT, får källhänsvisningar. Då går det att gräva djupare, dubbelkolla informationen och så vidare.

Hur bra funkar den?

Jakob Ehn:

– Hur väl den fungerar beror på vad du har för förväntningar. Vi har fått frågan om vi kan be den lösa Palmemordet, och nej – det kommer den inte göra. Därmed inte sagt att någon i framtiden kan bygga ett AI som löser det. Men det vi har byggt är ett exempel på hur en människa kan använda generativt AI för att utforska ostrukturerade datamängder på ett intuitivt sätt, chatt i det här fallet. Det är den riktigt bra på.

Peter Örneholm:

– Lite förenklat kan man säga att det är rätt likt nya Bing, fast vi har låtit den indexera en specifik utpekad datamängd istället för hela internet.

Hur kan Chat GPT hjälpa till för de som är intresserade av den här frågan?

Peter Örneholm:

– Min känsla är att Chat GPT bara är början. AI som kan assistera och underlätta för en människa letar sig in i allt fler tjänster. Nu senast såg vi att Microsoft bygger in det i hela Officepaketet. Det enda rimliga är att fler och fler företag bygger in funktioner som dessa i sina system. Vare sig det är för att skriva en födelsedagsinbjudan, summera ett teamsmöte eller underlätta för polisen för att gräva i stora mängder utredningsmaterial.

Kommer ni att släppa den brett?

Peter Örneholm:

– Vi har aldrig fått så många DM på Twitter, inkorgen var full med förfrågningar. Tyvärr är svaret nej, just PalmeGPT är och förblir ett (förvisso fullt fungerande) experiment på våra laptops. Det är något vi byggde som ett experiment och för att på ett ansvarsfullt sätt gå live så krävs det en del mer arbete.

Tror ni att AI skulle kunna hjälpa till att lösa mordet?

Peter Örneholm:

– Det får framtiden utvisa, men jag tror starkt att skickliga personer som arbetar med brottsutredningar kommer ha större sannolikhet att lösa fler brott och på kortare tid om de använder verktyg som drar nytta av AI på ett ansvarsfullt sätt.

Jakob Ehn:

– Precis! AI är inte en silverbullet, men rätt använt kommer det vara svårt att inte dra nytta av de möjligheterna. Så kommer AI lösa mordet? Nja, men en brottsutredare som använder AI kommer kanske göra det.