Hur viktig har prompt engineering blivit som it-kompetens?

Så viktig att Erick Brethenoux, adjungerad professor vid Illinois Institute of Technology, säger att alla hans civilingenjörsstudenter har skrivit in kunskaper i AI och prompt engineering i sina cv:n och Linkedin-profiler. De vet att det är vad företagen vill ha nu.

– Det är avgörande. Prompt engineering är en mycket viktig del av vad som komma skall, inte bara med tanke på Open AI, Google, Amazon och Microsoft, utan även för alla open source-modeller, säger Erick Brethenoux.

– Studenterna ska ut i arbetslivet, och de måste behärska den tekniken på ett eller annat sätt.

Dessa anekdotiska bevis bekräftas av Linkedin-data, som visar en kraftig ökning av efterfrågan på prompt engineering, med tiotusentals jobbannonser som nämner det för olika tjänster.

Och sedan början av året har Linkedin sett en genomsnittlig ökning med 75 procent varje månad av medlemmar världen över som lägger till termer som "GAI", "Chat GPT", "Prompt Engineering" och "Prompt Crafting" i sin profil. Antalet Linkedin-medlemmar som har, eller har haft, positioner som "head of AI" har nästan tredubblats under de senaste fem åren.

AI- och maskininlärningsspecialister toppar listan över snabbväxande jobb, följt av hållbarhetsspecialister, business intelligence-analytiker, informationssäkerhetsanalytiker samt ingenjörer inom förnybar energi, enligt en undersökning från World Economic Forum.

Promptingenjörer kan också tjäna en rejäl lön, eftersom promptteknik behövs för att förbättra interaktionen mellan människa och maskin med generativ AI-verktyg.

Enligt Avivah Litan, analytiker på Gartner Research, växer behovet av skickliga promptingenjörer snabbt, lika snabbt ”som generativ AI-applikationer utvärderas och testas”.

– Vi tycker att det är viktigt att företagen utbildar sina befintliga utvecklare och mjukvaruutvecklare i nya tekniker för prompt engineering, säger hon.

– Det är inte lätt att få bra resultat från generativ AI-modeller om man inte är skicklig på dataförberedelse och processflöden för att få modellerna att fungera effektivt. Men du behöver inte gå ut och anställa ny personal för det – du behöver förmodligen bara en handfull specialiserade promptingenjörer för att starta utvecklingsprocessen och hjälpa till att utbilda andra motiverade och kompetenta ingenjörer och utvecklare som redan finns i din organisation.

Även om universiteten så småningom kommer att utbilda ingenjörer, utvecklare och andra i prompt engineering, håller Erick Brethenoux, som också är analytiker på Gartner, med om att organisationer i dag bör fokusera på att kompetensutveckla befintliga medarbetare.

– De människor man redan har besitter domänkunskapen. Du har redan teknikexperter där. Det finns människor som arbetar ihop och som redan känner till dina affärsproblem, säger han.

För närvarande är onlineplattformar för lärande som Udemy, Coursera och Code Academy de bästa ställena att vända sig till för att kompetensutveckla eller omskola anställda, enligt Erick Brethenoux.

Under de senaste fem månaderna har Coursera lanserat fyra kurser i ämnet, och enligt en talesperson har mer än 170 000 studenter deltagit i dem.

Även Chat GPT-skaparen Open AI och den välkände AI-forskaren Andrew Ng – medgrundare och chef för Google Brain – har också lanserat en kurs, Chat GPT Prompt Engineering for Developers.

Och i näringslivet har en rad företag redan skapat befattningar för promptingenjörer.

Kim Curley, chef för People & Organization på internationella konsultföretaget NTT Data, säger att hennes företag alltid har skapat nya jobb som svar på omvälvande teknik, och befattningen som prompt engineer kommer att göra det möjligt för dem att dra nytta av ny teknik, särskilt inom AI-området.

– Som vi alla har sett finns det en stor variation i kvaliteten på resultaten från AI, och den kvaliteten har mycket att göra med hur vi ställer de frågor vi letar efter svar på, säger Kim Curley.

– Promptingenjörer behöver inte bara förstå de underliggande data som de söker efter utan också sammanhanget för det svar som de behöver. Det här är ett hett jobb och ett som kommer att bli allt viktigare i takt med att fler organisationer börjar använda AI.

Att vidareutbilda en befintlig medarbetare, säger Kim Curley, är också rätt väg att gå när man skapar tjänsten som prompt engineer.

– Behovet av att förstå sammanhanget för frågan och svaret ger människor som redan arbetar med dina data och i ditt företag ett stort försprång för att lyckas, särskilt eftersom AI har en bit kvar när det gäller konsekvent kvalitet. Med detta sagt ser vi att dessa färdigheter börjar läras ut i traditionella utbildningskanaler nu, så förvänta dig att denna roll kommer att utvidgas till nyanställda som är tidigt i sin karriär, säger Kim Curley.


Så varför behöver LLM tränas?

LLM är de djupinlärningsalgoritmer – neurala nätverk – som oftast kännetecknas av sina enorma mängder information. LLM kan ha miljontals, miljarder och till och med biljontals parametrar eller variabler. LLM är i princip generatorer av ”nästa ord”, och att träna dem att välja det lämpligaste svaret på en given fråga är en promptingenjörs jobb.

– Tänk på det som processen att interagera med en maskin för att få den att producera de resultat du vill ha, säger Sameer Maskey, AI-utbildare vid Columbia University och vd för Fusemachines, ett AI-konsultföretag.

Medan de flesta LLM:er som Open AI:s GPT-4, Googles Lamda eller Hugging Faces Bart är förifyllda med enorma mängder information, gör prompt engineering att generativ AI-verktyg kan skräddarsys för specifika branscher eller organisationer.

Med tiden förväntas massiva, amorfa LLM:er som GPT-4 att ge vika för mindre modeller som är mindre beräkningsintensiva och mer domänspecifika, vilket gör att mer kompakta LLM:er kan få fäste i ett antal vertikala branscher. När detta sker kommer prompt engineering att bli ännu viktigare.

– Ett av de största fokusområdena ur ett forskningsperspektiv är hur man kan få ut liknande noggrannhet ur en LLM utan att behöva använda miljontals, miljarder eller till och med biljoner parametrar, säger Sameer Maskey.

– GPT kommer inte att försvinna, men på backend-sidan kan det bli mindre.

I den mest grundläggande bemärkelsen kräver prompt engineering, eller utformning av frågor eller uppgifter för AI, fem ävergripande överväganden, enligt Sameer Maskey:

  • Kontext – ge AI-motorn en specifik sfär av vertikala uppgifter, till exempel finansiella tjänster, sjukvård eller tillverkning.
  • Ge den själva uppgiften – be den till exempel att returnera en lista över alla geografiska områden där diabetes förekommer hos 20 procent eller mer av befolkningen.
  • Specificitet – begränsa svarens omfattning. Be AI-verktyget att skapa en lista istället för en bild, till exempel.
  • Finjusteringsprocess – be AI:n att utveckla sina svar för att avgöra om de är korrekta.
  • Omarbetning – om svaren inte är korrekta, be om mer information eller be AI:n att utveckla svaren ännu mer.

Prompter kan vara multimodala. Du kan till exempel skriva en prompt för att få fram text om en bild i ett tvåstegssystem. I det scenariot kan prompt engineering exempelivs användas för att få insikter om radiologiska bilder; en promptingenjör matar in radiologiska bilder och AI-motorn analyserar dem för att visa akuta tillstånd som behöver analyseras närmare av radiologer och läkare.

– Baserat på vad du matar in kan det vara ett textbaserat fönster, en kodningsplattform där du använder kodavsnitt som prompter. Man kan också ladda upp bilder eller videor, och så vidare, säger Sameer Maskey.

En fördel med generativ AI är att det är tillgängligt för icke-tekniska medarbetare – det vill säga att medarbetarna inte nödvändigtvis behöver kodningskunskaper.

– Om du till exempel vill bygga en linjär regressionsmodell på ditt system eller göra någon form av statistisk analys på en given datamängd – tidigare kunde inte affärsfolk göra det, eftersom de inte kunde Python, till exempel. Det finns många fall där icke-ingenjörer skulle ha stor nytta av att kunna göra statistiska analyser av datamängder. Nu kan de göra det, säger Sameer Maskey.

Sameer Maskey menar att prompt engineering en dag kommer att liknas vid att lära sig använda ett Excel-kalkylblad, som i dag är användbart inom många affärsenheter eller avdelningar.

Gartners Avivah Litan tror att prompt engineering så småningom kommer att ingå i kompetensen för applikationstekniker och mjukvaruutvecklare.

– Det kommer att vara en nödvändig kompetens i framtiden, men det kommer inte att vara en separat karriärväg, säger hon.

Enligt en ny rapport från Forrester Research förväntas molnleverantörer också lansera prompt engineering-tjänster.

”År 2024 kommer alla hyperscalers att erbjuda prompt engineering”, säger Forrester.

”Företagens införande kommer dock att vara begränsat. På grund av ofullständiga kontextuella data och begränsad erfarenhet av naturligt språk och prompt engineering bland datavetare, kommer molnleverantörens första generationens prompt engineering-tjänster inte att räcka för att tillgodose de skräddarsydda finjusteringsbehoven.”

Trots detta är utvecklingen av prompt engineering-kompetens i nuläget mestadels "learning by doing" eftersom det inte finns någon lärobok i prompt engineering, påpekar Erick Brethenoux.

– Vilken typ av expertis har vi efter bara nio månaders erfarenhet med generativ AI-verktyg? Det viktigaste handlar om att bygga upp ett AI-kunskapsprogram inom organisationen, och sedan börja kompetensutveckla medarbetarna, säger Erick Brethenoux.