Open AI:s nya lösningar hotar open source-företag – får svårt att överleva

Flera nya uppdateringar från Open AI – skaparen av ChatGPT och GPT-4 – som presenterades på företagets första utvecklarkonferens kan hota överlevnaden för ett antal leverantörer av programvara med öppen källkod.

Företaget släppte flera nyheter, bland annat ett nytt Assistants API, nya modaliteter, anpassade GPT:er, en ny butik för modeller och nya prispolicyer vid sin första utvecklarkonferens i San Francisco nyligen.

– Dessa lanseringar riktar sig direkt mot open source-communityn som helhet där Open AI strävar efter att replikera mycket av den funktionalitet som finns i ramverk och bibliotek som Langchain och till och med punktlösningar som vektordatabaser, till exempel Metas Faiss och Chroma DB, säger Bradley Shimmin, chefsanalytiker på Omdia.

– Genom att sänka sina priser och bygga in möjligheten att skapa funktioner, använda multimodalitet och bygga in embeddingsfunktionalitet – allt som en naturlig del av användarupplevelsen i sin nya GPT – försöker Open AI positionera sig som ett livskraftigt alternativ till bygg-det-själv-utveckling med öppen källkod, säger Bradley Shimmin, analytiker på Omdia.

Bradley Shimmin jämför Open AI:s nya uppdateringar med Google Cloud, som har presenterat en ny utvecklarupplevelse via sitt Vertex AI-erbjudande. Open AI:s och Googles initiativ kommer sannolikt att skapa konkurrens för modell- och verktygsbyggare som arbetar i open source-communityn, säger Bradley Shimmin.

Mjukvaruleverantörer kan få det hett om öronen

Flera företag som utvecklar programvara med öppen källkod kan få det tufft och vissa kan till och med hotas i sin överlevnad på grund av de nya Open AI-uppdateringarna, enligt analytiker.

– Det nya Assistants API:et kan göra det möjligt för utvecklare att bygga mer sofistikerade AI-applikationer med mindre ansträngning, vilket kan locka användare från andra plattformar, säger Jim Kaskade, vd för Conversica, som tillverkar AI-drivna chattbotar.

Enligt Open AI kommer det nya API:et att erbjuda nya funktioner som en kodtolk, Retrieval Augmented Generation (RAG) och funktionskallelser för att hantera ”tunga lyft” som tidigare krävde utvecklarexpertis för att bygga AI-drivna applikationer.

Assistants API kan orsaka intäktsförluster för open source-företag som Langchain, Llamaindex och Chroma DB, enligt Andy Thurai, chefsanalytiker på Constellation Research.

Samma sak säger David Menninger, vd på Ventana Research.

– För organisationer som vill standardisera på Open AI, ju mer deras plattform erbjuder, desto mindre kommer organisationer att behöva andra ramverk som Langchain och Llamaindex. De nya uppdateringarna gör det möjligt för utvecklare att skapa sina applikationer inom ett enda ramverk, säger David Menninger.

Han påpekar dock att tills de nya funktionerna, till exempel det nya API:et, blir allmänt tillgängliga kommer företagen att fortsätta att sätta applikationer i produktion genom att förlita sig på befintliga ramverk med öppen källkod.

De företag som erbjuder specifika arbetsflöden, orkestrering och andra verktyg för RAG kan också drabbas, tillsammans med vektordatabasföretag som Chroma DB och Pinecone som kan se en påverkan på sina intäkter, enligt Andy Thurai.

– Om GPT-4 Turbos RAG-funktion avsevärt förbättrar effektiviteten och noggrannheten vid informationshämtning och enkelt kan integreras i AI-applikationer, kan det utgöra ett konkurrenshot mot Pinecones vektorsökningsprodukter, säger Jim Kaskade och tillägger att företaget kan behöva börja erbjuda mervärdestjänster som OpenAI inte har för att mildra intäktsförlusten.

Å andra sidan anser Ventana Researchs David Menninger att även om funktioner som RAG kan minska marknadsmöjligheterna för vektordatabasföretag, kommer marknadens mångfald inom segmentet att se ”ett stigande tidvatten som lyfter alla båtar”.

De nya uppdateringarna kan också fungera som en katalysator för innovation på marknaden, enligt Bradley Shimmin från Omdia.

GPT-4 Turbo skapar ringar på vattnet

Under OpenAI:s Dev Day-event lanserades även en ny GPT-4 Turbo-modell, som inte bara är snabbare och mer effektiv, utan även billigare än befintliga erbjudanden.

”GPT-4 Turbo är mer kapabel och har kunskap om världshändelser fram till april 2023. Den har ett 128k kontextfönster så att den kan få plats med motsvarande mer än 300 sidor text i en enda prompt”, skriver företaget i ett blogginlägg och tillägger att modellen har optimerats för att förbättra prestanda och minska kostnaden för in- och utmatning av tokens jämfört med GPT-4.

Den nya modellen med sina avancerade funktioner tillsammans med den reducerade prissättningen kommer att göra det extremt svårt för många företag, särskilt startups, att konkurrera med Open AI inom generativ AI.

– Många små och nystartade företag inom generativ AI kämpar med räckvidd och medvetenhet. Om de inte omformar sig för att lösa specifika affärsproblem kan de inte konkurrera mot dessa jättar, säger Andy Thurai.

Företag som tidigare i år presenterade lösningar som motsvarade ett enkelt hölje på de befintliga Chat GPT API:erna kommer att drabbas hårdare eftersom de aldrig hade en lång hållbarhet, enligt Forrester-analytikern Rowan Curran.

– De nya beskeden från OpenAI kommer att tvinga dem att antingen anpassa sig och tillhandahålla några differentierade värdeskapande funktioner eller att lägga ner, säger Rowan Curran.

GPT-4 Turbo tillsammans med den reducerade prissättningen övervinner stora begränsningar i Chat GPT, som avsaknad av stöd för multimodala funktioner. Turbo-modellen introducerar två versioner – en för enbart text, som är billigare, och den andra för både text och bilder.

Modellen för enbart text kostar 0,01 dollar/1 000 inmatade tecken och 0,03 dollar/1 000 utmatade tecken jämfört med GPT-4 32K-modellens inmatningskostnad som var 0,06 dollar. GPT-4 Turbo kommer att kosta 0,00765 dollar för att bearbeta en bild på 1080×1080 pixlar, säger företaget.

LLM-leverantörer som Cohere och Anthropic kommer också att möta hård konkurrens på grund av de uppdateringar som Open AI har lanserat.

– Uppdateringarna och förbättringarna kan döda Anthropic och Cohere om de inte innoverar snabbare. Just nu ligger GPT-4 Turbo långt före konkurrenterna, säger Andy Thurai och tillägger att företag kan förvänta sig att se uppdateringar från båda modellleverantörerna inom kort.

GPT-4 Turbo förväntas sänka inträdesbarriären för utvecklare som vill bygga sina AI-applikationer men har begränsade resurser, säger Rowan Curran från Forrester.

De nya funktionerna gör också Open AI mer attraktivt för stora företag, som hittills har tvekat att använda några av Open AI:s LLM-modeller på grund av deras höga kostnader och tillgången till alternativa LLM-modeller baserade på öppen källkod.

Nya intäktskällor för företag

Trots att Open AI:s tillkännagivanden påverkar rivaler och programvaruföretag med öppen källkod, anser experter och analytiker att just dessa uppdateringar kan bidra till att generera nya intäktsströmmar för företag.

– Det finns en hel del nya applikationer som kan utnyttja dessa uppdateringar, inklusive anpassade AI-lösningar för olika branscher, avancerade chattbotar, röstaktiverade applikationer, avancerad dataanalys och rapportering, AI-drivna spel och underhållning, programmering och kodgenerering, integrationstjänster samt röst- och textanalys, säger Jim Kaskade från Conversica.

Assistants API kan enligt Open AI ha flera användningsområden, allt från en app för dataanalys baserad på naturligt språk till en kodningsassistent och en AI-driven semesterplanerare. Andra användningsområden som nämns är en röststyrd DJ och en smart visuell canvas.