Dell har inlett ett samarbete med Hugging Face som ska hjälpa företaget att utveckla generativa AI-modeller med öppen källkod som kan användas av Dells infrastruktur och kunder. Genom partnerskapet kommer Dell att tillhandahålla en färdigpaketerad AI-lösning.
Hugging Face utvecklar verktyg för att bygga applikationer med maskininlärning och AI-modeller med öppen källkod. Dell planerar att använda mjukvaruverktygen för att skapa en ”Hugging Face Dell”-portal med dedikerade containrar och skript för inferens och finjustering av generativa AI-modeller, enligt ett blogginlägg från Dell.
– Organisationer kan gå till Hugging Face och välja en modell som passar deras behov. Dell kommer att tillhandahålla inställningar för att maximera kompatibilitet och prestanda för deras servrar, säger Jack Gold, chefsanalytiker på J. Gold Associates.
– Det är i princip ett sätt för Dell att sälja mer av sin hårdvara.
Tjänsten innebär att Dell konsulterar en kund som använder Hugging Face för att välja en AI-modell med öppen källkod som bäst passar kundens behov. Dell tar sedan modellen, optimerar den för Dell Power Edge-servern och tillhandahåller den till kunden som en ”container” som den kan köra på sin lokala server – antingen en ny som de köper från Dell eller en som de redan har, enligt Gold.
– Fördelen för kunden är att de inte behöver bygga en egen modell, vilket kan vara mycket dyrt och tidskrävande. Att använda en öppen källkodsmodell kanske inte är lika exakt som att utbilda en egen modell, men för vissa användningsområden är tillräckligt bra okej.
För Dell innebär partnerskapet med Hugging Face en fördel när det gäller att sälja fler servrar för AI-arbetsbelastningar, som växer för många företag. Dell kommer också att berätta för kunderna vad de säkert kan köra på plats, snarare än i det publika molnet. Att köpa en AI-lösning i det publika molnet kan vara dyrt och riskerar att exponera eller förlora konfidentiella data.
Shivani Agarwal, senior konsult på Dell Generative AI Solutions, säger att tjänsten ska hjälpa användare att enkelt och säkert distribuera modeller med öppen källkod som finns tillgängliga på Hugging Face med Dells servrar och datalagringssystem.
”Med tiden kommer Hugging Face att släppa uppdaterade containers med optimerade modeller för Dell-infrastruktur, vilket ger förbättrad prestanda och stöd för nya generativ AI-användningsfall och modeller”, säger Agarwal i blogginlägget.
”Detta partnerskap möjliggör en förbättrad användarupplevelse på plats och förbättrar drastiskt tiden till värde för våra kunder som bygger generativ AI-lösningar. Kunderna kan lägga mindre tid på att lösa biblioteks- och drivrutinsversioner och identifiera beroenden och ägna mer tid åt utveckling och implementering.”