Hugging Face delar ut datorresurser värda 10 miljoner dollar för att hjälpa till att slå de stora AI-företagen

🎁 Hugging Faces initiativ Hugging Face delar ut datorkraft till ett värde av 10 miljoner dollar för att hjälpa till att konkurrera mot de stora AI-företagen.

🤖 Hugging Face ZeroGPU Hugging Face ZeroGPU är en open-source-plattform som gör det möjligt för forskare och utvecklare att träna och distribuera stora språkmodeller utan att behöva tillgång till dyra GPU:er. ZeroGPU använder en teknik som kallas ”model parallelism” för att dela upp en stor språkmodell i mindre delar som kan köras på flera CPU:er. Detta gör det möjligt att träna och distribuera språkmodeller som är betydligt större än vad som tidigare varit möjligt.

Hugging Face har lanserat projektet ZeroGPU för att demokratisera tillgången till AI-träning genom att dela ut datorresurser värt 10 miljoner dollar gratis till utvecklare. Detta initiativ syftar till att minska den ekonomiska bördan för små företag och hjälpa dem att konkurrera med större teknikföretag genom att säkerställa tillgång till samma toppmoderna teknologier. Hugging Face har nyligen tagit in 235 miljoner dollar i finansiering, vilket ger företaget en värdering på 4,5 miljarder dollar.

De delade GPU:erna kommer att vara tillgängliga för flera användare eller applikationer samtidigt, vilket innebär att tillgången avgörs av användningen. Istället för att behöva en dedikerad GPU kan användarna helt enkelt utnyttja exakt den mängd GPU-kraft som deras projekt kräver, medan kapacitet som inte aktivt används blir tillgänglig för någon annan.

Detta kan spara mindre organisationer mycket pengar eftersom traditionellt skulle ett företag behöva ingå långvariga och ofta dyra åtaganden med molntjänsteleverantörer för att säkra beräkningsresurser, även om deras projekt aldrig tar fart eller de inte behöver den mängd kraft de betalat för.

Projektet använder Nvidia A100 GPU-enheter, som är billigare än de mer populära H100-enheter men erbjuder ungefär hälften av beräkningshastigheten. Projektet kommer att vara tillgängligt via Hugging Faces apppubliceringsserveringstillämpning kallad Spaces. Genom detta engagemang för öppen källkod vill Hugging Face se vad alla kommer att skapa härnäst i andan av samarbete och transparens.

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *