Meta debuterar med ett nytt AI-chip som syftar till att minska beroendet av Nvidia

Meta nya AI chip
Bild från Meta

Meta har introducerat en ny AI-chip för att minska sitt beroende av semikonduktorer från Nvidia Corp. och andra externa företag. Chipen, som är den senaste versionen av Meta Training and Inference Accelerator (MTIA), hjälper till att rangordna och rekommendera innehåll på Facebook och Instagram. Meta släppte den första produkten av MTIA förra året. Chipen är en del av Meta’s strategi för att öka sin egen produktion av AI-tjänster, vilket har lett till en ökad efterfrågan på beräkningskraft. Meta har också utvecklat nya generativa AI-funktioner för sina sociala appar, inklusive anpassade klistermärken och chatbot-karaktärer med kändisansikten.

Företaget har utlovat att spendera upp till 35 miljarder USD på infrastruktur för att stödja AI inklusive datacenter och hårdvara. En betydande del av dessa utgifter kommer troligen fortfarande att gå till Nvidia, som tillverkar de populära H100-grafikkort som krävs för att driva AI-modeller. Meta har angett att det kommer att förvärva 350 000 av dessa kort, vilka varje kostar tiotusentals dollar.

Jämförelsetabell mellan Metas nya AI-chip (MTIA v2) och Nvidias H100-grafikkort när det gäller prestanda:

Baserat på den information som tillhandahålls här är en jämförelsetabell mellan Metas nya AI-chip (MTIA v2) och Nvidias H100-grafikkort när det gäller prestanda:

Performance MetricMTIA v2Nvidia H100
INT8 Inference Work5.5X more than T45.7X more than T4
Power Consumption1.3X more than T47.8X more than T4
CostExpected to be between $2,000 and $3,000At least $30,000 per H100
Memory Bandwidth2.5X increase on local memory per PEHigher memory bandwidth but not as much memory capacity
SRAM Memory3X increase per PE, 2X increase shared SRAMNot specified
PCI-Express Bandwidth64 GB/secNot specified
Clock Speed1.35 GHzNot specified
Chip Area421 mm^2Not specified
Memory Capacity128 GB, 204.8 GB/sec bandwidthNot specified
Processing Elements64 PEsNot specified
Efficiency (TFLOPS/W)Not specified for high-complexity models

Det finns en växande rörelse bland teknikjättar för att utveckla chips internt för att minska sitt beroende av dyra externa beroenden. Meta ansluter sig till rivaler som Amazon’s AWS, Microsoft och Alphabet’s Google i detta ansträngning. Detta kommer dock inte att vara en snabb lösning, eftersom insatserna hittills inte har haft någon betydande inverkan på branschens omättliga behov av Nvidias AI-acceleratorer.

meta AI kretskort investering
Bild från Meta

Nvidia har blivit världens tredje mest värdefulla teknikföretag, efter endast Microsoft och Apple. Företagets försäljning till datacenteroperatörer uppgick till 47,5 miljarder USD under räkenskapsåret 2024, en ökning från bara 15 miljarder USD föregående år. Analytiker förutsäger att summan kommer att mer än fördubblas igen under räkenskapsåret 2025.

Meta’s nya AI-chip är inte ännu i drift för att krafta AI-modeller, utan används för att stödja rankning och rekommendationsbaserade annonsmodeller. Företaget har utlovat att dess AI-chip kommer att hjälpa till att driva och innovera dess AI-modeller i framtiden.

Läs mer : fb.com

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *