Nvidia gör det enkelt att köra lokala LLM:er

NVIDIA som är en ledande aktör inom området för grafikprocessorer (GPUs), har meddelat lanseringen av tre nya AI-chips avsedda för konsumentbruk. Dessa nya modeller är RTX 4060 Super, RTX 4070 Ti Super och RTX 4080 Super, och de är designade för att effektivisera körningen av lokala Large Language Models (LLM), såsom GPT-3 och andra liknande AI-modeller.

Nya Konsument-AI-chips

NVIDIA har en lång historia av att dominera marknaden för AI-chips genom sina GPUs, och med dessa senaste tillkännagivanden tar företaget ytterligare ett steg framåt. De nya grafikkorten har tillägg av tensor-kärnor, vilka är särskilt framtagna för att hantera de beräkningskrävande uppgifter som är involverade i generativ AI och LLM:er

RTX 4080 Super har exempelvis kapacitet att generera AI-video 150% snabbare än den tidigare generationens modeller. Dessutom kommer programvaruförbättringar som NVIDIA har annonserat att göra bearbetningen av stora språkmodeller fem gånger snabbare.

Lokala AI-verktyg

NVIDIA har också tillhandahållit lokala AI-verktyg som syftar till att förenkla och förbättra användarupplevelsen när det gäller att köra LLM:er direkt på användarens enhet. Detta innebär en större kontroll och säkerhet, eftersom data inte behöver skickas tillbaka till molnet för bearbetning.

En av de många fördelarna med de nya chipsen är att de kan köras på både stationära och bärbara datorer, vilket gör generativ AI mer tillgänglig för en bredare kundkrets. NVIDIA förväntar sig att nya AI-applikationer kommer att utvecklas under det kommande året för att dra nytta av den ökade beräkningskraften

https://www.cryptopolitan.com/sv/nvidia-presenterar-nya-konsument-ai-chips/

https://nvidianews.nvidia.com/news/generative-ai-rtx-pcs-and-workstations

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *