Nvidia prezanton çipin e ri që cili do të ulë kostot e operimit të modeleve AI

1 muaj më parë 9

Nvidia prezantoi një çip të ri ditën e Marte dizajnuar për të funksionuar me modelet e inteligjencës artificiale ndërsa kompania përpiqet të konkurrojë me harduerët AI nga AMD, Google dhe Amazon.

Aktualisht Nvidia dominon tregun e çipeve AI me mbi 80 përqind të tregut. Ekspertiza e kompanisë në njësi grafike të përpunimit(GPU) të cilët janë bërë çipet e preferuara për modelet AI si Google Bard apo ChatGPT i OpenAI është një avantazh i madh kundrejt rivalëve.

Megjithatë çipet e Nvidia janë në mungesë ndërsa gjigantët e teknologjisë, ofruesit cloud tha startupet po luftojnë për të siguruar kapacitetet e nevojshme të kartave grafike për modelet e tyre AI.

Çipi i ri i Nvidia, GH200, ka të njëjtën njësi përpunimi(GPU) si modeli H100. Por GH200 e kombinon GPU-në me 141GB memorie si dhe një procesor qendror ARM prej 72 bërthamash.

“Kemi vendosur ta përforcojmë këtë procesor,” tha CEO i Nvidia Jensen Huang. “Ky procesor është dizajnuar për tu aplikuar në qendra të mëdha të dhënash.”

Trajnimi i një modeli AI duke përdorur sasi të mëdha të dhënash është një proces që merr muaj dhe nganjëherë kërkon mijëra karta grafike dhe në rastin e Nvidia nevojiten çipe H100 dhe A100.

Më pas modeli përdoret në softuer për të bërë parashikime dhe gjeneruar përmbajtje, një proces i quajtur konkludim. Njësoj si trajnimi, edhe ky i fundit kërkon fuqi të madhe kompjuterike dhe çipi GH200 është dizajnuar për këtë qëllim falë kapacitetit të lartë të memories prej 141GB përkundër 80GB në H100.

Debutimi vjen në një kohë kur rivali kryesor i Nvidia, AMD, prezantoi çipin AI MI300X i cili mbështet deri në 192GB memorie dhe për kapacitetin e tij mund të përdoret për parashikime dhe gjeneruar përmbajtje nga AI. /PCWorld Albanian

The post Nvidia prezanton çipin e ri që cili do të ulë kostot e operimit të modeleve AI appeared first on PCWorld Albanian.

Lexo artikullin e plotë