Kategorie produktów

Strona główna

Left Banner

  • Oferta specjalna na Laptopy HP

NVIDIA przejmuje technologię firmy Groq za 20 miliardów dolarów

21 Odsłony
 

Założycielem startupu Groq jest Jonathan Ross, który był także jednym z twórców Google Tensor Processing Unit. W 2016 założył firmę Groq, która rozwijała technologię Language Processing Unit specjalizującą się w zadaniach wnioskowania dla dużych modeli językowych. Liczne testy pokazały, że układy LPU firmy Groq potrafią generować od 3 nawet do 5 razy więcej tokenów niż GPU od NVIDII. Kluczem sukcesu układów firmy Groq było zintegrowanie szybkiej pamięci SRAM w samym chipie LPU. Tam gdzie pamięć HBM była wąskim gardłem dla przepustowości, zintegrowany SRAM znacząco przyspieszał pracę LPU.

Firma NVIDIA jest obecnie liderem na rynku AI i posiada około 80% udziału, z czego niemal 100% udziału w trenowaniu AI. Zakup technologii Groq pozwoli na dominację także segmentu wnioskowania (inference). Jednak, aby nie zostać posądzona o działania monopolistyczne firma NVIDIA nie kupuje firmy Groq, ale ich technologie związane z LPU, by móc je zintegrować ze swoimi produktami. A i to z zaznaczeniem, że nie będą one na wyłączność firmy NVIDIA. Dodatkowo, najważniejsi inżynierowe wraz z założycielem, Jonathanem Rossem, przechodzą do „zielonych”. Firma Groq będzie nadal działała, ale już tylko z biznesem chmurowym na obecnej generacji chipów LPU.

Groq

Mimo potwierdzonej wysokiej wydajności, układy LPU od Groq nie odniosły sukcesu na rynku przez kilka czynników. Pierwszym z nich jest trudność w obsłudze programistycznej. NVIDIA dzięki bibliotekom CUDA wprowadzonym lata temu zdążyła oswoić swoich klientów i to ta technologia jest powoduje, ze produkty firmy NVIDIA są tak popularne na rynku, a inny producenci, nawet tacy jak AMD czy Google mają problem z przebiciem się ze swoimi rozwiązaniami.

Drugim problemem jest sama budowa LPU. Chipy obecnej generacji posiadają jedynie 230 MB pamięci SRAM, więc by uzyskać podobną pojemność jak, na przykład, NVIDIA H100 z 94 GB HDM3 potrzeba aż 420 układów LPU. I tutaj dochodzimy do trzeciego problemu, czyli ceny za układ. Za system zbudowany ze 100 tysięcy LPU firma Humain zapłaciła 1,5 mld dolarów, czyli wychodzi 15 tys. dolarów za jeden układ LPU.

Groq

Chipy LPU powstały w 2019 roku w procesie technologicznym 14 nm. Firma Groq planowała zmienić proces technologiczny na 4 nm, a później wprowadzić kolejną generację układów. Być może NVIDIA skalkulowała, ze kolejne odsłony układów od firmy Groq na tyle zagrożą jej dominacji, że postanowiła wykupić jej technologię za zawrotną kwotę 20 miliardów dolarów.

Firma NVIDIA, oprócz inwestowania w rozwój sprzętu do centrów danych pracujących z AI stara się także wprowadzić wydajne komputery do pracy z AI do domów i przedsiębiorstw. Jednym z pierwszych komputerów i zarazem platformą jest NVIDIA DGX Spark, który służy do lokalnego trenowania i wnioskowania AI. Wykorzystując płytę główną z procesorem NVIDIA GB10 inni producenci wprowadzili do swojej oferty takie komputery dodając swoje wsparcie. Na rynku obecnie możemy znaleźć komputery AI ASUS Ascent GX10, Dell Pro Max z GB10, HP ZGX Nano G1n AI Station, Lenovo ThinkStation PGX czy MSI EdgeXpert MS-C931.

 
Opublikowano w: Aktualności