Korzystając ze strony ITnes.pl wyrażasz zgodę na wykorzystywanie przez nas plików cookies. Możesz określić warunki przechowywania lub dostępu do plików cookies w Twojej przeglądarce.
Close
Menu

Czym jest NPU?

Wysłany dnia: Aug 5, 2024 | Autor: ITnes.pl | Kategorie: Poradnik technologiczny, Nowości w ofercie sklepu, Aktualności
Czym jest NPU?
Sztuczna inteligencja coraz bardziej zadomawia się w naszej rzeczywistości. W związku z tym, że generatywna sztuczna inteligencja stale się rozwija, producenci tacy, jak Intel, AMD i Qualcomm mówią również o sprzętowej stronie równania. Wraz z wprowadzeniem NPU, czyli jednostki przetwarzania neuronowego, procesy wykorzystujące sztuczną inteligencję zostaną przyspieszone.

Co to jest NPU (jednostka przetwarzania neuronowego)?


NPU, czyli jednostka przetwarzania neuronowego, to dedykowany procesor zaprojektowany specjalnie do przyspieszania procesów sieci neuronowej. Sieć neuronowa to zasadniczo rodzaj algorytmu uczenia maszynowego, który naśladuje ludzki mózg w celu przetwarzania danych. Dlatego NPU ma duże możliwości w zakresie obsługi operacji uczenia maszynowego, które stanowią podstawę zadań związanych ze sztuczną inteligencją, takich jak rozpoznawanie mowy, przetwarzanie języka naturalnego, procesy edycji zdjęć lub wideo, takie jak wykrywanie obiektów i nie tylko.

W większości gadżetów przeznaczonych dla konsumentów, takich jak smartfony, laptopy i tablety, jednostka NPU jest zintegrowana z głównym procesorem, przyjmując konfigurację System-on-Chip (SoC). Jednakże w przypadku centrów danych jednostka NPU może być całkowicie oddzielnym procesorem, oddzielnym od jakiejkolwiek innej jednostki przetwarzającej, takiej jak jednostka centralna (CPU) lub jednostka przetwarzania grafiki (GPU).


homedevtmpphpCgmoJz-NPU.jpg

Czym NPU różni się od CPU i GPU?


Procesory wykorzystują metodę obliczeń sekwencyjnych, wydając jedną instrukcję na raz, a kolejne instrukcje oczekują na zakończenie swoich poprzedników. Natomiast NPU wykorzystuje obliczenia równoległe do jednoczesnego wykonywania wielu obliczeń. Takie podejście do obliczeń równoległych skutkuje szybszym i wydajniejszym przetwarzaniem. To powiedziawszy, procesory dobrze radzą sobie z obliczeniami sekwencyjnymi, wykonując jeden proces na raz, ale uruchamianie zadań AI wymaga od procesora jednoczesnego wykonywania wielu obliczeń i procesów.

W tym miejscu z pomocą przychodzą jednostki przetwarzania grafiki, czyli procesory graficzne. Mają one możliwości obliczeń równoległych i wbudowane układy scalone do wykonywania zadań związanych ze sztuczną inteligencją, ale generalnie są przeznaczone do obsługi innych procesów, takich jak renderowanie grafiki i zwiększanie rozdzielczości. Zasadniczo stanowi to argument za jednostkami NPU, które po prostu replikują te obwody i sprawiają, że działają one specjalnie przy przeprowadzaniu operacji uczenia maszynowego. Dzięki temu przetwarzanie obciążeń AI jest bardziej wydajne i zużywa mniej energii.

Procesory graficzne są nadal wykorzystywane w początkowej fazie opracowywania i udoskonalania algorytmów sztucznej inteligencji, natomiast jednostki NPU przejmują później rolę, uruchamiając te udoskonalone modele językowe na urządzeniu konsumenta.
 

NPU i sztuczna inteligencja na urządzeniu

 
Duże modele językowe (LLM) są zbyt duże, aby można je było uruchomić na urządzeniu, a dostawcy usług zazwyczaj przenoszą przetwarzanie do chmury, aby oferować funkcje sztucznej inteligencji w oparciu o swoje modele językowe. Jednak ostatnio duże firmy technologiczne wypuściły modele małych języków, takie jak Gemma firmy Google, Phi-3 firmy Microsoft i OpenELM firmy Apple, wskazując trend w kierunku małych modeli sztucznej inteligencji, które mogą działać całkowicie na urządzeniu. W miarę jak modele sztucznej inteligencji na urządzeniach zyskują na znaczeniu, rola jednostek NPU staje się jeszcze ważniejsza, ponieważ to one wdrażają na sprzęcie aplikacje oparte na sztucznej inteligencji.

Laptopy, wyposażone w procesory najnowszej generacji z wbudowanymi jednostkami NPU, oferują wydajność oraz mobilność na najwyższym poziomie. Chcąc w pełni wykorzystać potencjał wszechobecnej w dzisiejszych czasach sztucznej inteligencji, przy wymianie urządzenia na nowe, warto wziąć pod uwagę laptopy z NPU.

W naszym sklepie można znaleźć zarówno laptopy Lenovo z NPU, jak również laptopy HP z NPU. Inwestując w nowoczesne laptopy z NPU zyskujesz pewność, że urządzenie będzie kompatybilne z aplikacjami AI, a tym samym pozwoli zmaksymalizować wydajność Twojej pracy.
Poprzedni post
Close