Sześć certyfikatów NVIDIA
Tomek Brzozowski, Krzysiek Lenarski i Kuba Dyczko zdali po dwa egzaminy NVIDIA na poziomie professional: z modeli językowych i z agentów. Do tego stacja DGX, na której pracujemy z modelami u siebie.
Egzaminy są dwa i pytają o zupełnie co innego.
NCP-GENL bierze modele językowe od strony inżynierskiej. Jak przygotować dane, jak dostroić model, jak rozłożyć trening na wiele kart, jak zmieścić inferencję w pamięci GPU i jak to potem utrzymać w produkcji. NVIDIA zakłada przy tym egzaminie od dwóch do trzech lat pracy przy modelach językowych.
NCP-AAI idzie piętro wyżej, na agentów: planowanie, pamięć, kilku agentów pracujących nad jednym zadaniem, podawanie modelowi wiedzy spoza jego wag. Osobno pytania o pomiar, o człowieka w pętli i o bariery bezpieczeństwa — czyli o tę część, która odróżnia demo od czegoś, co można zostawić włączone.
Dlaczego NVIDIA, skoro siedzimy w SAP
Bo GenAI przestało nam się mieścić w SAP-ie. Dotąd nasze modele językowe pracowały przy systemach, które i tak utrzymujemy. Ścieżka NVIDIA prowadzi gdzie indziej: do Blueprintów, czyli gotowych przepływów i przykładów kodu, z których NVIDIA składa aplikacje AI, oraz do wdrożeń modeli bliżej sprzętu, gdzie liczy się pamięć karty i czas odpowiedzi, a nie schemat integracji.
Do tego doszedł sprzęt. Yellow Cloud kupiło stację NVIDIA DGX i to na niej pracujemy dziś z modelami językowymi u siebie: model stoi na naszej maszynie, dane z niego nie wychodzą, a my możemy go rozebrać i złożyć z powrotem. Czytanie o dostrajaniu i o inferencji na GPU to jedno, zrobienie tego na własnej karcie to drugie.
To jest inna robota niż integracja z SAP i wymaga innych rzeczy. Stąd te egzaminy i stąd ten sprzęt, a nie kurs wprowadzający.
Trzy osoby przeszły tę samą ścieżkę, więc mamy wspólną poprzeczkę i wspólny słownik. Kiedy u nas pada „Agent Tomek”, nikt nie myśli o polityce.
Certyfikat nie jest projektem i nie udajemy, że jest. Projekty GenAI prowadzimy równolegle — napiszemy o nich, kiedy się skończą, tak jak piszemy o wszystkim innym.
Źródła
- Generative AI LLMs professional certification, NVIDIA
- Agentic AI professional certification, NVIDIA
- NVIDIA AI Blueprints, NVIDIA