Nowa jakość w orkiestracji agentów AI
LangChain, najpopularniejsza platforma do orkiestracji agentów AI, notująca ponad 200 milionów pobrań miesięcznie, przeprowadziła optymalizację swojego środowiska Deep Agents specjalnie pod kątem modelu Nemotron 3 Ultra. Wyniki testów wskazują, że takie podejście pozwala na realizację większej liczby zadań przy wyższej przepustowości. W testach porównawczych Nemotron 3 Ultra osiągnął poziom skuteczności biznesowej równy najsilniejszym modelom zamkniętym, oferując przy tym pełną kontrolę nad otwartym stosem technologicznym.
Dzięki dziesięciokrotnie niższym kosztom operacyjnym, firmy mogą teraz prowadzić ciągłe ewaluacje, szybciej eksperymentować i wdrażać wyspecjalizowane systemy agentowe w szerszym zakresie procesów biznesowych. Przyjmując, że koszt operacyjny jest dziesięciokrotnie niższy niż w przypadku konkurencyjnych rozwiązań, przedsiębiorstwa zyskują znaczną przewagę ekonomiczną. Przykładowo, jeśli koszt uruchomienia standardowego agenta wynosił dotychczas równowartość około 40 zł, w nowym modelu może on spaść do poziomu zaledwie 4 zł.
Sposobem na budowanie lepszych agentów jest ciągłe doskonalenie systemu wokół modelu. Pamięć, wykorzystanie narzędzi, ewaluacja i zachowanie modelu stają się skuteczniejsze, gdy zespoły mogą dostrajać je jednocześnie. Nasza współpraca z NVIDIA pokazuje, że przedsiębiorstwa mogą uzyskać wysoką wydajność z otwartego stosu, zachowując pełną kontrolę nad budowanymi systemami agentowymi – mówi Harrison Chase, współzałożyciel i CEO LangChain.
Inżynieria środowiska zamiast douczania
Kluczem do sukcesu okazała się analiza ścieżek wykonawczych agentów. Zespół LangChain zidentyfikował punkty, w których model tracił precyzję, a następnie dokonał korekt w systemie promptów, opisach narzędzi oraz warstwie pośredniej (middleware). Takie podejście pozwala programistom na natychmiastowe wdrożenie gotowych profili optymalizacyjnych bez konieczności ingerencji w wagi samego modelu.
Dla przedsiębiorstw budujących własne rozwiązania AI przygotowano zestaw narzędzi NVIDIA NemoClaw dla LangChain Deep Agents. Jest to otwarty wzorzec, który łączy:
Pełna kontrola nad stosem technologicznym
Przejście od prostych asystentów AI, które jedynie odpowiadają na pytania, do zaawansowanych agentów zdolnych do podejmowania działań wewnątrz systemów korporacyjnych, wymaga od firm większej odpowiedzialności. Wykorzystanie otwartego modelu, otwartego środowiska i bezpiecznego runtime’u oznacza, że przedsiębiorstwa posiadają pełną kontrolę nad całym procesem. Mogą one dostosowywać systemy do własnych potrzeb, zarządzać nimi na własnej infrastrukturze lub w wybranej chmurze, co jest kluczowe w przypadku zadań o wysokim stopniu ryzyka.
Z rozwiązań tych korzystają już firmy takie jak Abridge, Amdocs i Box, integrując wyspecjalizowane agenty bezpośrednio ze swoimi platformami. Z kolei globalny integrator EY rozszerza swoje możliwości wdrożeniowe w oparciu o plany NVIDIA NemoClaw, wspierając klientów w personalizacji i ocenie agentów w kluczowych procesach biznesowych.
Deweloperzy mogą uzyskać dostęp do modelu Nemotron 3 Ultra za pośrednictwem platform takich jak Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius oraz Together AI, co umożliwia szybkie przejście od fazy testów do wdrożenia produkcyjnego.