Docker rozszerza możliwości sztucznej inteligencji na komputerach osobistych, prezentując nową, bardzo obiecującą funkcję o nazwie Docker Model Runner. Zaprojektowana z myślą o deweloperach, ta betowa funkcja dostępna jest od wersji Docker Desktop 4.40 na komputerach Mac z procesorem Apple Silicon. Choć nie umożliwia pełnego trenowania dużych modeli językowych (LLM) lokalnie, pozwala ich z powodzeniem używać, testować oraz integrować z codziennym środowiskiem developerskim.
Do tej pory uruchamianie LLM-ów lokalnie wiązało się z wieloma trudnościami: brakiem kompatybilnych narzędzi, złożonymi konfiguracjami oraz koniecznością korzystania z chmury. Docker Model Runner przełamuje ten schemat, umożliwiając uruchamianie modeli bez potrzeby wysyłania zapytań do zewnętrznych interfejsów API. Oznacza to niższe opóźnienia, większą prywatność danych oraz redukcję kosztów inferencji AI. Modele są opakowywane jako artefakty Open Container Initiative (OCI), co sprawia, że można je pobierać z Docker Hub, a następnie wykorzystywać przy użyciu znanych komend CLI, takich jak „docker model pull”, „docker model run” czy „docker model list”.
Kluczowym komponentem tej nowej funkcjonalności jest narzędzie llama.cpp – otwartoźródłowa biblioteka C++, która umożliwia wydajne działanie modeli LLM nawet bez użycia GPU. Imponujące jest to, że tak zoptymalizowane modele mogą funkcjonować nawet na wiekowych laptopach. Open source’owy charakter llama.cpp sprawia, że deweloperzy mogą korzystać nie tylko z LLaMA od Meta AI, ale także innych popularnych modeli dostępnych na platformach takich jak Hugging Face. Docker przygotował już wstępną bibliotekę najpopularniejszych modeli dopasowanych do lokalnego uruchamiania, którą można znaleźć w katalogu AI na Docker Hub.
Obecnie katalog zawiera ponad tuzin modeli, jednak przewidywany rozwój tej kolekcji będzie dynamiczny. Docker zawarł już partnerstwa z liderami branży AI, takimi jak Google, HuggingFace, Qualcomm czy VMware Tanzu, co gwarantuje szybki rozwój narzędzi i modeli gotowych do użycia w środowisku lokalnym. Realizacja własnych projektów AI, które do tej pory wymagały kosztownej infrastruktury chmurowej, staje się coraz łatwiejsza dla każdego programisty.
To jednak dopiero początek. Docker pracuje już nad rozszerzeniem wsparcia na inne platformy, w tym Windows z akceleracją GPU. W przyszłości możliwe będzie także publikowanie własnych modeli, jeszcze pełniej zintegrowanych z innymi narzędziami z ekosystemu AI. Celem jest stworzenie środowiska, w którym uruchamianie, udostępnianie i wdrażanie modeli AI stanie się równie prostą operacją co praca z kontenerami dzisiaj.
Wraz z Docker Model Runner pojawia się również interesująca nowość – integracja z protokołem Model Context Protocol (MCP). To otwarty standard, który znacznie ułatwia łączenie agentów AI z różnorodnymi źródłami danych, API oraz środowiskami aplikacyjnymi. MCP, opracowany przez firmę Anthropic, funkcjonuje niczym “USB-C dla AI”, umożliwiając uniwersalne połączenie aplikacji z zasobami bez zestawu dedykowanych konektorów. Dzięki temu tworzenie agentów AI zdolnych do wykonywania złożonych zadań w kontekście konkretnego środowiska staje się prostsze i bardziej skalowalne.
Docker wdraża ten protokół za pomocą katalogu Docker MCP Catalog. Zawiera on ponad 100 gotowych do użycia serwerów MCP dostarczanych przez takie firmy jak Grafana Labs, Neo4j, Heroku czy Elasticsearch. Niezależnie od potrzeb, deweloper ma teraz dostęp do szerokiego wachlarza narzędzi, które uruchamia się równie łatwo jak kontenery Docker. Co więcej, dzięki Docker MCP Toolkit otrzymujemy zestaw narzędzi klasy enterprise — zarządzanie dostępem, integracja OAuth czy bezpieczne przechowywanie danych uwierzytelniających — które umożliwiają profesjonalne zarządzanie projektami opartymi o MCP w istniejącym środowisku Docker.
Pomysł na rozwój funkcji AI w Dockerze został najlepiej ujęty przez nowego prezesa firmy, Marka Cavage’a. W jego opinii, tworzenie aplikacji opartych o sztuczną inteligencję nie powinno różnić się od budowy innych aplikacji. Programiści pragną płynnie integrować AI z własnym workflow – rozwijać lokalnie, testować i wysyłać do produkcji bez zbędnych przeszkód. Docker, poprzez zunifikowanie procesów wdrażania agentów AI, upraszcza obsługę wersji, uwierzytelnianie i współdzielenie narzędzi, które teraz podlegają tym samym regułom co konteneryzacja.
Jeśli jesteś już użytkownikiem Dockera i rozważasz rozszerzenie swoich projektów o komponenty AI, nowe narzędzia i funkcje zaprezentowane przez firmę mogą stać się przełomowymi elementami Twojego workflow. Dzięki nim możesz skutecznie połączyć świat kontenerów ze światem inteligentnych agentów, tworząc w pełni funkcjonalne, kontekstowo świadome aplikacje przyszłości – bez konieczności korzystania z kosztownej chmury.
