Naszą misją jest tworzenie sztucznej inteligencji, która wspiera ludzką wolę i osąd. W ramach realizacji tego celu udostępniamy Inkling – model wytrenowany od podstaw, którego pełne wagi są dostępne dla każdego, kto chce dostosować go do własnych potrzeb.
Inkling to model typu Mixture-of-Experts (MoE) oparty na architekturze Transformer, posiadający 975 miliardów parametrów, z czego 41 miliardów jest aktywnych podczas przetwarzania każdego tokena. Model obsługuje okno kontekstowe o długości do 1 miliona tokenów i został wstępnie wytrenowany na 45 bilionach tokenów obejmujących tekst, obrazy, dźwięk oraz wideo.
Wraz z głównym modelem prezentujemy Inkling-Small – lżejszą wersję z 12 miliardami aktywnych parametrów. Została ona stworzona według podobnej receptury, oferując wysoką wydajność przy znacznie niższych kosztach i mniejszych opóźnieniach.
Wszechstronność i możliwości modelu
Inkling został zaprojektowany jako zrównoważony model bazowy, który radzi sobie w wielu domenach, takich jak rozumowanie, kodowanie, podążanie za instrukcjami, faktyczność oraz przetwarzanie obrazu i dźwięku. Choć nie jest to najpotężniejszy model na rynku, jego siła tkwi w połączeniu multimodalności, efektywnego procesu myślowego oraz łatwości dostosowywania poprzez fine-tuning na platformie Tinker.
Model potrafi natywnie rozumować w oparciu o tekst, obrazy i dźwięk. Dzięki mechanizmowi kontrolowanego wysiłku myślowego, użytkownicy mogą balansować między wydajnością a kosztem obliczeniowym.
Agentowe kodowanie i narzędzia
Inkling wykazuje dużą skuteczność w zadaniach agentowych, wymagających użycia narzędzi. Został wytrenowany do pracy w różnych środowiskach programistycznych, a jego odporność na specyficzne schematy narzędzi zwiększono poprzez randomizację podczas treningu.
W testach przeprowadzonych na tablicy wyników Design Arena, gdzie modele oceniane są przez ludzi w ślepych testach, Inkling plasuje się w czołówce modeli z otwartymi wagami. Potrafi tworzyć złożone artefakty, takie jak wielostronicowe dokumenty PDF czy interaktywne gry przeglądarkowe, precyzyjnie realizując skomplikowane instrukcje użytkownika.
Efektywność i kontrolowany wysiłek
Kluczową cechą Inklinga jest możliwość skalowania wysiłku w czasie testów. Deweloperzy mogą dostosować model do konkretnych zadań, optymalizując go pod kątem kosztów i opóźnień.
Inkling osiąga porównywalne wyniki do innych modeli przy znacznie mniejszym zużyciu tokenów, co czyni go atrakcyjnym rozwiązaniem w długotrwałych procesach roboczych.
Multimodalność i epistemika
Model wykorzystuje architekturę bez enkodera, co jest spójne z systemami interakcji w czasie rzeczywistym. Dźwięk przetwarzany jest jako spektrogramy, a obrazy jako płaty pikseli, co pozwala na płynną integrację z danymi tekstowymi.
W kwestii epistemiki, czyli wiarygodności modelu, Inkling został wytrenowany do zachowania odpowiedniego poziomu pewności w odpowiedziach. Dzięki uczeniu przez wzmacnianie (RL) z wykorzystaniem reguł punktacji, model potrafi przyznać się do braku wiedzy, zamiast generować halucynacje. Proces ten obejmuje również współpracę z automatycznymi systemami oceny, które weryfikują fakty poprzez agentowe wyszukiwanie w sieci.
Bezpieczeństwo i dostępność
Bezpieczeństwo jest priorytetem dla modeli z otwartymi wagami. Inkling wykazuje silne wbudowane zabezpieczenia, osiągając wyniki powyżej 98% w testach odmowy wykonania szkodliwych instrukcji (StrongREJECT).
Model jest już dostępny na platformie Tinker, a jego pełne wagi można pobrać z serwisu Hugging Face. Współpracujemy z wieloma partnerami technologicznymi, aby zapewnić wsparcie dla wnioskowania w popularnych bibliotekach i frameworkach, takich jak vLLM, SGLang czy llama.cpp.
Dla użytkowników chcących przetestować model przed rozpoczęciem pełnego procesu fine-tuningu, udostępniliśmy Inkling Playground – interfejs czatu z wbudowanym wyszukiwaniem agentowym. Obecnie model oferowany jest w ramach ograniczonej czasowo promocji z 50% zniżką.
