Powrót kosztów krańcowych w erze sztucznej inteligencji
W świecie technologii przez lata dominowało przekonanie, że oprogramowanie charakteryzuje się zerowymi kosztami krańcowymi. W przypadku AI sytuacja wygląda jednak inaczej. Choć modele o otwartych wagach (open weights) są często postrzegane jako darmowe, w rzeczywistości generują one realne koszty operacyjne, znane w ekonomii jako COGS (koszt sprzedanych produktów).
W przeciwieństwie do wydatków na badania i rozwój (R&D), które są stałe niezależnie od przychodów, koszty wnioskowania (inference) rosną wraz ze skalą wykorzystania modelu. Jeśli wygenerowanie przychodu o wartości 1 dolara (ok. 4 zł) wymaga zużycia tokenów o wartości 0,50 dolara (ok. 2 zł), to przychody rzędu 100 milionów dolarów (ok. 400 mln zł) wiążą się z kosztami operacyjnymi na poziomie 50 milionów dolarów (ok. 200 mln zł). Modele takie jak Kimi K3 czy Sol nie są więc darmowe w utrzymaniu – różnią się jedynie strukturą kosztów, która zależy od wydajności architektury, optymalizacji pamięci oraz liczby tokenów potrzebnych do uzyskania poprawnej odpowiedzi.
Tokeny to nie towar
Współczesna debata nad AI często skupia się na cenie za milion tokenów, co jest podejściem błędnym. Tokeny nie są towarem jednorodnym (fungible), takim jak miedź czy pszenica. Wartością, która podlega wymianie, jest inteligencja. Jeśli dwa różne modele dostarczają tę samą, poprawną odpowiedź, to właśnie ta odpowiedź jest towarem, a różnica w liczbie wygenerowanych tokenów stanowi jedynie różnicę w koszcie jej wytworzenia.
Na efektywny koszt inteligencji wpływa kilka czynników:
- Ślad modelu (model footprint): wymagania dotyczące pamięci i akceleratorów.
- Efektywność wnioskowania: wybory architektoniczne, takie jak Mixture-of-Experts.
- Efektywność pamięci: optymalizacja pamięci podręcznej KV.
- Efektywność serwowania: techniki takie jak batching czy prefix caching.
- Efektywność tokenów: liczba tokenów niezbędna do osiągnięcia celu.
Obecnie rynek inteligencji nie jest jeszcze w pełni skomodytyzowany, ponieważ popyt na modele wiodące (frontier models) przewyższa podaż mocy obliczeniowej. Firmy takie jak Anthropic czy OpenAI utrzymują wysokie marże, ponieważ oferują najwyższą jakość, a ich przewaga kosztowa wynika ze skali i optymalizacji.
Dlaczego chińskie modele budzą niepokój?
Obawy przed chińskimi modelami, takimi jak Kimi czy Qwen3.8 Max, wydają się z perspektywy ekonomicznej przesadzone. Ich rzekoma taniość wynika głównie z faktu, że zachodni liderzy są ograniczeni podażą sprzętu i sztucznie zawyżają ceny. Prawdziwe powody niepokoju laboratoriów AI leżą gdzie indziej:
Distillation does not explain China’s entire open-model lead. Chinese labs have world-class researchers, substantial compute, strong pre-trained models, software-hardware codesign, and rapidly improving post-training capabilities. But distillation compresses the costly final gap between a strong base and a near-frontier system.
Destylacja, czyli proces uczenia mniejszych modeli na wynikach pracy potężniejszych systemów, pozwala chińskim laboratoriom szybko niwelować dystans technologiczny. Co więcej, chińska strategia otwartości, wspierana przez najwyższe władze państwowe, ma na celu uczynienie z AI silnika napędzającego przejście od świata cyfrowego do fizycznego, w czym Chiny posiadają naturalną przewagę, np. w robotyce.
Cyberbezpieczeństwo jako realne zagrożenie
Najpoważniejszym problemem związanym z ograniczaniem dostępu do zachodnich modeli jest kwestia cyberbezpieczeństwa. Przykład firmy Hugging Face, która w obliczu ataku na własną infrastrukturę musiała skorzystać z chińskiego modelu GLM 5.2, ponieważ zachodnie systemy posiadały zbyt restrykcyjne filtry bezpieczeństwa, pokazuje absurdalność obecnej polityki.
Zamiast blokować dostęp do zaawansowanych narzędzi, amerykańska administracja powinna:
- Złagodzić restrykcje dotyczące wykorzystania modeli w celach obronnych i analizy zagrożeń.
- Zapewnić amerykańskim twórcom modeli o otwartych wagach równe szanse w konkurencji z podmiotami zagranicznymi.
- Zrewidować politykę praw autorskich, aby jasno określić, że zbieranie danych do trenowania modeli jest dozwolonym użytkiem, co pozwoli na dalszą innowację.
Pozwalanie, by to chińskie modele stały się standardem w dziedzinie otwartości i innowacji, jest oddawaniem kluczowej przewagi strategicznej. Najlepszą obroną przed zagrożeniami jest zapewnienie obrońcom dostępu do najpotężniejszych dostępnych narzędzi, niezależnie od tego, czy pochodzą one z laboratoriów typu „frontier”, czy z otwartych ekosystemów.
