Kiedy myślisz o sztucznej inteligencji, pewnie wyobrażasz sobie potężne procesory i karty graficzne, które przetwarzają miliardy operacji na sekundę. Tak samo myśli większość właścicieli firm - że AI to przede wszystkim kwestia mocy obliczeniowej. Tymczasem południowokoreańska firma XCENA właśnie pozyskała 135 milionów dolarów na rozwój technologii, która atakuje zupełnie inny problem: pamięć.
Okazuje się, że najnowsze modele AI coraz częściej "czekają" na dane zamiast je przetwarzać. To trochę jak sytuacja, w której masz najszybszego kucharza na świecie, ale składniki docierają do niego z opóźnieniem. Nie ma znaczenia, jak szybko kroi i smaży - i tak stoi bezczynnie, bo lodówka otwiera się za wolno. Dla polskich firm, które planują wdrożenia AI albo już z niej korzystają, ta zmiana perspektywy ma bardzo praktyczne konsekwencje.
Wycena XCENA na 570 milionów dolarów przy tak wczesnej fazie rozwoju pokazuje, że inwestorzy traktują problem pamięci jako jedno z najpoważniejszych ograniczeń dalszego rozwoju AI. I mają ku temu twarde argumenty techniczne, które warto zrozumieć - nawet jeśli nie jesteś inżynierem.
Dlaczego pamięć stała się wąskim gardłem AI
Przez ostatnie lata branża technologiczna skupiała się na zwiększaniu mocy obliczeniowej. NVIDIA rosła w siłę, ceny kart GPU szły w górę, a firmy ścigały się o dostęp do klastrów obliczeniowych. Ale modele językowe takie jak GPT-4, Claude czy Gemini mają pewną cechę, która zmienia reguły gry - operują na coraz dłuższych kontekstach. GPT-4 Turbo obsługuje okno kontekstowe o wielkości 128 tysięcy tokenów, a Gemini 1.5 Pro - nawet milion.
Co to oznacza w praktyce? Model musi jednocześnie "pamiętać" ogromne ilości danych - cały dokument, historię rozmowy, bazę wiedzy firmy. Te dane muszą być dostępne błyskawicznie, w ułamkach milisekund. Tradycyjna pamięć RAM i pamięć HBM (High Bandwidth Memory) stosowana w kartach GPU zaczyna nie nadążać. Procesor jest gotowy do pracy, ale dane nie docierają wystarczająco szybko.
XCENA pracuje nad technologią CXL (Compute Express Link) - nowym standardem komunikacji między procesorem a pamięcią, który ma radykalnie zwiększyć przepustowość i zmniejszyć opóźnienia. To nie jest abstrakcyjna technologia z laboratorium. Samsung, SK Hynix i inne koreańskie firmy półprzewodnikowe już inwestują w ten kierunek. XCENA chce dostarczyć gotowe rozwiązania - kontrolery i układy pamięci - które producenci serwerów będą mogli wbudować w swoją infrastrukturę.
Dla porównania - obecne systemy HBM stosowane w kartach NVIDIA H100 oferują przepustowość około 3,35 TB/s. Brzmi imponująco, ale przy modelach z oknami kontekstowymi liczącymi miliony tokenów i przy obsłudze setek użytkowników jednocześnie, ta przepustowość staje się realnym ograniczeniem. Każda milisekunda opóźnienia w dostępie do pamięci przekłada się na wolniejsze odpowiedzi modelu, a w konsekwencji - na wyższe koszty operacyjne.
Co to zmienia dla polskich MŚP korzystających z AI
Możesz pomyśleć: "Co mnie obchodzi koreańska firma produkująca chipy pamięci? Ja korzystam z ChatGPT przez API i płacę za tokeny." I to jest całkowicie zrozumiałe podejście. Ale łańcuch przyczynowo-skutkowy jest krótszy, niż się wydaje.
Jeśli prowadzisz firmę, która korzysta z API OpenAI, Anthropic czy Google, płacisz za każde zapytanie. Cena zależy od dwóch rzeczy: kosztu infrastruktury dostawcy i marży. Gdy infrastruktura jest droższa lub mniej wydajna, płacisz więcej. Gdy problem pamięci zostanie rozwiązany, serwery będą mogły obsługiwać więcej zapytań jednocześnie przy tym samym sprzęcie - a to oznacza niższe ceny dla użytkowników końcowych.
Weźmy konkretny przykład. Polska firma e-commerce z 50 pracownikami wdraża chatbota obsługi klienta opartego na GPT-4. Bot ma dostęp do bazy wiedzy liczącej 200 stron dokumentacji produktowej, regulaminów i FAQ. Każde zapytanie klienta wymaga przesłania dużej części tej bazy jako kontekstu. Przy 500 zapytaniach dziennie miesięczny koszt API może wynosić od 2 000 do 5 000 złotych - w zależności od długości kontekstu. Gdyby infrastruktura po stronie dostawcy była bardziej wydajna pamięciowo, ten koszt mógłby spaść nawet o 30-40%.
Drugi scenariusz dotyczy firm, które uruchamiają własne modele lokalnie. Coraz więcej polskich MŚP - szczególnie z branży prawniczej, medycznej czy finansowej - rozważa lokalne wdrożenia AI ze względu na poufność danych. Firmy takie jak np. kancelarie prawne przetwarzające umowy czy biura rachunkowe analizujące dokumenty finansowe nie chcą wysyłać wrażliwych danych do zewnętrznych API. Uruchomienie modelu Llama 3 70B na własnym serwerze wymaga minimum 140 GB pamięci RAM (przy kwantyzacji do 16 bitów). Przy obsłudze wielu użytkowników jednocześnie zapotrzebowanie rośnie jeszcze bardziej. Szybsza i pojemniejsza pamięć bezpośrednio przekłada się na to, ile osób może korzystać z systemu w tym samym czasie.
Praktyczne konsekwencje - na co zwracać uwagę przy planowaniu wdrożeń
Rozumienie problemu pamięci w AI ma kilka praktycznych zastosowań dla osób decydujących o technologii w firmie. Oto trzy najważniejsze wnioski.
Po pierwsze: optymalizuj kontekst, zanim zaczniesz szukać szybszego modelu. Wiele polskich firm, z którymi rozmawiam jako konsultant, wpada w pułapkę "więcej znaczy lepiej". Wysyłają do modelu cały dokument, zamiast wyciągnąć z niego relevantne fragmenty. Technika RAG (Retrieval-Augmented Generation) - czyli wyszukiwanie odpowiednich fragmentów bazy wiedzy przed wysłaniem zapytania do modelu - potrafi zmniejszyć rozmiar kontekstu nawet o 80%. To bezpośrednio obniża koszty i przyspiesza odpowiedzi. Narzędzia takie jak LangChain, LlamaIndex czy Haystack pozwalają wdrożyć RAG nawet w małej firmie, bez budowania własnej infrastruktury od zera.
Po drugie: śledź rozwój lokalnych modeli AI. Trend jest jednoznaczny - modele stają się coraz mniejsze i wydajniejsze. Mistral 7B, Phi-3 od Microsoftu czy polskie inicjatywy takie jak Bielik pokazują, że nie zawsze potrzebujesz modelu z setkami miliardów parametrów. Mniejszy model oznacza mniejsze zapotrzebowanie na pamięć, niższe koszty sprzętu i szybsze odpowiedzi. Dla firmy księgowej, która potrzebuje AI do klasyfikacji faktur, model z 7 miliardami parametrów uruchomiony na serwerze za 15-20 tysięcy złotych może być lepszym wyborem niż miesięczny abonament na API kosztujący kilka tysięcy złotych.
Po trzecie: nie inwestuj w sprzęt na wyrost - ale miej plan skalowania. Technologie takie jak CXL, nad którymi pracuje XCENA, wejdą na rynek w ciągu 2-3 lat. Jeśli dziś kupujesz serwer do lokalnego AI, wybierz platformę, która pozwoli na rozbudowę pamięci bez wymiany całego systemu. Pytaj dostawców o kompatybilność z CXL i o możliwość rozszerzenia pamięci RAM. To może zaoszczędzić dziesiątki tysięcy złotych przy przyszłej modernizacji.
Szerszy kontekst - co się dzieje na rynku infrastruktury AI
Inwestycja w XCENA nie istnieje w próżni. Cały rynek infrastruktury AI przechodzi transformację, która dotyczy właśnie przesunięcia uwagi z czystej mocy obliczeniowej na efektywność całego systemu.
NVIDIA w swoich najnowszych kartach B200 (architektura Blackwell) zwiększyła ilość pamięci HBM do 192 GB na chip - wzrost o 50% w porównaniu z poprzednią generacją H100. AMD z kolei w swoich akceleratorach MI300X postawiło na 192 GB pamięci HBM3, reklamując je właśnie jako rozwiązanie problemu "memory wall" - ściany pamięci, o którą rozbijają się coraz większe modele.
Jednocześnie rosną koszty. Pojedynczy serwer z ośmioma kartami H100 kosztuje około 200-300 tysięcy dolarów. Dla globalnych korporacji to akceptowalny wydatek. Dla polskiej firmy produkcyjnej z Łodzi czy agencji marketingowej z Krakowa - abstrakcja. Dlatego tak ważne jest, żeby śledzić nie tylko premiery nowych modeli AI, ale też rozwój infrastruktury, która determinuje koszty ich użytkowania.
Warto też spojrzeć na to z perspektywy polskiego rynku chmurowego. Operatorzy tacy jak OVHcloud (z centrum danych w Warszawie), Google Cloud czy Azure oferują instancje z GPU, ale ich ceny bezpośrednio zależą od efektywności wykorzystania sprzętu. Jeśli technologia CXL pozwoli obsłużyć dwa razy więcej zapytań na tym samym serwerze, ceny instancji chmurowych dla AI mogą realnie spaść. A to już bezpośrednio wpływa na rachunek ekonomiczny wdrożenia AI w polskiej firmie.
Jest jeszcze jeden aspekt, o którym rzadko się mówi - zużycie energii. Pamięć odpowiada za znaczącą część zużycia prądu w serwerach AI. Szacunki mówią o 20-40% całkowitego poboru mocy, w zależności od obciążenia. Bardziej wydajna pamięć to nie tylko szybsze działanie, ale też niższe rachunki za prąd i mniejszy ślad węglowy. Dla firm, które raportują ESG lub po prostu chcą kontrolować koszty operacyjne, to istotna informacja.
Ograniczenia i co może pójść nie tak
Byłoby nieuczciwe malować wyłącznie optymistyczny obraz. Technologia CXL jest wciąż we wczesnej fazie. Standard CXL 3.0 został opublikowany w 2022 roku, ale komercyjne produkty, które w pełni go wykorzystują, dopiero wchodzą na rynek. XCENA ma prototypy, nie masową produkcję. Między pozyskaniem 135 milionów dolarów a dostarczeniem produktu, który trafi do serwerów obsługujących polskie firmy, może minąć 2-4 lata.
Jest też ryzyko, że problem pamięci zostanie rozwiązany inną drogą. Badacze pracują nad architekturami modeli, które wymagają mniej pamięci - na przykład przez lepszą kompresję (kwantyzację), efektywniejsze mechanizmy uwagi (takie jak FlashAttention) czy hybrydowe architektury łączące transformery z sieciami rekurencyjnymi. Możliwe, że za kilka lat modele będą tak dobrze zoptymalizowane, że obecna pamięć wystarczy.
Nie zmienia to jednak faktu, że dziś - w 2025 roku - pamięć jest realnym ograniczeniem i realnym składnikiem kosztów. Firmy, które to rozumieją, podejmują lepsze decyzje zakupowe i wdrożeniowe.
Podsumowując: inwestycja XCENA to sygnał, że branża AI dojrzewa. Przestajemy mówić wyłącznie o "większych modelach" i "mocniejszych GPU", a zaczynamy rozumieć, że wydajność systemu zależy od jego najsłabszego ogniwa. Dla polskich MŚP praktyczny wniosek jest taki: optymalizuj to, co masz (kontekst, wybór modelu, architekturę RAG), śledź rozwój infrastruktury i nie daj się nabrać na narrację, że AI wymaga milionowych inwestycji w sprzęt. Często wystarczy mądrzejsze podejście do danych i pamięci - dosłownie i w przenośni.
Źródło: XCENA secures $135M at $570M valuation, betting on memory as AI's real bottleneck - TechCrunch