Mistral Large 4 do pobrania. Europejski model z bilionem parametrów, ale nie na domowy komputer

Mistral udostępnił 29 października do pobrania wagi Mistral Large 4, swojego największego modelu. Model ma około biliona parametrów i według firmy został wytrenowany od zera w Europie. Każdy może pobrać go z Hugging Face, przerabiać i używać komercyjnie. Uruchomienie go u siebie wymaga jednak serwera z kilkoma lub kilkunastoma kartami graficznymi klasy centrum danych. Same pliki zajmują od ok. 300 GB do ponad 1 TB.

Co dokładnie udostępnił Mistral

Model nazywany „Le Chonk” od 6 października działał tylko przez API, w wersji preview. 29 października Mistral opublikował wagi poprawionej wersji. Firma pisze, że poprawki to efekt trzech tygodni dodatkowego treningu ze wzmacnianiem (RL).

Według karty modelu na Hugging Face to model typu mixture-of-experts. Ma ok. 1 bln parametrów łącznie, ale przy każdym tokenie pracuje ich 49 mld (52 mld razem z warstwami wejścia i wyjścia). Przyjmuje tekst i obrazy, odpowiada tekstem i obsługuje kontekst do miliona tokenów. Ma trzy poziomy rozumowania: niski, średni i wysoki. Mistral podaje, że model zna ponad 160 języków, w tym wszystkie oficjalne języki UE, a polski jest na liście w karcie. Do treningu firma użyła 3800 kart NVIDIA Grace Blackwell we własnych centrach danych w Europie.

Czy uruchomisz go na swoim komputerze

W praktyce nie. Według plików na Hugging Face pełny checkpoint w formacie FP8 waży ok. 1,06 TB. Wersja NVFP4 dla kart NVIDIA Blackwell waży ok. 610 GB. Najmniejsza wersja GGUF dla llama.cpp od ggml-org (IQ2_XXS) ma ok. 298 GB, a popularniejsza Q4_K_M ok. 635 GB.

Przepis uruchomienia w vLLM wymienia sprawdzone konfiguracje:

• 4 lub 8 kart NVIDIA GB300,
• 8 kart B300 albo B200,
• dwa serwery po 8 kart H200,
• 8 kart AMD MI350X.

Przy ośmiu kartach wagi FP8 zajmują ok. 128 GiB pamięci na każdą z nich. Sam Mistral w karcie modelu radzi przejść na API, jeśli lokalne uruchomienie działa słabo.

Otwarte wagi nie oznaczają więc modelu na laptopa. Korzystają na nich firmy, uczelnie i urzędy z własną serwerownią. Mogą uruchomić model u siebie, tak by dane nie wychodziły poza ich infrastrukturę, i dostosować go do swoich zadań. Na tym Mistral opiera hasło „suwerennej AI”.

Jak skorzystać z modelu bez własnego serwera

Mistral wymienia w ogłoszeniu kilka miejsc:

• Mistral Studio i API Mistrala,
• OpenRouter,
• Vibe Code,
• NVIDIA NIM,
• Microsoft Foundry.

W API Mistrala milion tokenów wejściowych kosztuje $0,70, z pamięci podręcznej $0,07, a milion tokenów wyjściowych $2,10. Tyle samo podawał OpenRouter, kiedy sprawdzaliśmy 30 października o 15:09.

Ogłoszenie nie wspomina o czacie Mistrala dla zwykłych użytkowników. Nie znaleźliśmy u Mistrala potwierdzenia, że Large 4 działa w tej aplikacji.

Licencja: otwarta, ale z jednym warunkiem

Model jest udostępniony na Mistral Ecosystem Open-Weight License, czyli zmodyfikowanej licencji MIT. Pozwala za darmo używać modelu, zmieniać go, dotrenowywać i zarabiać na nim. Jedyny warunek dotyczy firm, które prowadzą usługę „Model as a Service”, czyli dają innym dostęp do modelu przez API z kontrolą nad zapytaniami, parametrami lub treningiem. Takie firmy potrzebują osobnej licencji komercyjnej od Mistrala. Warunek nie obejmuje użytku wewnętrznego ani produktów, w których model napędza tylko konkretną funkcję.

To mniej swobody niż przy poprzedniku. Mistral Large 3 jest na Hugging Face na licencji Apache 2.0, bez takiego warunku.

Co Mistral mówi o wynikach

Wszystkie liczby w tej części pochodzą od Mistrala. Niezależnych testów jeszcze nie ma, a raport techniczny firma zapowiada na później.

Według Mistrala Large 4 to najlepszy model z otwartymi wagami do programowania:

• FrontierCode 2.0: 19,7%, pierwsze miejsce,
• Terminal-Bench 4.0: 41%, pierwsze miejsce,
• Coding Agent Index serwisu Artificial Analysis: 48%, praktycznie tyle co GLM-5.3, przy średnio o 47% mniejszym zużyciu tokenów.

W cyberbezpieczeństwie firma podaje 51% w Cyber Index Artificial Analysis i średnio 96,6% odmów przy złośliwych prośbach.

W ogólnym indeksie Artificial Analysis Intelligence Index v5 Mistral podaje dla Large 4 wynik 26. Firma nazywa go najwyższym wśród zachodnich modeli z otwartymi wagami i sama dodaje, że czołowe otwarte modele z Chin wypadają w tym zestawieniu wyżej. Mistral przyznaje też, że w ruchu na żywo widzi u modelu potencjał pomocy w prawdziwych atakach i dlatego zmienia jego zabezpieczenia.