fine-tuning-open-source-models.mdx - Visual Studio Code
Kiedy standardowe AI nie wystarcza? Przewodnik po fine-tuningu modeli open source dla firmSztuczna inteligencja

Kiedy standardowe AI nie wystarcza? Przewodnik po fine-tuningu modeli open source dla firm

Kiedy fine-tuning modelu open source się opłaca, czym różni się od RAG, jak wybrać model (Qwen, Mistral, Gemma, Llama, Bielik) i co przygotować (2026).

Autor: Opublikowano Zaktualizowano 9 min czytania

Podsumowanie

  • Fine-tuning to dotrenowanie istniejącego modelu na Twoich przykładach, żeby przejął format, styl i słownictwo Twojej dziedziny. Nie trenujesz modelu od zera.
  • Fine-tuning uczy zachowania, a nie faktów. Do odpowiadania na podstawie aktualnych dokumentów firmy lepszy jest RAG, a oba podejścia można łączyć.
  • Techniki LoRA i QLoRA sprawiają, że dotrenowanie dużego modelu nie wymaga superkomputera: w badaniu QLoRA model 65B dotrenowano na jednej karcie GPU 48 GB.
  • Wybór modelu w 2026 r. to przede wszystkim licencja i język: Gemma 4, Bielik, Mistral Large 3 i Small 4 oraz mniejsze modele Qwen 3.8 mają licencję Apache 2.0, ale flagowe Qwen 3.8 i Mistral Medium 3.5 mają licencje własne, a Llama 4 ma ograniczenia dla firm z UE.
  • Zacznij od ewaluacji i małego zbioru dobrych przykładów. Jeśli kilkadziesiąt przykładów nic nie poprawia, problem zwykle leży gdzie indziej.

Szybka odpowiedź

Fine-tuning to dotrenowanie gotowego modelu językowego, najczęściej otwartego (Qwen, Mistral, Gemma, Bielik), na przykładach z Twojej firmy, żeby odpowiadał w Twoim formacie, stylu i słownictwie. Opłaca się, gdy gotowe modele przez API konsekwentnie mylą się w specjalistycznym zadaniu, gdy dane nie mogą opuścić firmy albo gdy duży, stały wolumen zapytań przemawia za własnym modelem. Nie zastąpi RAG: do odpowiadania na podstawie aktualnych dokumentów lepiej sprawdza się wyszukiwanie w źródłach (Ovadia i in., 2023).

Kiedy standardowe AI przestaje wystarczać?

Gdy model brzmi ogólnikowo, myli specjalistyczne terminy albo nie trzyma formatu, którego potrzebujesz, mimo dobrych instrukcji. Większość firm zaczyna od gotowych narzędzi, takich jak ChatGPT, Claude czy Gemini, i słusznie, bo wdrożenie jest szybkie, a możliwości duże.

Problem pojawia się później. Model nie zna Twoich procedur, wewnętrznych skrótów ani układu raportów, a każda odpowiedź wymaga poprawek. Wtedy pytanie zmienia się z "czego możemy użyć?" na "co możemy dopasować?".

Zanim sięgniesz po fine-tuning, sprawdź dwie tańsze drogi: lepsze instrukcje z przykładami w prompcie i RAG, czyli podłączenie modelu do Twoich dokumentów. Fine-tuning ma sens, gdy obie zawiodły albo gdy potrzebujesz modelu działającego u siebie.

Dopasowanie czy budowa od zera: na czym polega różnica?

Fine-tuning to dopasowanie istniejącego modelu, a nie trenowanie nowego. Trening modelu od zera wymaga tysięcy kart GPU i ogromnych zbiorów danych. Dla skali: Mistral Large 3 był trenowany na 3000 GPU NVIDIA H200 (Mistral AI, 2025). To ścieżka dla laboratoriów AI, nie dla firm, które chcą usprawnić proces.

Fine-tuning bierze model, który już rozumie język i świat, i uczy go specyfiki Twojego kontekstu. To jak urządzenie dobrze zbudowanego domu pod swoje potrzeby, zamiast stawiania go od fundamentów.

Fine-tuning czy RAG: co wybrać?

Fine-tuning uczy model zachowania, RAG daje mu wiedzę. To najczęstsze nieporozumienie: firmy chcą "nauczyć model swoich dokumentów" przez fine-tuning, a do tego lepiej nadaje się wyszukiwanie w źródłach.

Badanie porównujące oba podejścia pokazało, że RAG konsekwentnie przewyższał fine-tuning bez nadzoru zarówno dla wiedzy, którą model widział w treningu, jak i dla zupełnie nowej, a modele z trudem przyswajały nowe fakty przez samo dotrenowanie (Ovadia i in., 2023).

Potrzeba Fine-tuning RAG
Stały format odpowiedzi, styl, ton marki Tak Częściowo (instrukcje)
Specjalistyczne słownictwo i klasyfikacja Tak Częściowo
Odpowiedzi na podstawie aktualnych dokumentów Nie (wiedza się starzeje) Tak
Przypis do źródła przy odpowiedzi Nie Tak
Częste zmiany treści Wymaga ponownego treningu Wystarczy zaktualizować indeks
Mniejszy, tańszy model w produkcji Tak Nie wprost

W praktyce najlepsze systemy łączą oba podejścia: model dotrenowany do formatu i języka dziedziny, a wiedza z dokumentów dociągana przez RAG.

Qwen, Mistral, Gemma, Llama czy Bielik: który model wybrać?

Najpierw licencja, potem jakość na Twoim zadaniu w języku polskim. Rynek modeli otwartych zmienia się co kilka miesięcy, więc poniższa tabela opisuje stan na październik 2026 r. Przed wyborem przeczytaj licencję konkretnej wersji.

Rodzina modeli Licencja Mocne strony Na co uważać
Qwen 3.8 (Alibaba) Mieszana: mniejsze modele, np. 27B, na Apache 2.0 (karta modelu), flagowy model i warianty Flash na własnych licencjach Qwen (karta modelu) Najnowsza generacja otwartych modeli Qwen, pierwszy otwarty model klasy Max Licencję sprawdzaj dla konkretnego wariantu: licencja flagowego modelu wymaga osobnej licencji tylko od biznesu Model as a Service lub AI Work Assistant z przychodem powyżej 50 mln USD w ciągu 12 kolejnych miesięcy (licencja); flagowy model wymaga wielu GPU
Mistral Large 3, Small 4, Ministral 3 (Mistral AI) Apache 2.0 (Mistral AI, karta Small 4) Europejski dostawca, Mistral 3 obsługuje ponad 40 języków, małe modele 3B, 8B i 14B Jakość po polsku sprawdź na własnych przykładach
Mistral Medium 3.5 (Mistral AI) Zmodyfikowana licencja MIT (karta modelu) Gęsty model 128B Brak praw dla firm z przychodem powyżej 20 mln USD miesięcznie
Gemma 4 (Google) Apache 2.0 (Google, 2026) Modele od urządzeń brzegowych do 31B parametrów, łatwe do uruchomienia u siebie Mniejsze modele mają mniej wiedzy ogólnej
Bielik v3 (SpeakLeash, ACK Cyfronet AGH) Apache 2.0 (karta modelu) Optymalizowany pod polski, 32 języki europejskie Mniejszy model, bez wbudowanej moderacji
PLLuM (konsorcjum polskich instytucji naukowych) Część Apache 2.0 i Llama 3.1, część tylko niekomercyjna (PLLuM) Polskie dane i polskie zastosowania Do użytku firmowego wybieraj wyłącznie wersje komercyjne
Llama 4 (Meta) Llama 4 Community License (licencja) Duża społeczność i ekosystem narzędzi Ograniczenia licencyjne, w tym dla firm z UE (niżej)

Uwaga na Llama 4. Zasady użytkowania tej rodziny w oficjalnym repozytorium Meta na GitHubie wyłączają prawa z licencji do modeli multimodalnych dla osób i firm z siedzibą lub głównym miejscem działalności w UE ("are not being granted to you if you are an individual domiciled in, or a company with a principal place of business in, the European Union"), poza rolą użytkownika końcowego gotowego produktu (Llama 4 Acceptable Use Policy). Do tego firmy, których produkty miały ponad 700 mln aktywnych użytkowników miesięcznie, muszą prosić Meta o osobną licencję. Dla polskiej firmy, która chce dotrenować i uruchomić model u siebie, modele na Apache 2.0 są zwykle prostszym wyborem.

"Open source" nie znaczy "darmowy w użyciu". Sam model nie kosztuje, ale potrzebujesz mocy obliczeniowej i kompetencji. "Otwarty" oznacza, że kontrolujesz model, wiesz, gdzie działa, i nie zależysz od cennika dostawcy API.

Jak działa fine-tuning w praktyce?

Bierzesz model bazowy i trenujesz go dalej na parach "wejście, oczekiwana odpowiedź" z Twojej firmy. Model uczy się z nich:

  • terminologii i skrótów używanych w firmie,
  • struktury raportów, notatek i odpowiedzi,
  • tonu i stylu komunikacji,
  • sposobu klasyfikowania spraw i dokumentów.

Dziś prawie nikt nie dotrenowuje wszystkich parametrów modelu. LoRA (Low-Rank Adaptation) zamraża oryginalne wagi i trenuje tylko małe dodatkowe macierze. W pracy autorów metody dla modelu GPT-3 175B zmniejszyło to liczbę trenowanych parametrów 10 000 razy, a zapotrzebowanie na pamięć GPU 3 razy (Hu i in., 2021). QLoRA łączy LoRA z kwantyzacją 4-bitową: autorzy dotrenowali model 65B na jednej karcie GPU 48 GB, w 24 godziny (Dettmers i in., 2023).

W praktyce używa się bibliotek open source, takich jak Hugging Face TRL i PEFT, a gotowy adapter LoRA można uruchomić razem z modelem bazowym na własnym serwerze.

Czego potrzebujesz?

  1. Dobrych przykładów. Wcześniejsze raporty, zatwierdzone odpowiedzi, poprawnie sklasyfikowane sprawy. Jakość ma większe znaczenie niż ilość. OpenAI w dokumentacji swojego fine-tuningu podaje minimum 10 przykładów i widoczną poprawę przy 50-100 dobrze przygotowanych przykładach, zaznaczając, że zależy to od zadania (OpenAI).
  2. Ewaluacji przed treningiem. Zestaw testowych pytań i kryteriów, który pokaże, czy dotrenowany model jest lepszy od bazowego. Bez tego nie wiesz, czy fine-tuning cokolwiek dał.
  3. Mocy obliczeniowej. Do treningu wystarczą zwykle wynajęte GPU albo własny serwer. Do codziennej pracy model trzeba gdzieś hostować, w chmurze albo on-premise. Plusy i minusy obu wariantów opisujemy w porównaniu AI on-premise i w chmurze.
  4. Kogoś, kto to utrzyma. Monitoring jakości, ponowne treningi, aktualizacje modelu bazowego.

Czego nikt Ci nie powie o fine-tuningu?

Fine-tuning rozwiązuje konkretne problemy, ale tworzy nowe obowiązki. Zanim zaczniesz, uwzględnij te realia:

  • Model się starzeje. Nowe produkty, zmiany w procedurach i przepisach wymagają ponownego treningu. To nie jest projekt jednorazowy.
  • Przygotowanie danych to większość pracy. Dane muszą być oczyszczone, spójne i reprezentatywne, inaczej model nauczy się także błędów.
  • Infrastruktura kosztuje stale. Trening to jednorazowy wydatek, ale model w produkcji działa codziennie. Policz koszt na zapytanie i porównaj go z API.
  • Dane osobowe w zbiorze treningowym. Jeśli przykłady zawierają dane osobowe, obowiązuje RODO, a usunięcie konkretnej informacji z wytrenowanego modelu jest trudne. Lepiej anonimizować dane przed treningiem.
  • AI Act. Wytyczne Komisji Europejskiej wyjaśniają, że obowiązki dostawcy modelu ogólnego przeznaczenia dotyczą tylko tych, którzy model znacząco modyfikują, a nie wprowadzają drobnych zmian (Komisja Europejska). Typowe dotrenowanie na firmowych przykładach to zwykle druga sytuacja, ale przy dużych projektach warto to sprawdzić z prawnikiem.

5 sygnałów, że czas na fine-tuning

  1. Gotowe modele zawodzą w tym samym miejscu. Mimo dobrych instrukcji i przykładów w prompcie model konsekwentnie myli format, terminologię albo klasyfikację.
  2. Masz wartościowe dane, których nie możesz wysłać na zewnątrz. Przewaga wynika z wiedzy i przykładów, które nie powinny trafiać do zewnętrznych API.
  3. Prywatność lub regulacje mają znaczenie. Finanse, medycyna, prawo: model działający u siebie upraszcza rozmowę o danych.
  4. Wolumen jest duży i stabilny. Mniejszy, dotrenowany model uruchomiony u siebie może być tańszy na zapytanie niż duży model przez API. Sprawdź to na liczbach z Twojego ruchu.
  5. Masz zasoby, żeby go utrzymać. Budżet na infrastrukturę i własny zespół albo zaufanego partnera.

Nie dotrenowuj modelu tylko dlatego, że open source jest modny. Rób to, gdy biznes wyraźnie zyskuje na kontroli, dopasowaniu i przewidywalnym koszcie.

Jak podchodzimy do tego w Mandali?

Zaczynamy od najprostszego rozwiązania, które działa, i sięgamy po fine-tuning dopiero wtedy, gdy ewaluacja pokazuje, że go potrzebujemy. Modele językowe, embeddingi, reranker oraz rozpoznawanie i syntezę mowy uruchamiamy na własnej infrastrukturze GPU, więc dokumenty i nagrania klienta nie trafiają do zewnętrznych API.

Dobrym przykładem jest nasza agentowa baza wiedzy. Tam, gdzie liczy się odpowiedź na podstawie dokumentów, nie dotrenowujemy modelu na treści dokumentów, tylko budujemy wyszukiwanie: potok dokumentów z OCR, wyszukiwanie hybrydowe z polską odmianą, reranking i odpowiedzi z przypisem do źródła, na lokalnych modelach. Wiedza zmienia się z każdym nowym dokumentem, a indeks aktualizuje się bez ponownego treningu.

Jak zacząć? Plan krok po kroku

  1. Nazwij konkretny problem, którego gotowy model nie rozwiązuje dobrze, najlepiej tak konkretny, jak przy pierwszym pilotażu w transformacji AI, i sprawdź, czy nie wystarczą lepsze instrukcje albo RAG.
  2. Zbuduj ewaluację: zestaw testowych przypadków i kryteria oceny.
  3. Przygotuj mały, starannie sprawdzony zbiór przykładów, bez zbędnych danych osobowych.
  4. Wybierz model z odpowiednią licencją i porównaj kilka kandydatów na swoich danych.
  5. Przeprowadź pilotaż z LoRA lub QLoRA i porównaj wynik z modelem bazowym.
  6. Skaluj tylko wtedy, gdy korzyść jest zmierzona, i zaplanuj ponowne treningi.

Open source w AI nie polega na tym, że jest za darmo. Polega na kontroli. Dla właściwych problemów ta kontrola jest warta inwestycji.

Źródła

Najczęściej zadawane pytania

Ile kosztuje fine-tuning własnego modelu AI?

Koszt składa się z trzech części: przygotowania danych (najczęściej największa pozycja, bo to praca ludzi), mocy obliczeniowej na trening i infrastruktury do uruchamiania modelu na co dzień. Dzięki LoRA i QLoRA sam trening jest dziś stosunkowo tani, ale model trzeba potem hostować, monitorować i co jakiś czas dotrenowywać. Uczciwą wycenę da się zrobić dopiero po ocenie danych i wolumenu zapytań.

Czy fine-tuning to to samo co RAG?

Nie. Fine-tuning zmienia sam model, ucząc go formatu, stylu i słownictwa. RAG nie zmienia modelu, tylko przed odpowiedzią wyszukuje fragmenty Twoich dokumentów i podaje je modelowi jako kontekst. Do faktów, które się zmieniają, lepszy jest RAG, do stałego formatu i specjalistycznego języka fine-tuning, a w praktyce często łączy się oba.

Ile danych potrzeba do fine-tuningu?

Mniej, niż się zwykle zakłada, ale muszą być dobre. OpenAI w dokumentacji swojego fine-tuningu podaje minimum 10 przykładów i widoczną poprawę już przy 50-100 dobrze przygotowanych przykładach, z zastrzeżeniem, że zależy to od zadania. Zacznij od małego, starannie sprawdzonego zbioru i ewaluacji, zanim zaczniesz zbierać tysiące przykładów.

Który model open source wybrać do fine-tuningu?

Najpierw sprawdź licencję, potem jakość w języku polskim na Twoim zadaniu. Gemma 4, Mistral Large 3 i Small 4 oraz mniejsze modele Qwen 3.8 (np. 27B) mają licencję Apache 2.0, ale flagowe Qwen 3.8 i Mistral Medium 3.5 mają licencje własne, więc sprawdzaj konkretny wariant. Bielik jest rozwijany w Polsce i optymalizowany pod polski. Llama 4 ma licencję Meta z ograniczeniami, w tym wyłączeniem praw do modeli multimodalnych dla firm z siedzibą w UE.

Czy potrzebuję własnego zespołu ML do fine-tuningu?

Nie musisz go mieć od początku, ale ktoś musi przygotować dane, przeprowadzić trening, zbudować ewaluację i utrzymywać model w produkcji. Wiele firm zaczyna z partnerem technicznym, a własne kompetencje buduje, gdy model staje się częścią kluczowego procesu.