Czym jest model abliterowany? Proste wyjaśnienie

Krótka wersja

Model abliterowany to zwykły model językowy o otwartych wagach, którego zachowanie odmowy zostało bezpośrednio usunięte poprzez zmianę liczb wewnątrz modelu, a nie poprzez ponowne trenowanie ani napisanie sprytnego promptu. Słowo to łączy „ablację” (wycięcie części, aby zobaczyć, co robiła) z „obliteracją”. Po edycji model przestaje odpowiadać „Nie mogę w tym pomóc” na zapytania, które nauczono go odrzucać.

Trzy punkty, które warto zapamiętać przed szczegółami:

• To edycja wag, a nie sztuczka z promptem. Nie ma tekstu jailbreak do utrzymania ani zużywanego na to okna kontekstu.
• Usuwa zachowanie, nie wiedzę. Model wie to, co wiedział wcześniej; po prostu przestaje odmawiać.
• Nie jest darmowe. Edycja może obniżyć ogólną jakość, więc uważni twórcy testują wynik i czasem dostrajają model po edycji, aby go przywrócić.

Pochodzenie pomysłu

Modele czatu uczą się odmawiać podczas dostrajania po wstępnym trenowaniu. Anotatorzy i modele nagradzające kierują model w stronę odmawiania określonych zapytań, a nawyk ten jest wbudowany wraz ze wszystkim innym, czego model się nauczył. Przez długi czas wyglądało to na rozproszoną cechę rozłożoną na miliardy parametrów.

Artykuł badawczy zatytułowany Odmowa w modelach językowych jest pośredniczona przez pojedynczy kierunek pokazał coś bardziej przystępnego. W szeregu otwartych modeli czatu duża część zachowań odmownych jest kontrolowana przez jeden kierunek w wewnętrznej przestrzeni aktywacji modelu. Popchnij aktywacje wzdłuż tego kierunku, a model będzie odmawiać nawet w przypadku niewinnych zapytań. Usuń ten kierunek, a przestanie odmawiać zapytań, które normalnie odrzucał.

Społeczność open-source przekuła to odkrycie w praktyczny przepis i nadała mu nazwę. Abliteracja to ten przepis: znajdź kierunek odmowy, a następnie uniemożliw modelowi jego użycie.

Jak działa abliteracja krok po kroku

Procedura jest na tyle krótka, by opisać ją w pięciu krokach. Nie ma w niej spadek gradientu, dlatego wymaga znacznie mniej mocy obliczeniowej niż trening modelu.

1. Zbierz dwa zestawy promptów. Jeden zestaw zawiera zapytania, które model odrzuca, drugi zawiera zapytania, na które odpowiada. Kilka setek każdego z nich to typowy rozmiar.
2. Zarejestruj aktywacje. Uruchom oba zestawy przez model i zapisz stan ukryty na wybranej warstwie, zwykle na ostatnim tokenie promptu.
3. Oblicz kierunek. Uśrednij aktywacje każdego zestawu, odejmij średnią „odpowiedź” od średniej „odmowa” i znormalizuj wynik. Ten wektor to kierunek odmowy.
4. Usuń go przez rzutowanie. Możesz odjąć kierunek w czasie działania lub edytować macierze wagowe zapisujące do strumienia rezydualnego (embeddings, wyniki uwagi, wyjścia MLP), aby nigdy nie generowały składowej w tym kierunku. Druga opcja jest trwała i stanowi podstawę większości opublikowanych abliterowanych checkpointów.
5. Przetestuj. Uruchom zestawy testowe (held-out), porównaj wskaźnik odmowy przed i po, oraz sprawdź zwykłe zadania, takie jak rozumowanie i programowanie, pod kątem regresji.

Wybór warstwy ma znaczenie. Wybierz taką, w której kierunek wyraźnie oddziela dwa zestawy promptów i edycja działa; wybierz słabą warstwę, a otrzymasz model, który nadal odmawia, lub taki, który utracił grunt pod nogami w niepowiązanych pytaniach. W praktyce ludzie próbują kilku warstw i wybierają najlepszą.

Abliteracja w porównaniu z innymi podejściami

Istnieją trzy powszechne sposoby, aby zmusić model do przestania odmawiać. Różnią się tym, co zmieniają i gdzie zwykle zawodzą.

Podejście	Co się zmienia	Koszt	Typowa słabość
Prompt jailbreak	Tylko tekst wejściowy	Brak, ale zużywa kontekst przy każdym wywołaniu	Kruche; jedna aktualizacja modelu i przestaje działać
Dostrajanie na danych permisywnych	Wagi, poprzez trening	Godziny GPU i wyselekcjonowany zestaw danych	Jakość zestawu danych decyduje o wszystkim; styl pisania może ulec zmianie
Abliteracja	Wagi, poprzez bezpośrednią edycję	Niskie w porównaniu z treningiem	Kierunek jest przybliżony, więc jakość może spaść

Wiele gotowych modeli łączy metody. Powszechnym wzorcem jest najpierw abliteracja, a następnie krótkie dostrajanie, aby odzyskać jakość utraconą przez edycję. Czytając kartę modelu, sprawdź, które z tych kroków zostały użyte i czy autor raportuje testy przed i po.

Na czym tracisz i na co zwracać uwagę

Usunięcie odmów nie sprawia, że model jest lepszy w niczym. Usuwa filtr. Płyną z tego pewne konsekwencje.

Jakość może spaść

Kierunek odmowy nie jest idealnie oddzielony od innych cech. Jego usunięcie może rozmyć sąsiednie zachowania, co objawia się nieco gorszym rozumowaniem, dziwnym formatowaniem lub płaskim tonem. Dobra implementacja utrzymuje te efekty na małym poziomie, ale powinieneś uruchomić własne prompty, a nie ufać etykietom.

Ocena należy do Ciebie

Model z alignmentem czasem odrzuca zapytanie z dobrych powodów. Model bez cenzury zwykle pójdzie dalej. Jeśli wypuścisz produkt oparty na nim, Ty decydujesz, co jest akceptowalne: napisz prompt systemowy, dodaj własne sprawdzenia wejścia i loguj to, co jest dla Ciebie ważne. Zamierzonym zakresem jest zgodne z prawem użycie przez osoby pełnoletnie. Treści z udziałem nieletnich to limit twardy dla tej usługi i są nieakceptowalne wszędzie.

Błędy nadal się zdarzają

Model nadal może wymyślać fakty, źle interpretować instrukcje lub tracić wątek długiej rozmowy. Mniej odmów nie oznacza większej dokładności.

Jak model stojący za tym API pasuje do całości

Ten artykuł opisuje metodę w ogólnych zarysach. To, co daje Ci API, to jeden model o otwartych wagach, uruchamiany przez niezależnego dostawcę, dopasowany do odpowiadania bez odmów treściowych dla zgodnego z prawem użytku przez osoby pełnoletnie. Nie jest to oficjalne API Meta, Mistral, Qwen, DeepSeek, OpenAI ani żadnego innego dostawcy, ani nie jest routerem łączącym kilka z nich. Obsługuje tylko tekst: bez obrazów, audio, embeddingów ani dostrajania.

Interfejs jest kompatybilny z OpenAI. Wskaż dowolne OpenAI SDK na https://api.abliteratedmodels.cc/v1, użyj ID modelu uncensored i wyślij swój klucz jako token Bearer:

Copycurl https://api.abliteratedmodels.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "user", "content": "Explain directional ablation in two sentences."}
    ]
  }'

To samo wywołanie w Pythonie z oficjalnym SDK:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodels.cc/v1",
    api_key="YOUR_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What does a refusal direction mean?"}],
)
print(reply.choices[0].message.content)

Okno kontekstu wynosi 100 000 tokenów, licząc razem prompt i uzupełnienie. Strumieniowanie, wywoływanie narzędzi i tryb JSON działają tak samo jak w API OpenAI. Szczegóły znajdziesz w dokumentacji API.

Popularne mity o modelach abliterowanych

Krąży kilka pomysłów na temat tych modeli, które warto sprostować, ponieważ prowadzą one do błędnych oczekiwań.

„To sprytniejszy model.” Nie jest. Edycja usuwa filtr. Umiejętność rozumowania, pamięć faktów i umiejętność pisania pochodzą z modelu bazowego, a jeśli już, to mogą tylko pozostać takie same lub nieco się pogorszyć. Jeśli zadanie zawiedzie na wersji z alignmentem z powodu braku zdolności, zawiedzie też tutaj.

„Nie ma w ogóle żadnych zasad.” Model może nie mieć nawyku odmawiania, ale usługa wokół niego ma. Treści seksualne z udziałem nieletnich to limit twardy, a zamierzony zakres to zgodne z prawem użytkowanie przez osoby pełnoletnie. Model nadal nosi również ton i maniery swoich danych treningowych, więc nie stanie się niegrzeczny ani niebezpieczny, chyba że prompt go do tego popchnie.

„Prompt systemowy może zrobić to samo.” Prompt systemowy może lekko popchnąć model, a czasem to wystarczy w łagodnych przypadkach. Ale prompt kosztuje tokeny wejściowe przy każdym wywołaniu, rywalizuje z Twoimi prawdziwymi instrukcjami o uwagę i zawodzi, gdy wytrenowany odruch modelu jest silny. Edycja wag nie ma żadnych z tych kosztów.

„Abliteracja oznacza nielegalność.” Nie oznacza. Modele o otwartych wagach są publikowane, aby każdy mógł je modyfikować, a edycja jednego z nich to normalny element badań w uczeniu maszynowym. Prawo interesuje się tym, co zrobisz z wynikiem, i to pozostaje Twoją odpowiedzialnością.

Mając te punkty na uwadze, łatwiej jest rozsądnie ocenić taki model: jako narzędzie z mniejszą liczbą zabezpieczeń i tymi samymi umiejętnościami, które należy otoczyć zabezpieczeniami potrzebnymi w Twoim produkcie.

Kto naprawdę tego potrzebuje

Większość użytkowników nigdy nie napotka odmowy. Ci, którzy ją napotkają, należą zwykle do kilku grup:

• Pisarze fikcji i gier fabularnych. Ciemne motywy, złoczyńcy z prawdziwym poczuciem zagrożenia i moralnie skomplikowane sceny są normalne w literaturze. Modele z alignmentem często je zmiękczają lub odrzucają. Aplikacje towarzyskie i opowieściowe dla dorosłych napotykają ten sam problem.
• Specjaliści ds. bezpieczeństwa i testerzy red-teamowi. Pisanie ładunków testowych, wyjaśnianie, jak działa łańcuch exploitów lub analiza próbki złośliwego oprogramowania może uruchomić filtr przeznaczony dla ogółu odbiorców.
• Zespoły moderacyjne i badawcze. Aby zbudować klasyfikator tekstu szkodliwego, czasem potrzebujesz modelu, który wyprodukuje jego przykłady lub który będzie je omawiał bez wahania.
• Deweloperzy zmęczeni pętlami ponownych prób. Jeśli połowa Twojego potoku polega na łapaniu odmów i przepisywaniu, ich usunięcie upraszcza kod.

Jeśli rozważasz kompromis między kosztem a kontrolą w porównaniu do hostowanego modelu z alignmentem, strona koszt vs kontrola API LLM bez cenzury omawia to szczegółowo. Cennik jest jednolity: $0,15 za milion tokenów wejściowych i $0,50 za milion tokenów wyjściowych, a nieudane lub odrzucone zapytania nie są rozliczane. Zobacz stronę z cenami, aby zobaczyć kwoty doładowania i bonusy.

Wypróbuj bez wydawania pieniędzy

Możesz przetestować, czy model bez cenzury pasuje do Twoich promptów, zanim zapłacisz cokolwiek. Zarejestruj się za pomocą Google lub e-maila i hasła, otwórz stronę z kluczami i jednym kliknięciem odbierz $0,50 kredytu próbnego. Nie wymaga karty, jest limitowany do jednej na osobę i jest ważny przez 7 dni. Przy tych stawkach $0,50 starcza na ponad tysiąc krótkich rozmów, co jest wystarczające do uczciwego testu.

Uruchom prompty, które Twój obecny model odrzuca, porównaj odpowiedzi z własną oceną i sprawdź jakość na zadaniach, które nie mają nic wspólnego z odmową. Jeśli wyjście się utrzymuje, pobierz klucz ze strony kluczy API i doładuj od $20.

Więcej przewodników

• Najlepsze modele abliterowane do programowania: na co zwracać uwagę
• API LLM bez cenzury: Analiza kosztów vs kontrola