什麼是 Abliterated 模型?白話解釋
什麼是 Abliterated 模型?這是一種語言模型,其學習到的拒絕請求習慣已從權重中移除,因此它會回答而非拒絕。本頁說明該方法、其權衡以及如何透過 API 試用無審查模型。
更新於

簡短版本
經過 Abliteration 的模型是一種普通的開放權重語言模型,其拒絕行為是透過直接修改模型內部的數值來消除的,而非透過重新訓練或撰寫巧妙的提示詞。這個詞融合了「消融」(切除一部分以觀察其作用)與「抹滅」的含義。經過編輯後,該模型不再對原本被教導要拒絕的請求回答「我無法協助」。
在詳細說明之前,有三個重點值得記住:
- 它是權重編輯,而非提示詞技巧。沒有需要維護的越獄文本,也不會消耗上下文。
- 它移除的是行為,而非知識。模型知道它原本就知道的內容;它只是不再拒絕。
- 它不是免費的。編輯可能會損及通用品質,因此謹慎的開發者會測試結果,有時會在之後進行微調以修復它。
概念的來源
聊天模型在後訓練期間學會拒絕。標註者和獎勵模型推動模型傾向於拒絕某些請求,這種習慣與模型學習的其他內容一起被固化。長久以來,這看起來像是分散在數十億個參數上的廣泛行為。
一篇標題為語言模型的拒絕行為由單一方向介導的研究論文展示了更明確的現象。在一系列開放聊天模型中,大部分拒絕行為由模型內部激活空間中的一個方向所控制。沿該方向推動激活值,模型會拒絕甚至無害的請求。移除該方向後,它便停止拒絕原本會拒絕的請求。
開源社群將此發現轉化為實用配方並命名。Abliteration 就是該配方:找到拒絕方向,然後讓模型無法使用它。
Abliteration 的運作步驟
程序很短,只需五個步驟即可描述。不涉及梯度下降,因此它所需的運算量遠少於訓練模型。
- 收集兩組提示詞。一組包含模型拒絕的請求,另一組包含模型會回答的請求。每種幾百個是常見規模。
- 記錄激活值。將兩組提示詞輸入模型,並儲存選擇層級的隱藏狀態,通常在最終提示 token 處。
- 計算方向。計算每組的激活值平均值,從「拒絕」的平均值中減去「已回答」的平均值,並將結果歸一化。該向量即為拒絕方向。
- 將其投影移除。可以在執行階段減去該方向,或編輯寫入殘差流的權重矩陣(嵌入、注意力輸出、MLP 輸出),使其永遠無法產生沿該方向的分量。第二種選項是永久性的,也是大多數已發布的 Abliterated 檢查點所使用的做法。
- 測試。執行保留的提示詞,比較前後拒絕率的變化,並檢查推理和編碼等常規任務是否有退化。
選擇層級很重要。選擇一個能清晰分離兩組提示詞且編輯有效的層級;選擇不佳的層級會得到仍然拒絕的模型,或在無關問題上失去立足點的模型。實際上,人們會嘗試多個層級並保留最好的。
Abliteration 與其他方法的比較
有三種常見方法讓模型停止拒絕。它們在改變的內容和傾向失敗的地方有所不同。
| 方法 | 變更內容 | 成本 | 典型弱點 |
|---|---|---|---|
| 越獄提示詞 | 僅限輸入文字 | 無,但每次呼叫都使用上下文 | 脆弱;一次模型更新就會失效 |
| 在寬鬆資料上微調 | 權重,透過訓練 | GPU 小時數和精選資料集 | 資料集品質決定一切;寫作風格可能漂移 |
| Abliteration | 權重,透過直接編輯 | 低於訓練成本 | 方向是近似的,因此品質可能下降 |
許多完成的模型結合了多種方法。常見模式是先進行 Abliteration,然後進行簡短微調以恢復編輯所損失的品質。閱讀模型卡時,請查看使用了哪些步驟,以及作者是否報告了前後測試。
你讓渡的與需要注意的
移除拒絕並不會讓模型在各方面都更好。它只是移除了過濾器。會產生一些後果。
品質可能下降
拒絕方向與其他特徵並非完全分離。移除它可能會模糊鄰近行為,表現為推理稍差、格式奇怪或語調平淡。良好的構建會將這些影響保持在較小範圍,但你應運行自己的提示詞,而非僅依賴標籤。
判斷權現在歸你
對齊模型有時會基於合理原因拒絕請求。無審查模型則通常會繼續執行。若在其上開發產品,由你決定何者可接受:撰寫系統提示詞、加入自訂輸入檢查,並記錄對你重要的內容。合法成人用途為預期範圍。涉及未成年人的內容為本服務的硬性限制,且在任何情況下都不可接受。
錯誤仍會發生
模型仍可能捏造事實、誤讀指令或在長對話中失去脈絡。較少的拒絕並不意味著更高的準確性。
此 API 背後的模型定位
本文以一般術語描述該方法。API 提供給你的是由獨立供應商營運的一個開放權重模型,針對合法成人使用進行了調整,以無內容拒絕的方式回答。它不是 Meta、Mistral、Qwen、DeepSeek、OpenAI 或其他任何廠商的官方 API,也不是跨多個模型的路由器。它僅處理文字:無圖片、音訊、嵌入或微調。
介面與 OpenAI 相容。將任何 OpenAI SDK 指向 https://api.abliteratedmodels.cc/v1,使用模型 ID uncensored,並將你的金鑰作為 Bearer token 傳送:
curl https://api.abliteratedmodels.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "user", "content": "Explain directional ablation in two sentences."}
]
}'
使用官方 SDK 的相同 Python 呼叫:
from openai import OpenAI
client = OpenAI(
base_url="https://api.abliteratedmodels.cc/v1",
api_key="YOUR_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What does a refusal direction mean?"}],
)
print(reply.choices[0].message.content)
上下文視窗為 100,000 個 token,計算時包含提示詞與補全內容。串流輸出、函式呼叫和 JSON 模式的操作方式與 OpenAI API 相同。詳細資訊請見 API 文件。
關於 Abliterated 模型的常見迷思
關於這些模型流傳著一些值得釐清的觀念,因為它們會讓人產生錯誤的期待。
「它是更聰明的模型。」並非如此。該編輯移除了過濾器。推理、事實記憶與寫作能力來自基底模型,若有任何變化,也只能維持不變或略微變差。若對齊版本因能力不足而失敗,此處也會失敗。
「它完全沒有規則。」該模型可能沒有拒絕習慣,但圍繞它的服務是有規則的。涉及未成年人的性內容是硬性限制,預期的範圍是合法成人使用。該模型仍保留其訓練資料的語氣和禮儀,因此除非提示詞將其推向那裡,否則它不會變得粗魯或危險。
「系統提示詞可以達到同樣的效果。」系統提示詞可以引導模型,有時這對輕微情況已經足夠。但提示詞會在每次呼叫時消耗輸入 token,與你的真實指令競爭注意力,並且當模型的訓練反射很強時就會失效。權重編輯沒有這些成本。
「Abliterated 意味著非法。」並非如此。開放權重模型是發布給任何人修改的,編輯它們是機器學習研究的常規工作。你如何使用輸出內容才是法律關注的重點,這仍然是你的責任。
記住這些要點,能讓你更合理地評估此類模型:將其視為具有較少防護措施且具備相同底層技能的工具,並根據你自身產品的需求包裝適當的防護措施。
誰真正需要一個
大多數人從未遇到拒絕。遇到的人通常屬於以下幾類:
- 小說與角色扮演作家。黑暗主題、具有真實威脅感的反派和道德混亂的場景在文學作品中很常見。對齊的模型經常會弱化或拒絕這些內容。成人導向的伴侶和故事應用程式也會遇到同樣的問題。
- 安全與紅隊人員。編寫測試有效載荷、解釋漏洞鏈的工作原理或分析惡意軟體樣本,可能會觸發為一般大眾設計的過濾器。
- 審核與研究團隊。要構建有害文本的分類器,有時你需要一個能產生其範例的模型,或者一個能毫不猶豫地討論它們的模型。
- 受夠了重試迴圈的開發者。 如果你的管線有一半都在處理拒絕並重新表述,移除它們能簡化程式碼。
如果你正在將成本與控制權的權衡與對齊的託管模型進行比較,無審查 LLM API 成本與控制權頁面有詳細說明。定價是固定的:每百萬輸入 token $0.15,每百萬輸出 token $0.50,失敗或拒絕的請求不收費。請參閱 定價頁面了解儲值金額和贈送額度。
不花錢試用
你可以在付費之前測試無審查模型是否適合你的提示詞。使用 Google 或電子郵件與密碼註冊,開啟金鑰頁面,並一鍵領取 $0.50 試用額度。它不需要信用卡,每人限領一次,且在 7 天內有效。以這些費率計算,$0.50 足以覆蓋超過一千次短對話輪次,這對於公平測試已經足夠。
執行當前模型拒絕的提示詞,將答案與你的判斷進行比較,並檢視與拒絕無關的任務品質。若輸出結果符合預期,請前往API 金鑰頁面取得金鑰,並從 $20 開始儲值。
更多指南
問答
Abliteration 與微調是一樣的嗎?
不是。微調是透過在新資料上訓練來改變權重。Abliteration 從激活值計算方向並直接編輯權重,沒有訓練迴圈,儘管有些開發者會在其後進行短暫的微調以修復品質。
Abliterated 模型比一般模型知道得更多嗎?
不是。它擁有與基礎模型相同的知識。它只是不再拒絕請求,因此可以討論基礎模型避免的主題,但其事實並非更好。
它能產生任何內容嗎?
不是。此服務適用於合法的成人用途,涉及未成年人的性內容是硬性限制。你也要為你的產品如何使用輸出結果負責。
此 API 上的模型是大型實驗室發布的官方版本嗎?
不是。這是獨立供應商營運的一個開放權重模型。它不是 Meta、Mistral、Qwen、DeepSeek、OpenAI 或任何其他廠商的官方 API。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。