アブリレーションモデルとは何か？平易な解説

簡易版

アブリレーションモデルは、再トレーニングしたり巧妙なプロンプトを書いたりするのではなく、モデル内の数値を変更することで拒否動作を直接編集された通常のオープンウェイト言語モデルです。この用語は「アブレーション（その部分が何をしていたかを調べるために切り取ること）」と「オブリテーション（完全な破壊）」を組み合わせたものです。編集後、モデルは拒否するように教えられたリクエストに対して「お手伝いできません」とは答えなくなります。

詳細に入る前に、3つのポイントを押さえておく価値があります：

• それは重み編集であり、プロンプトリックではありません。維持するジェイルブレイクテキストはなく、それにコンテキストを費やすこともありません。
• それは知識ではなく動作を除去します。モデルは以前と同じ知識を持っています。単に拒否しなくなるだけです。
• それは無料ではありません。編集により一般的な品質が低下する可能性があるため、慎重なビルダーは結果をテストし、修復のためにその後にファインチューニングを行うことがあります。

アイデアの起源

チャットモデルはポストトレーニング中に拒否を学習します。アノテーターや報酬モデルはモデルを特定のリクエストの拒否へと向かわせ、その習慣はモデルが学習した他のすべてのことと一緒に組み込まれます。長い間、それは何十億ものパラメータにわたって広がる拡散された動作のように見えました。

言語モデルにおける拒否は単一方向によって媒介されるというタイトルの研究論文は、より扱いやすいものがあることを示しました。オープンチャットモデルの範囲全体にわたり、拒否動作の多くはモデルの内部活性化空間内の1つの方向によって制御されています。その方向に沿って活性化を押し出すと、モデルは無害なリクエストでさえ拒否します。その方向を除去すると、通常拒否するリクエストの拒否が止まります。

オープンソースコミュニティはこの発見を実用的なレシピに変え、名前を付けました。アブリレーションとはそのレシピです：拒否方向を見つけ、モデルがそれを使用できないようにします。

アブリレーションの仕組み：ステップバイステップ

この手順は5つのステップで説明できるほど短いです。勾配降下は関与しないため、モデルのトレーニングに必要な計算量よりもはるかに少なくて済みます。

1. 2つのプロンプトセットを収集します。1つのセットにはモデルが拒否するリクエストが含まれ、もう1つにはモデルが回答するリクエストが含まれます。それぞれ数百個が一般的なサイズです。
2. 活性化を記録します。両方のセットをモデルに通し、選択したレイヤーの隠れ状態を保存します。通常は最終プロンプトトークンです。
3. 方向を計算します。各セットの活性化の平均を求め、「拒否」の平均から「回答」の平均を減算し、結果を正規化します。そのベクトルが拒否の方向です。
4. それを投影して除去します。実行時に方向を減算するか、残差ストリームに書き込む重み行列（埋め込み、注意出力、MLP出力）を編集して、その方向に沿った成分を生成できないようにします。2番目のオプションは永続的であり、公開されているアブリレーションチェックポイントのほとんどで使用されています。
5. テストします。ホールドアウトしたプロンプトを実行し、前後の拒否率を比較し、推論やコーディングなどの通常のタスクで回帰がないか確認します。

レイヤーの選択が重要です。方向が2つのプロンプトセットを明確に分離し、編集が機能するレイヤーを選択してください。不適切なものを選択すると、まだ拒否するモデル、または関連しない質問で安定性を失ったモデルになります。実際には、人々は複数のレイヤーを試して最も良いものを選択します。

他のアプローチとのアブリレーションの比較

モデルに拒否をやめさせる一般的な方法は3つあります。それらは変更する内容と、一般的に失敗しやすい点が異なります。

アプローチ	変更点	コスト	典型的な弱点
ジェイルブレイクプロンプト	入力テキストのみ	なし、ただし呼び出しごとにコンテキストを使用します	脆い；モデルの更新が1回あるだけで機能しなくなります
制限の緩いデータでファインチューニング	トレーニングによる重み	GPU時間とキュレーションされたデータセット	データセットの品質がすべてを決定します。書き方は変化することがあります
アブリレーション	直接編集による重み	トレーニングと比較して低い	方向は近似であるため、品質が低下する可能性があります

多くの完成したモデルは複数の方法を組み合わせています。一般的なパターンは、まずアブリレーションを実行し、編集によって失われた品質を回復するために短いファインチューニングを実行することです。モデルカードを読むときは、これらのステップのどれが使用されたか、および著者が前後のテストを報告しているかを確認してください。

あなたが犠牲にするもの、および注意すべき点

拒否を除去しても、モデルが何かにおいて優れたものになるわけではありません。それはフィルタを除去します。いくつかの結果が生じます。

品質が低下する可能性があります

拒否方向は他の機能と完全に分離されているわけではありません。それを除去すると近傍の動作がぼやけ、やや悪化した推論、奇妙なフォーマット、または平坦なトーンとして現れます。優れたビルドではこれらの影響を小さく保ちますが、ラベルを信頼するのではなく、独自のプロンプトを実行すべきです。

判断はあなた次第です

アライメントされたモデルは、適切な理由でリクエストを拒否することがあります。無検閲のモデルは通常、リクエストを処理します。これを基に製品をリリースする場合、何が許容可能かはあなた次第です：システムプロンプトを記述し、独自の入力チェックを追加し、重要な事項をログに記録してください。合法的な成人利用が想定される範囲です。未成年者に関連するコンテンツはこのサービスにおいて厳格な制限事項であり、いかなる場合も許容されません。

ミスは依然として発生します

モデルは依然として事実を捏造したり、指示を読み間違えたり、長い会話の追跡を失ったりする可能性があります。拒否が少ないことは、精度が高いことを意味しません。

このAPIの背後にあるモデルの位置づけ

この記事は手法を一般的な用語で説明しています。APIが提供するものは、独立したプロバイダーが運用するオープンウェイトモデルの1つであり、合合合法的な成人向け用途のためにコンテンツ拒否なしで回答するように調整されています。Meta、Mistral、Qwen、DeepSeek、OpenAI、またはその他のベンダーの公式APIではなく、それらのルーターでもありません。テキストのみを処理します：画像、オーディオ、埋め込み、ファインチューニングはありません。

インターフェースはOpenAI互換です。OpenAI SDKをhttps://api.abliteratedmodels.cc/v1に向け、モデルID uncensoredを使用し、キーをBearerトークンとして送信します：

Copycurl https://api.abliteratedmodels.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "user", "content": "Explain directional ablation in two sentences."}
    ]
  }'

公式SDKを使用したPythonでの同じ呼び出し：

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodels.cc/v1",
    api_key="YOUR_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What does a refusal direction mean?"}],
)
print(reply.choices[0].message.content)

コンテキストウィンドウは100,000トークンで、プロンプトと補完を合わせてカウントします。ストリーミング、ツール呼び出し、JSON モードはOpenAI APIと同様に機能します。詳細はAPIドキュメントにあります。

アブリレーションモデルに関するよくある誤解

これらのモデルについて、間違った期待を抱かせる可能性があるため、是正すべきいくつかの誤解が広まっています。

「より賢いモデルである。」 違います。編集によってフィルタが除去されるだけです。推論、事実の記憶、文章作成のスキルはベースモデル由来のものであり、むしろ同じか、わずかに低下する可能性があります。能力不足のためアライメント済みバージョンでタスクが失敗する場合、このモデルでも失敗します。

「ルールが全くない。」 モデル自体には拒否の癖がないかもしれませんが、それを取り巻くサービスにはルールがあります。未成年者を含む性的コンテンツは厳格な制限対象であり、想定される利用範囲は合法な成人向けです。モデルは学習データ由来の口調や作法を維持するため、プロンプトがそれを促さない限り、無礼になったり危険になったりすることはありません。

「システムプロンプトでも同じことができます。」 システムプロンプトはモデルを誘導できますが、軽度のケースではそれで十分なこともあります。ただし、プロンプトは呼び出しごとに入力トークンを消費し、実際の指示と注意を奪い合い、モデルが学習した拒否反応が強い場合には効かなくなります。ウェイト編集にはこれらのコストがありません。

「アブリレーションは違法を意味する。」 違います。オープンウェイトモデルは誰でも修正できるように公開されており、それらを編集することは機械学習研究の通常の部分です。出力をどう利用するかについて法律が関心を持ち、それはあなたの責任として残ります。

これらのポイントを念頭に置くことで、ガードレールが少なく基礎的なスキルは同じであるというツールとして、自社の製品に必要なセーフガードを適用して評価しやすくなります。

実際に誰が必要とするのか

多くの人は拒否に遭遇しません。遭遇する人は、主に以下のグループに分類されます。

• フィクションやロールプレイの作家。 文学ではダークなテーマ、真の脅威を持つ悪役、道徳的に曖昧なシーンが一般的です。アライメント済みモデルはこれらを弱めたり拒否したりすることがよくあります。成人向けコンパニオンやストーリーアプリでも同じ問題に直面します。
• セキュリティおよびレッドチームの担当者。 テストペイロードの作成、攻撃チェーンの解説、マルウェアサンプルの分析は、一般向けに作られたフィルタをトリガーする可能性があります。
• モデレーションおよび研究チーム。 有害なテキストの分類器を構築するには、時にそれらの例を生成したり、ためらいなくそれらについて議論したりするモデルが必要です。
• リトライループに疲れた開発者。 パイプラインの半分が拒否の検知と書き換えに費やされている場合、それらを除去することでコードが簡素化されます。

アライメント済みホストモデルとのコストと制御のトレードオフを検討している場合は、無検閲 LLM API のコスト対制御 のページで詳細を解説しています。料金は一律で、入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50です。失敗または拒否されたリクエストには課金されません。チャージ額とボーナスについては料金ページをご覧ください。

費用をかけずに試す

無検閲モデルがあなたのプロンプトに適しているかどうかを、支払いの前にテストできます。Googleまたはメールアドレスとパスワードでサインアップし、キーページを開いてワンクリックで$0.50の無料トライアルクレジットを受け取ってください。カードは不要で、1人1回限りの制限があり、7日間有効です。このレートでは$0.50で1000回以上の短いチャットターンをカバーでき、公平なテストには十分です。

現在のモデルが拒否するプロンプトを実行し、回答を自分の判断と比較し、拒否とは無関係なタスクでの品質を確認します。出力が妥当であれば、API キーページからキーを取得し、$20からチャージしてください。

その他のガイド

• コーディングに最適なアブリレーションモデル：選ぶ際のポイント
• 無検閲 LLM API：コスト対制御の分析