Apa Itu Model Abliterasi? Penjelasan Sederhana

Versi singkatnya

Model abliterasi adalah model bahasa bobot terbuka biasa yang perilaku penolakannya telah dihapus secara langsung dengan mengubah angka di dalam model, bukan dengan melatih ulang atau menulis prompt yang cerdas. Kata ini menggabungkan "ablasi" (memotong bagian untuk melihat fungsinya) dengan "obliterasi". Setelah edit, model tidak lagi menjawab "Saya tidak bisa membantu itu" untuk permintaan yang diajarkan untuk ditolaknya.

Tiga poin penting yang perlu diingat sebelum detail:

• Ini adalah edit bobot, bukan trik prompt. Tidak ada teks jailbreak yang perlu dipertahankan dan tidak ada konteks yang dihabiskan untuknya.
• Ini menghapus perilaku, bukan pengetahuan. Model memiliki pengetahuan yang sama seperti sebelumnya; model ini hanya berhenti menolak.
• Ini tidak gratis. Edit ini dapat mengurangi kualitas umum, sehingga pembuat yang hati-hati menguji hasilnya dan terkadang melakukan penyetelan halus setelahnya untuk memulihkannya.

Asal ide ini

Model chat belajar menolak selama pasca-pelatihan. Anotator dan model reward mendorong model untuk menolak permintaan tertentu, dan kebiasaan ini melekat bersama dengan semua hal lain yang dipelajari model. Untuk waktu yang lama, itu terlihat seperti perilaku tersebar di miliaran parameter.

Sebuah makalah penelitian berjudul Penolakan pada Model Bahasa Dimediasi oleh Satu Arah Tertentu menunjukkan sesuatu yang lebih mudah ditangani. Pada berbagai model obrolan terbuka, sebagian besar perilaku penolakan dikendalikan oleh satu arah dalam ruang aktivasi internal model. Dorong aktivasi sepanjang arah tersebut dan model akan menolak bahkan permintaan yang tidak berbahaya. Hapus arah itu dan model berhenti menolak permintaan yang biasanya akan ditolaknya.

Komunitas sumber terbuka mengubah temuan ini menjadi resep praktis dan memberinya nama. Abliterasi adalah resep itu: temukan arah penolakan, lalu buat model tidak dapat menggunakannya.

Cara kerja abliterasi, langkah demi langkah

Prosedurnya cukup singkat untuk dijelaskan dalam lima langkah. Tidak ada penurunan gradien yang terlibat, itulah sebabnya ini membutuhkan komputasi jauh lebih sedikit daripada melatih model.

1. Kumpulkan dua set prompt. Satu set berisi permintaan yang ditolak model, set lainnya berisi permintaan yang dijawab model. Beberapa ratus dari masing-masing adalah ukuran umum.
2. Catat aktivasi. Jalankan kedua set melalui model dan simpan keadaan tersembunyi di lapisan yang dipilih, biasanya pada token prompt terakhir.
3. Hitung arah. Rata-rata aktivasi setiap set, kurangi rata-rata "dijawab" dari rata-rata "ditolak", dan normalisasi hasilnya. Vektor itu adalah arah penolakan.
4. Proyeksikan keluar. Baik kurangi arah tersebut saat runtime, atau edit matriks bobot yang menulis ke aliran residual (embeddings, output attention, output MLP) agar tidak pernah menghasilkan komponen sepanjang arah itu. Opsi kedua bersifat permanen dan digunakan oleh sebagian besar checkpoint yang telah diabliterasi.
5. Uji. Jalankan prompt held-out yang disisihkan, bandingkan tingkat penolakan sebelum dan sesudah, serta periksa tugas umum seperti penalaran dan pemrograman untuk regresi.

Pemilihan lapisan sangat penting. Pilih lapisan di mana arah tersebut memisahkan dua set prompt secara bersih, dan edit berhasil; pilih lapisan yang buruk dan Anda akan mendapatkan model yang masih menolak, atau model yang kehilangan kemampuan pada pertanyaan yang tidak terkait. Dalam praktiknya, orang mencoba beberapa lapisan dan memilih yang terbaik.

Abliterasi dibandingkan dengan pendekatan lain

Ada tiga cara umum untuk membuat model berhenti menolak. Mereka berbeda dalam apa yang mereka ubah dan di mana mereka cenderung gagal.

Pendekatan	Apa yang berubah	Biaya	Kelemahan umum
Prompt jailbreak	Hanya teks input	Tidak ada, tetapi menggunakan konteks pada setiap panggilan	Rapuh; satu pembaruan model dan ini berhenti berfungsi
Penyetelan halus pada data permisif	Bobot, melalui pelatihan	Jam GPU dan dataset yang dikurasi	Kualitas dataset menentukan segalanya; gaya penulisan dapat menyimpang
Abliterasi	Bobot, melalui edit langsung	Rendah dibandingkan dengan pelatihan	Arahnya perkiraan, sehingga kualitas dapat turun

Banyak model yang selesai menggabungkan metode. Pola umum adalah melakukan abliterasi terlebih dahulu, kemudian menjalankan penyetelan halus singkat untuk memulihkan kualitas apa pun yang hilang akibat edit. Saat Anda membaca kartu model, lihat langkah-langkah mana yang digunakan dan apakah penulis melaporkan pengujian sebelum dan sesudah.

Apa yang Anda korbankan dan apa yang perlu diwaspadai

Menghapus penolakan tidak membuat model lebih baik dalam apa pun. Ini menghapus filter. Ada beberapa konsekuensinya.

Kualitas dapat turun

Arah penolakan tidak sepenuhnya terpisah dari fitur lain. Menghapusnya dapat mengaburkan perilaku tetangga, yang muncul sebagai penalaran yang sedikit lebih buruk, pemformatan aneh, atau nada yang lebih datar. Hasil yang baik menjaga efek-efek ini tetap kecil, tetapi Anda harus menjalankan prompt Anda sendiri daripada mempercayai label.

Penilaian adalah milik Anda sekarang

Model yang selaras terkadang menolak permintaan karena alasan yang baik. Model tanpa sensor biasanya akan melanjutkan. Jika Anda meluncurkan produk di atasnya, Anda memutuskan apa yang dapat diterima: tulis prompt sistem, tambahkan pemeriksaan input Anda sendiri, dan log apa yang penting bagi Anda. Penggunaan dewasa yang sah adalah ruang lingkup yang dimaksud. Konten yang melibatkan anak di bawah umur adalah batas tegas pada layanan ini dan tidak dapat diterima di mana pun.

Kesalahan masih terjadi

Model masih dapat mengarang fakta, salah membaca instruksi, atau kehilangan jejak percakapan panjang. Penolakan yang lebih sedikit tidak berarti akurasi yang lebih tinggi.

Bagaimana model di balik API ini cocok dalam gambaran besar

Artikel ini menggambarkan metode secara umum. Apa yang diberikan API adalah satu model bobot terbuka, dijalankan oleh penyedia independen, dicocok dalam gambaran besarkan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari Meta, Mistral, Qwen, DeepSeek, OpenAI, atau vendor lainnya, dan ini bukan router di antara beberapa di antaranya. Ini hanya teks: tidak ada gambar, audio, embedding, atau penyetelan halus.

Antarmukanya kompatibel dengan OpenAI. Arahkan SDK OpenAI apa pun ke https://api.abliteratedmodels.cc/v1, gunakan ID model uncensored dan kirim kunci Anda sebagai token Bearer:

Copycurl https://api.abliteratedmodels.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "user", "content": "Explain directional ablation in two sentences."}
    ]
  }'

Panggilan yang sama di Python dengan SDK resmi:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodels.cc/v1",
    api_key="YOUR_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What does a refusal direction mean?"}],
)
print(reply.choices[0].message.content)

Jendela konteks adalah 100.000 token, menghitung prompt dan penyelesaian bersama. Streaming, panggilan alat, dan mode JSON berfungsi seperti di API OpenAI. Detailnya ada di dokumentasi API.

Mitos umum tentang model abliterasi

Ada beberapa gagasan yang beredar tentang model-model ini yang perlu diluruskan, karena hal itu membuat orang mengharapkan hal yang salah.

"Ini adalah model yang lebih cerdas." Tidak. Edit tersebut hanya menghapus filter. Kemampuan penalaran, ingatan akan fakta, dan keterampilan menulis berasal dari model dasar, dan jika ada perubahan, kemampuan tersebut hanya akan tetap sama atau sedikit memburuk. Jika tugas gagal pada versi yang telah diselaraskan karena kurangnya kemampuan, tugas tersebut juga akan gagal di sini.

"Model ini tidak memiliki aturan sama sekali." Model mungkin tidak memiliki kebiasaan menolak, tetapi layanan di sekitarnya memiliki aturan. Konten seksual yang melibatkan anak di bawah umur adalah batas keras, dan ruang lingkup yang dimaksud adalah penggunaan dewasa yang sah. Model ini juga masih mempertahankan nada dan tata krama dari data pelatihannya, sehingga model ini tidak akan menjadi kasar atau berbahaya kecuali prompt mendorongnya ke arah tersebut.

"Prompt sistem dapat melakukan hal yang sama." Prompt sistem dapat mengarahkan model, dan terkadang itu sudah cukup untuk kasus ringan. Namun, prompt tersebut memakan token input pada setiap panggilan, bersaing dengan instruksi asli Anda untuk mendapatkan perhatian, dan akan gagal ketika refleks model yang telah dilatih sangat kuat. Edit bobot tidak memiliki biaya-biaya tersebut.

"Abliterasi berarti ilegal." Tidak. Model bobot terbuka dipublikasikan agar dapat dimodifikasi oleh siapa saja, dan mengeditnya adalah bagian normal dari penelitian pembelajaran mesin. Apa yang Anda lakukan dengan outputnya adalah apa yang menjadi perhatian hukum, dan itu tetap menjadi tanggung jawab Anda.

Memahami poin-poin ini membuat Anda lebih mudah mengevaluasi model tersebut secara wajar: sebagai alat dengan pengaman yang lebih sedikit dan keterampilan dasar yang sama, yang dapat dibungkus dengan pengaman apa pun yang dibutuhkan produk Anda sendiri.

Siapa yang benar-benar membutuhkannya

Kebanyakan orang tidak pernah mengalami penolakan. Mereka yang mengalaminya cenderung masuk ke dalam beberapa kelompok:

• Penulis fiksi dan roleplay. Tema gelap, penjahat yang benar-benar mengancam, dan adegan yang secara moral ambigu adalah hal yang normal dalam literatur. Model yang telah diselaraskan sering kali melembutkan atau menolak tema-tema tersebut. Aplikasi pendamping dan cerita yang berorientasi dewasa menghadapi masalah yang sama.
• Staf keamanan dan red-team. Menulis payload pengujian, menjelaskan cara kerja rantai eksploitasi, atau menganalisis sampel malware dapat memicu filter yang dibangun untuk publik umum.
• Tim moderasi dan penelitian. Untuk membangun pengklasifikasi teks berbahaya, Anda terkadang membutuhkan model yang akan menghasilkan contoh teks tersebut, atau model yang akan membahasnya tanpa ragu.
• Pengembang yang lelah dengan loop coba ulang. Jika setengah dari pipeline Anda adalah menangkap penolakan dan menulis ulang, menghapusnya akan menyederhanakan kode.

Jika Anda mempertimbangkan pertukaran antara biaya dan kontrol terhadap model terhosting yang telah diselaraskan, halaman biaya vs kontrol API LLM tanpa sensor membahasnya secara rinci. Harga tetap: $0,15 per juta token input dan $0,50 per juta token output, dengan permintaan yang gagal atau ditolak tidak dikenakan biaya. Lihat halaman harga untuk jumlah isi saldo dan bonus.

Mencobanya tanpa mengeluarkan uang

Anda dapat menguji apakah model tanpa sensor cocok dalam gambaran besar dengan prompt Anda sebelum membayar apa pun. Daftar dengan Google atau dengan email dan kata sandi, buka halaman kunci, dan klaim kredit uji coba senilai $0,50 dengan satu klik. Ini tidak memerlukan kartu, dibatasi satu per orang, dan berlaku selama 7 hari. Dengan tarif ini, $0,50 mencakup lebih dari seribu putaran obrolan pendek, yang sudah cukup untuk pengujian yang adil.

Jalankan prompt yang ditolak oleh model Anda saat ini, bandingkan jawabannya dengan penilaian Anda sendiri, dan lihat kualitasnya pada tugas yang tidak ada hubungannya dengan penolakan. Jika outputnya tetap baik, dapatkan kunci dari halaman kunci API dan isi saldo mulai dari $20.

Panduan lainnya

• Model Abliterasi Terbaik untuk Pemrograman: Apa yang Harus Dicari
• API LLM Tanpa Sensor: Analisis Biaya vs Kontrol