Model Abliterated Terbaik untuk Pemrograman: Apa yang Harus Dicari

Apa yang membuat model coding baik setelah penolakan dihilangkan

Model yang tidak pernah menolak mudah dibangun. Model yang tidak pernah menolak dan masih menulis kode yang benar lebih sulit, karena pengeditan yang menghapus penolakan juga bisa mengurangi kemampuan lain model. Jadi pertanyaan yang berguna bukan "daftar nama mana yang terpanjang" tetapi "build mana yang mempertahankan kemampuan coding model dasar tetap utuh".

Itu memberi Anda empat hal untuk diperiksa, sesuai urutan kepentingan:

1. Ketepatan pada tugas Anda. Apakah kode berjalan, lulus tes Anda, dan mengikuti konvensi Anda?
2. Mengikuti instruksi. Jika Anda meminta hanya diff, apakah Anda hanya mendapatkan diff? Apakah itu menghormati versi bahasa dan pustaka yang Anda sebutkan?
3. Penanganan konteks. Bisakah itu membaca beberapa file besar sekaligus dan melacak nama fungsi di seluruhnya?
4. Tingkat penolakan pada prompt yang sebenarnya Anda kirim. Ini adalah alasan untuk melihat model abliterated, jadi ukur secara langsung.

Waspadalah terhadap halaman apa pun yang memeringkat model berdasarkan satu skor tanpa menampilkan prompt. Papan peringkat memberi tahu Anda tentang beban kerja orang lain.

Di mana penolakan merugikan pengembang

Sebagian besar permintaan pemrograman tidak pernah memicu filter. Yang memicunya memiliki pola: kodenya netral, tetapi topiknya terdengar berisiko.

• Pengujian keamanan. Pemindai port, fuzzer, eksploit proof-of-concept untuk kerentanan yang sedang Anda perbaiki, atau skrip untuk memeriksa server Anda sendiri untuk mencari kata sandi lemah.
• Rekayasa terbalik. Menjelaskan disassembly, membuka skrip yang diobfuskasi yang Anda temukan di mesin Anda sendiri, atau mempelajari format file.
• Scraping dan otomatisasi. Memutar sesi, mengurai situs yang tidak menyukai bot, mengisi formulir dalam jumlah besar untuk tugas yang sah.
• Analisis malware. Membaca sampel untuk menulis aturan deteksi berarti mendiskusikan apa yang dilakukannya, baris demi baris.
• Alat data untuk teks sensitif. Membangun pengklasifikasi atau fixture tes untuk konten kasar, di mana data tes itu sendiri terlihat buruk.
• Alat game dan fiksi. Menghasilkan dialog, teks quest, atau lembar karakter untuk cerita berorientasi dewasa dengan tema gelap.

Dalam setiap kasus, penolakan membuang panggilan, dan ceramah sopan tentang etika membuang token yang Anda bayar. Model tanpa penolakan tersebut menghemat percobaan ulang dan penulisan ulang. Ini adalah alasan untuk menginginkannya, bukan alasan untuk berhenti berpikir: Anda tetap bertanggung jawab atas apa yang Anda bangun dan jalankan. Layanan ini untuk penggunaan dewasa yang sah.

Apa yang diberikan API ini kepada Anda

Anda tidak memilih dari katalog di sini. API melayani satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten. Ini bukan API resmi dari vendor model mana pun dan bukan router di antara beberapa. Jika pencarian Anda untuk model coding tanpa sensor berakhir dengan daftar kandidat yang panjang yang ingin Anda alihkan, ini bukan jenis layanan itu. Jika berakhir dengan "Saya ingin satu model yang mampu tanpa filter, di balik endpoint bergaya OpenAI", maka iya.

Fakta yang penting bagi pengembang:

• Jendela konteks 100.000 token untuk prompt plus penyelesaian, cukup untuk beberapa file sumber dan percakapan panjang.
• Streaming melalui SSE, pemanggilan alat, dan mode JSON, semuanya dalam format OpenAI.
• temperature, top_p, stop, seed dan penalti diteruskan.
• Kunci penuh memungkinkan 8 permintaan bersamaan dan 300 permintaan per menit.
• Teks saja. Tidak ada embedding, tidak ada pembuatan gambar, tidak ada fine-tuning.

Dokumentasi mencantumkan setiap parameter dan header respons.

Jalankan tes coding dalam sepuluh menit

Buat set tes kecil dari pekerjaan yang sudah Anda selesaikan: lima hingga sepuluh tugas dengan jawaban benar yang diketahui, seperti bug yang Anda perbaiki bulan lalu, fungsi dengan tes, dan satu prompt yang ditolak oleh model aligned yang dihosting. Kemudian jalankan semuanya melalui endpoint dengan suhu rendah agar hasil dapat diulang.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodels.cc/v1",
    api_key="YOUR_KEY",
)

SYSTEM = (
    "You are a senior engineer. Reply with code only, in one fenced block, "
    "then at most three lines of notes."
)

tasks = [
    "Write a Python function that parses a CIDR string and lists usable hosts.",
    "Write a Bash one-liner that finds open ports on 192.168.1.10 using only /dev/tcp.",
    "Explain what this regex does and where it backtracks badly: ^(a+)+$",
]

for prompt in tasks:
    r = client.chat.completions.create(
        model="uncensored",
        temperature=0.2,
        seed=7,
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": prompt},
        ],
    )
    print("=" * 60)
    print(prompt)
    print(r.choices[0].message.content)
    print("tokens:", r.usage.prompt_tokens, r.usage.completion_tokens)

Pertahankan prompt dan seed yang sama saat Anda membandingkan dengan apa pun. Beri skor setiap jawaban dengan menjalankannya, bukan dengan membacanya. Jika Anda hanya melihat teks, jawaban salah yang percaya diri akan menang.

Menggunakannya di dalam editor dan agen Anda

Karena endpoint ini menggunakan protokol OpenAI, sebagian besar alat coding dapat menggunakannya tanpa plugin. Di editor dan agen yang menerima penyedia kompatibel OpenAI khusus, seperti Cline atau Continue, atur URL dasar ke https://api.abliteratedmodels.cc/v1, tempel kunci Anda, dan masukkan uncensored sebagai nama model. Periksa halaman pengaturan masing-masing alat untuk nama bidang yang tepat, karena hal itu berubah antar rilis.

Untuk asisten baris perintah aider, atur endpoint melalui variabel lingkungan dan awali model dengan openai/:

Copyexport OPENAI_API_BASE=https://api.abliteratedmodels.cc/v1
export OPENAI_API_KEY=YOUR_KEY
aider --model openai/uncensored

Dua pengaturan membantu dengan loop agen. Pertahankan konkurensi paling banyak 8, karena permintaan kesembilan yang simultan mengembalikan HTTP 429 dengan kode kesalahan concurrency. Dan ingat bahwa permintaan streaming memegang slot konkurensinya hingga stream berakhir, sehingga stream yang macet di satu alat dapat memblokir alat lain.

Kebiasaan prompting yang membantu kualitas kode

Model apa pun yang Anda pilih, cara Anda meminta menentukan sebagian besar hasil. Kebiasaan ini lebih penting setelah model berhenti menolak, karena ia akan mencoba menjawab semuanya, termasuk permintaan yang ditentukan dengan buruk.

• Nyatakan bahasa dan versinya. "Python 3.11, hanya pustaka standar" menghilangkan seluruh kelas impor yang salah.
• Berikan antarmuka terlebih dahulu. Tempel tanda tangan fungsi, tipe, dan satu panggilan contoh. Model kemudian menyesuaikan jawabannya dengan kode Anda alih-alih menciptakan bentuknya sendiri.
• Minta diff atau satu file. Permintaan terbuka menghasilkan jawaban panjang yang Anda bayar dalam token output sebesar $0,50 per juta.
• Pertahankan suhu rendah untuk kode. Nilai antara 0 dan 0,3 memberikan output yang lebih stabil. Tambahkan seed ketika Anda ingin mereproduksi hasil.
• Gunakan urutan stop. Jika Anda hanya ingin blok kode, berhenti di pagar penutup agar model tidak menambahkan komentar.
• Kirim output yang gagal. Untuk bug, sertakan traceback dan baris yang ditunjuknya. Itu lebih baik dari deskripsi apa pun.

Pesan sistem singkat yang menentukan peran dan format output, seperti dalam skrip tes di atas, biasanya lebih efektif daripada yang panjang. Karena teks sistem ditagih sebagai input pada setiap permintaan, keringkasan juga menghemat uang selama sesi panjang.

Periksa jawaban sebelum Anda menggabungkannya

Model tanpa penolakan sama mampunya menulis bug yang percaya diri seperti model yang selaras. Jalankan tes. Baca diff. Untuk kode yang menyentuh rahasia, izin, penghapusan file, atau akses jaringan, tinjau dua kali dan jalankan terlebih dahulu di sandbox atau wadah sekali pakai. Anda membayar token dalam kedua kasus; tinjauanlah yang melindungi sistem Anda.

Berapa biaya pekerjaan coding

Harga adalah $0,15 per juta token input dan $0,50 per juta token output, ditagih dari saldo prabayar. Beban kerja coding bersifat input-heavy, karena Anda mengirim kode dan mendapatkan kembali perubahan yang lebih kecil, yang sesuai dengan bentuk harga ini. Beberapa contoh perhitungan:

Tugas	Token input	Token output	Biaya
Tinjau satu file 8.000 token	8.000	1.000	$0,0012 + $0,0005 = $0,0017
Hasilkan fungsi 600 token	1.500	600	$0,000225 + $0,0003 = $0,000525
Isi seluruh jendela konteks 100.000 token, 2.000 token balasan	98.000	2.000	$0,0147 + $0,001 = $0,0157

Sebuah agen yang membuat 20 panggilan dengan konteks 50.000 token setiap kali mengirim total 1.000.000 token input, yaitu $0,15, ditambah mungkin 10.000 token output sebesar $0,005. Seluruh sesi ini menghabiskan sekitar $0,155. Seribu ulasan file dengan ukuran baris pertama berharga $1,70. Biaya eksperimen kecil; biaya yang penting adalah waktu yang Anda habiskan untuk memeriksa hasilnya. Permintaan yang gagal atau ditolak tidak dikenakan biaya.

Detail lengkap, termasuk jumlah isi saldo dari $20 hingga $500 dan bonus pada $50, $100 dan $200, ada di halaman harga.

Batas yang perlu Anda ketahui sebelum berkomitmen

Jujurlah pada diri sendiri tentang apa tujuan model tanpa sensor. Model ini tidak akan menjadi programmer yang lebih baik daripada model dasarnya, dan model dengan penolakan yang lebih sedikit mungkin terlalu bersemangat: model tersebut akan dengan mudah menghasilkan kode yang tidak aman atau berjalan dengan asumsi yang salah. Tinjau kode yang dihasilkan sebagaimana Anda meninjau kode dari rekan kerja junior, terutama apa pun yang menyentuh autentikasi, penghapusan file, atau uang.

Rencanakan juga batas layanan. Badan permintaan yang lebih besar dari 8 MB akan ditolak, dan kunci uji coba dibatasi pada 2 permintaan paralel dan 60 per menit, yang cukup untuk pengujian tetapi tidak untuk pekerjaan batch. Ketika Anda melihat HTTP 429 dengan header Retry-After: 5, penyedia sedang kelebihan beban sementara; tunggu dan coba lagi. Halaman terkait tentang biaya dan kontrol API LLM tanpa sensor membahas bagaimana hal ini sesuai dengan alternatif yang dihosting.

Untuk mencobanya, klaim kredit uji coba gratis $0,50 dari halaman kunci API setelah pendaftaran. Ini tidak memerlukan kartu, berlangsung 7 hari, dan dibatasi satu per orang.

Panduan lainnya

• Apa Itu Model Abliterated? Penjelasan Sederhana
• API LLM Tanpa Sensor: Analisis Biaya vs Kontrol