एब्लिरेटेड मॉडल क्या है? एक सरल व्याख्या

संक्षिप्त संस्करण

एक एब्लिरेटेड मॉडल एक साधारण ओपन-वेट लैंग्वेज मॉडल है जिसमें रिफ्यूज़ल व्यवहार को मॉडल के अंदर के नंबर बदलकर संपादित कर दिया गया है, न कि उसे रीट्रेन करके या एक चतुर प्रॉम्प्ट लिखकर। शब्द "एबलेशन" (किसी भाग को काटकर यह देखना कि उसने क्या किया) और "ओब्लिटरेशन" को मिलाकर बनाया गया है। एडिट के बाद, मॉडल उन अनुरोधों पर जिनसे उसे इनकार करना सिखाया गया था, "मैं उसमें मदद नहीं कर सकता" नहीं कहता।

विवरणों से पहले तीन बातें याद रखना महत्वपूर्ण हैं:

• यह वजन संपादन है, प्रॉम्प्ट ट्रिक नहीं। इसमें बनाए रखने के लिए जेलब्रेक टेक्स्ट नहीं है और इस पर कोई कॉन्टेक्स्ट खर्च नहीं होता।
• यह ज्ञान नहीं, एक व्यवहार हटाता है। मॉडल को वह ज्ञान है जो उसे पहले था; यह केवल अस्वीकार करना बंद कर देता है।
• यह मुफ़्त नहीं है। एडिट से सामान्य गुणवत्ता प्रभावित हो सकती है, इसलिए सावधान निर्माता परिणाम की जाँच करते हैं और कभी-कभी उसे ठीक करने के बाद फाइन-ट्यून करते हैं।

विचार कहाँ से आया

चैट मॉडल पोस्ट-ट्रेनिंग के दौरान अस्वीकार करना सीखते हैं। एनोटेटर्स और रिवार्ड मॉडल मॉडल को कुछ अनुरोधों को अस्वीकार करने की ओर धकेलते हैं, और यह आदत मॉडल द्वारा सीखी गई बाकी सब चीज़ों के साथ ही बैठ जाती है। लंबे समय तक यह अरबों पैरामीटर में फैला एक विसरित व्यवहार लगता था।

Refusal in Language Models Is Mediated by a Single Direction शीर्षक वाले एक शोध पत्र ने कुछ अधिक संभालने योग्य दिखाया। कई ओपन चैट मॉडलों में, अस्वीकृति व्यवहार का अधिकांश हिस्सा मॉडल के आंतरिक सक्रियण स्थान में एक दिशा द्वारा नियंत्रित होता है। उस दिशा के अनुदिश सक्रियण को धकेलें और मॉडल हानिरहित अनुरोधों को भी अस्वीकार कर देता है। उस दिशा को हटा दें और यह उन अनुरोधों को अस्वीकार करना बंद कर देता है जिन्हें यह सामान्यतः अस्वीकार करता।

ओपन-सोर्स समुदाय ने इस खोज को एक व्यावहारिक विधि में बदल दिया और इसे एक नाम दिया। एब्लिरेशन वह विधि है: अस्वीकार दिशा खोजें, फिर मॉडल को उसे उपयोग करने से असमर्थ बनाएं।

एब्लिरेशन कैसे काम करता है, चरण दर चरण

प्रक्रिया इतनी छोटी है कि इसे पाँच चरणों में वर्णित किया जा सकता है। ग्रेडिएंट डीसेंट शामिल नहीं है, इसलिए इसमें मॉडल को प्रशिक्षित करने की तुलना में बहुत कम कंप्यूट की आवश्यकता होती है।

1. दो प्रॉम्प्ट सेट एकत्र करें। एक सेट उन अनुरोधों से बना है जिन्हें मॉडल अस्वीकार करता है, दूसरा उन अनुरोधों से बना है जिन पर वह उत्तर देता है। प्रत्येक की कुछ सौ एक सामान्य आकार है।
2. सक्रियण रिकॉर्ड करें। दोनों सेट को मॉडल के माध्यम से चलाएं और चुनी गई परत पर छिपी अवस्था को सहेजें, आमतौर पर अंतिम प्रॉम्प्ट टोकन पर।
3. दिशा की गणना करें। प्रत्येक सेट के सक्रियण का औसत निकालें, "जवाब दिया" औसत को "इनकार किया" औसत से घटाएं, और परिणाम को सामान्यीकृत करें। वह सदिश रिफ्यूज़ल दिशा है।
4. इसे प्रक्षेपित करके हटाएं। या तो रन-टाइम पर दिशा को घटाएं, या रेसिडुअल स्ट्रीम (एम्बेडिंग्स, एटेंशन आउटपुट, MLP आउटपुट) में लिखने वाले वेट मैट्रिक्स को एडिट करें ताकि वे उस दिशा के अनुदिश कोई घटक उत्पन्न न कर सकें। दूसरा विकल्प स्थायी है और अधिकांश प्रकाशित एब्लिरेटेड चेकपॉइंट इसका उपयोग करते हैं।
5. परीक्षण। हॉल्ड-आउट प्रॉम्प्ट्स चलाएँ, पहले और बाद की अस्वीकृति दर की तुलना करें, और तर्क और कोडिंग जैसे सामान्य कार्यों में रीग्रेशन के लिए जाँच करें।

परत का चयन मायने रखता है। एक ऐसी परत चुनें जहां दिशा दो प्रॉम्प्ट सेट को साफ़ अलग करती है, और एडिट काम करता है; एक खराब परत चुनें और आपको एक ऐसा मॉडल मिलता है जो अभी भी अस्वीकार करता है, या एक ऐसा मॉडल जो असंबंधित प्रश्नों पर अपना संतुलन खो चुका है। व्यावहारिक रूप से, लोग कई परतों को आज़माते हैं और सबसे अच्छा चुनते हैं।

अन्य दृष्टिकोणों की तुलना में एब्लिरेशन

मॉडल को अस्वीकार करना बंद करने के तीन सामान्य तरीके हैं। वे इस बात में भिन्न हैं कि वे क्या बदलते हैं और वे कहाँ विफल होते हैं।

दृष्टिकोण	क्या बदलता है	लागत	सामान्य कमजोरी
Jailbreak प्रॉम्प्ट	केवल इनपुट टेक्स्ट	कोई नहीं, लेकिन यह हर कॉल पर कॉन्टेक्स्ट का उपयोग करता है	भंगुर; एक मॉडल अपडेट और यह काम करना बंद कर देता है
परमिसिव डेटा पर फाइन-ट्यून	वजन, प्रशिक्षण के माध्यम से	GPU घंटे और एक चुना हुआ (curated) डेटासेट	डेटासेट की गुणवत्ता सब कुछ तय करती है; लेखन शैली बदल सकती है
एब्लिरेशन	वेट्स, एक सीधी एडिट के माध्यम से	ट्रेनिंग की तुलना में कम	दिशा अनुमानित है, इसलिए गुणवत्ता गिर सकती है

अक्सर तैयार मॉडल विधियों को मिलाते हैं। एक सामान्य पैटर्न है पहले एब्लिरेट करना, फिर किसी भी गुणवत्ता को पुनर्प्राप्त करने के लिए एक छोटा फाइन-ट्यून चलाना जो एडिट की लागत थी। जब आप मॉडल कार्ड पढ़ते हैं, तो देखें कि इनमें से कौन से चरण उपयोग किए गए और क्या लेखक ने पहले और बाद के टेस्ट की रिपोर्ट की है।

आप क्या छोड़ रहे हैं और किस बात का ध्यान रखना है

अस्वीकार हटाने से मॉडल किसी चीज़ में बेहतर नहीं होता। यह एक फ़िल्टर हटा देता है। कुछ परिणाम सामने आते हैं।

गुणवत्ता गिर सकती है

अस्वीकार दिशा अन्य सुविधाओं से पूरी तरह अलग नहीं है। इसे हटाने से पड़ोसी व्यवहार धुंधला हो सकता है, जिसका प्रभाव थोड़ा खराब तर्क, अजीब फॉर्मेटिंग या एक समतल टोन के रूप में होता है। एक अच्छा बिल्ड इन प्रभावों को छोटा रखता है, लेकिन आपको किसी लेबल पर भरोसा करने के बजाय अपने प्रॉम्प्ट्स चलाने चाहिए।

अब आपका निर्णय है

एक अलाइंड मॉडल कभी-कभी किसी अनुरोध को अच्छे कारण से इनकार करता है। एक बिना सेंसर वाला मॉडल आगे बढ़ता है। यदि आप इसके ऊपर एक प्रॉडक्ट शिप करते हैं, तो आप तय करते हैं कि क्या स्वीकार्य है: एक सिस्टम प्रॉम्प्ट लिखें, अपने इनपुट चेक जोड़ें, और अपने लिए महत्वपूर्ण चीज़ों को लॉग करें। वयस्कों द्वारा वैध उपयोग इसकी इच्छित सीमा है। नाबालिगों से संबंधित सामग्री इस सेवा के लिए एक कठोर सीमा है और कहीं भी स्वीकार्य नहीं है।

गलतियाँ अभी भी होती हैं

मॉडल अभी भी तथ्य गढ़ सकता है, निर्देशों को गलत पढ़ सकता है या लंबी बातचीत का पता खो सकता है। कम रिफ्यूजल का मतलब अधिक सटीकता नहीं है।

इस API के पीछे का मॉडल कहाँ फिट बैठता है

यह लेख विधि को सामान्य शब्दों में वर्णित करता है। API जो आपको मिलता है वह एक ओपन-वेट मॉडल है, जिसे एक स्वतंत्र प्रदाता चलाता है, वयस्कों द्वारा वैध उपयोग के लिए बिना कंटेंट रिफ्यूजल के जवाब देने के लिए ट्यून्ड है। यह Meta, Mistral, Qwen, DeepSeek, OpenAI या किसी अन्य वेंडर की आधिकारिक API नहीं है, और न ही यह उनमें से कई के बीच रूटर है। यह केवल टेक्स्ट संभालता है: कोई इमेज, ऑडियो, एम्बेडिंग्स या फाइन-ट्यून नहीं।

इंटरफ़ेस OpenAI-कम्पैटिबल है। किसी भी OpenAI SDK को https://api.abliteratedmodels.cc/v1 की ओर पॉइंट करें, मॉडल ID uncensored का उपयोग करें और अपनी कुंजी एक Bearer टोकन के रूप में भेजें:

Copycurl https://api.abliteratedmodels.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "user", "content": "Explain directional ablation in two sentences."}
    ]
  }'

ऑफिशियल SDK के साथ Python में वही कॉल:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliteratedmodels.cc/v1",
    api_key="YOUR_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What does a refusal direction mean?"}],
)
print(reply.choices[0].message.content)

कॉन्टेक्स्ट विंडो 100,000 टोकन की है, प्रॉम्प्ट और कंप्लीशन को मिलाकर। स्ट्रीमिंग, टूल कॉलिंग और JSON मोड OpenAI API की तरह काम करते हैं। विवरण API दस्तावेज़ीकरण में हैं।

एब्लिरेटेड मॉडल्स के बारे में सामान्य मिथक

इन मॉडल्स के बारे में कुछ विचार घूमते हैं जिन्हें सुधारने की आवश्यकता है, क्योंकि वे लोगों को गलत अपेक्षाएं दिलाते हैं।

"यह एक स्मार्टर मॉडल है।" ऐसा नहीं है। एडिट एक फिल्टर हटाता है। तर्कशक्ति, तथ्यों की मेमोरी और लेखन कौशल बेस मॉडल से आते हैं, और यदि कुछ है तो वे केवल वैसे ही रह सकते हैं या थोड़े खराब हो सकते हैं। यदि किसी टास्क में क्षमता की कमी के कारण अलाइंड वर्जन पर विफलता होती है, तो यह यहाँ भी विफल होगा।

"इसमें कोई नियम नहीं है।" मॉडल में अस्वीकार की आदत नहीं हो सकती, लेकिन उसके आसपास की सेवा में होती है। नाबालिगों से जुड़ी यौन सामग्री कड़ा प्रतिबंध है, और इच्छित दायरा वयस्कों द्वारा वैध उपयोग है। मॉडल में प्रशिक्षण डेटा का टोन और शिष्टाचार बरकरार रहता है, इसलिए प्रॉम्प्ट उसे वहां न धकेले, तब तक यह अशिष्ट या खतरनाक नहीं होगा।

"एक सिस्टम प्रॉम्प्ट वही कर सकता है।" एक सिस्टम प्रॉम्प्ट मॉडल को प्रभावित कर सकता है, और कभी-कभी हल्के मामलों के लिए यह पर्याप्त होता है। लेकिन प्रॉम्प्ट हर कॉल पर इनपुट टोकन खर्च करता है, आपके वास्तविक निर्देशों के लिए ध्यान के लिए प्रतिस्पर्धा करता है, और जब मॉडल की प्रशिक्षित प्रतिक्रिया मजबूत होती है तो यह कम पड़ जाता है। वेट एडिट में ये सभी खर्च नहीं होते।

"एब्लिरेटेड का मतलब अवैध है।" ऐसा नहीं है। ओपन-वेट मॉडल किसी भी व्यक्ति को संशोधित करने के लिए प्रकाशित किए जाते हैं, और एक को एडिट करना मशीन लर्निंग रिसर्च का एक सामान्य हिस्सा है। आउटपुट के साथ आप जो करते हैं, वही कानून देखता है, और वह आपकी जिम्मेदारी ही रहती है।

इन बिंदुओं को ध्यान में रखकर एक ऐसे मॉडल का मूल्यांकन करना आसान होता है: एक टूल के रूप में जिसमें कम गार्डरेल्स हैं और समान बुनियादी क्षमता है, जिसे आपके अपने उत्पाद की आवश्यकताओं के अनुसार किसी भी सुरक्षा कवच में लपेटा जाना चाहिए।

वास्तव में एक की आवश्यकता किसको होती है

ज़्यादातर लोग कभी रिफ्यूज़ल (refusal) से नहीं टकराते। जो लोग टकराते हैं, वे आमतौर पर कुछ विशेष समूहों में आते हैं:

• कथा और रोलप्ले लेखक। अंधेरे विषय, वास्तविक खतरनाक खलनायक और नैतिक रूप से जटिल दृश्य साहित्य में सामान्य हैं। एलाइंड मॉडल अक्सर उन्हें कमजोर कर देते हैं या रिफ्यूज़ कर देते हैं। वयस्क-उन्मुख कंपैनियन और कहानी ऐप्स को भी यही समस्या आती है।
• सुरक्षा और रेड-टीम कर्मचारी। टेस्ट पेलोड लिखना, यह समझाना कि एक एक्सप्लॉइट चेन कैसे काम करती है या मैलवेयर नमूने का विश्लेषण करना, एक सामान्य जनता के लिए बनाए गए फ़िल्टर को ट्रिगर कर सकता है।
• मॉडरेशन और शोध टीमें। हानिकारक पाठ के लिए वर्गीकारक बनाने के लिए, आपको कभी-कभी एक ऐसे मॉडल की आवश्यकता होती है जो उसका उदाहरण दे, या बिना झिझक उस पर चर्चा करे।
• रीट्राई लूप से थक चुके डेवलपर। यदि आपकी पाइपलाइन का आधा हिस्सा रिफ्यूज़ल को पकड़ने और उसे फिर से लिखने में लगता है, तो उन्हें हटाने से कोड सरल हो जाता है।

यदि आप एक एलाइंड होस्टेड मॉडल के सापेक्ष लागत और नियंत्रण के ट्रेड-ऑफ पर विचार कर रहे हैं, तो अनसेंसर्ड LLM API लागत बनाम नियंत्रण पृष्ठ इसका विस्तार से विवरण देता है। मूल्य स्थिर है: प्रति मिलियन इनपुट टोकन $0.15 और प्रति मिलियन आउटपुट टोकन $0.50, जहाँ विफल या रिफ्यूज किए गए अनुरोधों के लिए चार्ज नहीं किया जाता है। टॉप-अप राशि और बोनस के लिए मूल्य निर्धारण पृष्ठ देखें।

बिना पैसे खर्च किए एक का परीक्षण करना

आप बिना कुछ भी भुगतान किए यह परीक्षण कर सकते हैं कि क्या एक बिना सेंसर मॉडल आपके प्रॉम्प्ट के लिए उपयुक्त है। Google या ईमेल और पासवर्ड के साथ साइन अप करें, कुंजी पेज खोलें और एक क्लिक के साथ $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें। इसके लिए कार्ड की आवश्यकता नहीं है, यह प्रति व्यक्ति एक बार सीमित है और 7 दिनों के लिए मान्य रहता है। इन दरों पर $0.50 से एक हज़ार से अधिक छोटे चैट टर्न्स आसानी से कवर हो जाते हैं, जो एक उचित परीक्षण के लिए पर्याप्त है।

उन प्रॉम्प्ट्स को चलाएं जिनका आपका वर्तमान मॉडल रिफ्यूज करता है, अपने स्वयं के निर्णय के साथ उत्तरों की तुलना करें, और उन कार्यों पर गुणवत्ता देखें जिनका रिफ्यूज़ल से कोई लेना-देना नहीं है। यदि आउटपुट टिकता है, तो API कुंजी पृष्ठ से एक कुंजी प्राप्त करें और $20 से टॉप-अप करें।

अधिक गाइड

• कोडिंग के लिए सर्वश्रेष्ठ एब्लिरेटेड मॉडल: क्या खोजना है
• बिना सेंसर LLM API: लागत बनाम नियंत्रण विश्लेषण