تنزيل نماذج Abliterated: مصادر آمنة وفحوصات

المواقع التي يتنزل منها الناس عادةً

تُنشر معظم الأوزان المُزالة الرقابة على Hugging Face، وهو المركز العام الرئيسي للنماذج مفتوحة الأوزان، إما كحفظات بدقة كاملة أو كملفات GGUF مُكمّنة لـ llama.cpp وOllama وLM Studio. يشارك بعض الرافعين أيضًا الملفات عبر التورنت أو مواقع استضافة الملفات. تعامل مع تلك بحذر أكبر، لأنك تفقد صفحة النموذج، وسجل الإصدارات، وتعليقات المجتمع التي تساعدك على تقييم الإصدار.

المستودع ذو السجل الطويل، وبطاقة النموذج الواضحة، وسلاسل المناقشات حيث يُبلّغ الآخرون عن سلوكه، هي إشارة أفضل من حساب جديد برفع واحد ووصف فارغ. يمكنك قراءة المزيد عن التقنية في شرحنا حول ما هو النموذج المُزيل للرقابة.

يحدد تنسيق الملف مقدار المخاطرة التي تتحملها

يهم التنسيق أكثر مما يتوقع معظم الناس.

• safetensors. يخزن موترات خام ولا يمكنه تشغيل الأكواد عند التحميل. هذا هو الخيار الأكثر أماناً للأوزان ذات الدقة الكاملة.
• GGUF. تنسيق للأوزان المُكمّمة يُستخدم بواسطة llama.cpp والأدوات المبنية عليه. وهو أيضاً بيانات وليس كوداً قابلاً للتنفيذ، وهو الخيار المعتاد للدردشة المحلية.
• الملفات القائمة على pickle (.bin, .pt, .ckpt). تحميلها باستخدام أدوات Python الشائعة قد ينفذ كودًا عشوائيًا مدمجًا في الملف. تجنبها من مصادر غير معروفة، أو حمّلها فقط في صندوق رملي.

إذا كان المستودع يقدم ملفات pickle فقط ولم تجد نسخة safetensors أو GGUF، فهذا سبب للتوجه إلى مكان آخر. كما كن حذراً من أي مستودع يُرفق معه سكريبت تحميل Python مخصص مع الأوزان. اقرأ ذلك السكريبت قبل تشغيله، أو لا تشغله.

قائمة مراجعة قبل التحميل

1. اقرأ بطاقة النموذج. يجب أن تسمي النموذج الأساسي، والطريقة المستخدمة لإزالة الرفض، ومستوى التكميم. البطاقة التي لا تقول شيئًا هي علامة تحذير.
2. تحقق من الرخصة. النسخة المُزالة الرقابة ترث شروط النموذج الأساسي. بعض التراخيص تقيد الاستخدام التجاري أو تتطلب النسب. إذا كنت تخطط لبناء منتج، فاقرأها أولاً.
3. قارن اسم النموذج الأساسي مع الإصدار الرسمي. قد يُرفق رافع مقلِّد اسمًا شائعًا بملف مختلف.
4. انظر إلى قائمة الملفات وأحجامها. يجب أن تتطابق مع عدد المعلمات والتكميم. ملف 7B Q4 بحجم 400 ميجابايت، أو ملف 70B بحجم 4 غيجابايت، هو خطأ.
5. ابحث عن مجموع تحقق منشور وتحقق منه بعد التحميل.
6. تصفح علامة التبويب الخاصة بالمجتمع للحصول على تقارير حول المخرجات المعطلة، أو التكرار، أو السلوك المخفي.

احسب حجم التحميل مسبقاً

الحجم التقريبي للملف هو: المعلمات × البتات لكل وزن / 8. هذه الأوزان فقط، والملفات الحقيقية أكبر قليلاً.

المعاملات	16-bit	8-bit	4-bit
7B	14 GB	7 GB	3.5 GB
13B	26 GB	13 غيجابايت	6.5 GB
34B	68 غيجابايت	34 غيجابايت	17 غيجابايت
70B	140 GB	70 GB	35 GB

تحتاج أيضًا إلى مساحة قرص مجانية للتحميل، وإذا قمت بالتحويل أو التكميم بنفسك، للملفات الوسيطة. نفاد المساحة في منتصف نقل 70 غيجابايت هو إزعاج شائع. الذاكرة لتشغيل الملف هي مسألة منفصلة: يجب أن تتسع الأوزان في GPU أو الذاكرة الموحدة، مع مساحة إضافية لذاكرة التخزين المؤقت للسياق.

تحقق من الملف بعد وصوله

قم بالتحميل في مجلد فارغ خاص به، واحتفظ بسكريبتاتك في مكان آخر، وتحقق من قيمة التجزئة قبل تحميل الملف.

Copyhuggingface-cli download some-user/some-repo-GGUF file-Q4_K_M.gguf --local-dir ./incoming
cd incoming
shasum -a 256 file-Q4_K_M.gguf
# compare the output with the checksum shown on the repository page

إذا لم ينشر الرافع قيمة تجزئة، فإن قيمة التجزئة تثبت فقط أن الملف لم يتلف أثناء النقل، وليس أنه ما قصده المؤلف. لأي شيء تخطط للاعتماد عليه، فضّل الرافعين الذين تُنسخ ملفاتهم أيضًا لدى آخرين أو يناقشها أشخاص آخرون من قبل أشخاص آخرين. قم بتحميل الملفات الجديدة أولاً على جهاز بدون وصول إلى بيانات حساسة.

احتفظ بملاحظة لما قمت بتنزيله: اسم المستودع، والتاريخ، واسم الملف، وقيمة التجزئة. عندما يظهر تعديل أفضل بعد شهر، ستحتاج إلى مقارنة الاثنين على نفس الموجّهات، وستحتاج إلى معرفة الملف الذي اختبرته بالضبط أولاً.

أخيرًا، اختبر السلوك. شغّل عشرة إلى عشرين موجّهًا (prompt) من عملك الفعلي واقرأ المخرجات. قد يكون الملف سليمًا ولا يزال تعديلًا ضعيفًا: ردود غير متماسكة، تكرار مستمر، أو رفض للمحتوى لم يُزل بالكامل.

علامات الخطر التي يجب أن توقفك

بعض الإشارات كافية للانسحاب دون مزيد من التحليل.

• يطلب المستودع منك تعطيل فحص الأمان، أو تشغيل مثبت (installer)، أو لصق أمر في طرفية (terminal) بصلاحيات الجذر (root).
• يرتبط رابط التحميل بمضيف ملفات ليس صفحة المستودع، أو تخبرك الصفحة بتعطيل برنامج مكافحة الفيروسات الخاص بك.
• تعد بطاقة النموذج "100% بدون رقابة، صفر خسارة" أو أي ادعاء آخر لا يمكن أن يكون صحيحًا بشأن تعديل الأوزان. كل تعديل له مقايضة، والبطاقات الصادقة تقول ذلك.
• إعادة رفع لإصدار معروف باسم جديد، بحجم ملف مختلف عن الحجم الأصلي.
• عدم وجود نص ترخيص على الإطلاق، لنموذج أساسي معروف بوجود ترخيص له.

حتى مع الإشارات النظيفة، شغّل الملفات الجديدة بأقل قدر من الصلاحيات التي يمكنك منحها. فتح ملف GGUF بواسطة إصدار حالي من بيئة تشغيل رئيسية يحمل خطرًا ضئيلاً لتنفيذ الأكواد، لكن بيئات التشغيل كانت تحتوي على ثغرات، لذا حافظ على تحديثها. إذا بدا شيء ما خاطئًا، احذف الملف واختر مصدرًا آخر. إعادة التنزيل تكلف دقائق؛ بينما التعافي من ملف سيئ على جهاز يحتوي على عملك لا يكلف دقائق.

عندما توفر نقطة النهاية المستضافة الوقت

التحميل يكون منطقيًا عندما تريد استخدامًا دون اتصال، وتحكمًا كاملاً في التكميم، أو إذا كنت تخطط للدمج والتجربة. إذا كنت تريد فقط نموذجًا يجيب بدون رفض المحتوى للاستخدام القانوني للبالغين، فإن الـ API المستضاف يوفر التحميل، والتخزين، والتحقق، وتخطيط الذاكرة.

تقدم هذه الخدمة نموذجًا واحدًا مفتوح الأوزان، وتشغله مزود مستقل، تحت المعرف uncensored. إنها ليست نسخة طبق الأصل لأي واجهة برمجة تطبيقات رسمية لمورد. تتصل بها كما تفعل مع OpenAI:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodels.cc/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List five checks for a downloaded file."}],
)
print(r.choices[0].message.content)

تبلغ نافذة السياق 100,000 رمز. يدعم البث المتدفق، واستدعاء الأدوات، ووضع JSON، ولا تُستخدم الموجّهات في التدريب. المعاملات والحدود موجودة في صفحة التوثيق.

تكلفة واجهة برمجة التطبيقات (API) مقابل التنزيل

لا توجد تكلفة تنزيل، لكنك تدفع عن كل رمز (token): $0.15 لكل مليون رمز مدخل و $0.50 لكل مليون رمز مخرج. طلب يحتوي على 4,000 رمز مدخل و 800 رمز مخرج يكلف 4,000 / 1,000,000 x $0.15 = $0.0006 زائد 800 / 1,000,000 x $0.50 = $0.0004، أي ما مجموعه $0.001. ألف من هذه الطلبات تكلف $1.

الحد الأدنى للشحن هو $20، مع +5% من $50، +10% من $100 و+15% من $200. ادفع بالعملات المشفرة فقط (USDT على TRC20، USDC على Base). انظر الأسعار للتفاصيل. للاختبار بدون دفع، احصل على تجربة بقيمة $0.50 في صفحة مفتاح API بعد تسجيل الدخول؛ ساري لمدة 7 أيام. للاستخدام في البرمجة على وجه التحديد، تقارن صفحة النماذج المُزالة الرقابة للبرمجة ما يجب البحث عنه.

المزيد من الأدلة

• كيفية تشغيل نماذج Abliterated: محليًا، أو سحابيًا، أو واجهة برمجة تطبيقات (API)
• أفضل نماذج Abliterated للبرمجة: ما الذي يجب البحث عنه