كيفية تشغيل Abliterated Models: محليًا، أو السحابة، أو واجهة برمجة التطبيقات

اختر مسارًا أولاً

	محلي	وحدة معالجة رسومات سحابية مستأجرة	واجهة برمجة التطبيقات المستضافة
التكلفة الأولية	الأجهزة التي قد تمتلكها بالفعل	لا شيء	لا شيء
وقت الإعداد	مساء	مساء، بالإضافة إلى رعاية الخادم عن بُعد	دقائق
التكلفة المستمرة	الكهرباء	بالساعة أثناء تشغيل الجهاز	كل رمز
المهارة المطلوبة	متوسط	متوسطة إلى عالية	منخفضة
الخصوصية	الأعلى	يعتمد على المضيف	من جانب الخادم؛ لا تُستخدم المطالبات في التدريب

إذا كنت تريد فقط إجابات من نموذج لا يرفض الطلبات القانونية للبالغين، فإن API هو أقصر مسار. إذا كنت تريد تجربة الأوزان أو دمج النماذج أو التشغيل دون اتصال، فانتقل إلى التشغيل المحلي. خيار وحدة معالجة الرسومات السحابية يناسب الأشخاص الذين يحتاجون إلى نموذج كبير لبضع ساعات ولا يريدون شراء أجهزة.

المسار 1: التشغيل محلياً

تحتاج إلى الأوزان بتنسيق يتحمّله وقت التشغيل الخاص بك، وذاكرة كافية. الإعداد الأكثر شيوعاً هو ملف GGUF مع llama.cpp أو أداة مبنية عليه، مثل Ollama أو LM Studio.

1. قدّر الذاكرة. تأخذ الأوزان حوالي (المعاملات × البتات لكل وزن) / 8. نموذج بحجم 14 مليار معامل بتقنية 4-bit يحتاج حوالي 7 غيغابايت. أضف بضع غيغابايتات أخرى لذاكرة السياق المؤقتة.
2. حمّل ملفاً كمّوماً من مصدر تثق به. تشرح الصفحة ما هو النموذج المُزال منه الرقابة ما تحتويه هذه الملفات.
3. ابدأ الخادم. مع llama.cpp، يبدو الأمر كما في الأمر أدناه.
4. وجّه تطبيقك إليه. يكشف الخادم نقطة نهاية على طراز OpenAI، لذا يمكن لأي عميل متوافق الاتصال.

Copyllama-server -m ./weights-Q4_K_M.gguf -c 8192 -ngl 99 --port 8080

هنا -c يحدد طول السياق، و -ngl 99 ينقل جميع الطبقات إلى وحدة معالجة الرسومات إذا كانت تتسع. قلّل -ngl إذا نفدت الذاكرة، وتوقّع إخراجاً أبطأ عندما تبقى الطبقات على وحدة المعالجة المركزية.

مشاكل البيئة المحلية الشائعة سهلة التعرف عليها. إذا فشل التحميل برسالة نفاد الذاكرة، اختر تكميماً أصغر أو قلل طول السياق، لأن ذاكرة التخزين المؤقت تتوسع معه. إذا كان الإخراج بطيئاً بشكل ملحوظ، فبعض الطبقات تعمل على وحدة المعالجة المركزية، لذا تحقق من عدد الطبقات التي تم تحميلها خارجاً. إذا انحرفت الردود نحو التكرار، قلل درجة الحرارة قليلاً وزد عقوبة التكرار. وإذا أجاب النموذج بتنسيق غريب، فقد لا يتطابق قالب الدردشة مع ما يتوقعه النموذج؛ تسمح معظم أدوات التشغيل بتعيينه صراحةً.

التشغيل المحلي هو الأفضل عندما يهمّ الخصوصية والاستخدام دون اتصال، أو عندما تمتلك بالفعل بطاقة ذاكرة سعة 16 جيجابايت أو أكثر.

المسار 2: استئجار وحدة معالجة رسومات في السحابة

تتيح لك خدمات التأجير بدء تشغيل جهاز بوحدة معالجة رسومات كبيرة والدفع بالساعة. الخطوات تطابق المسار المحلي، لكنك تنفذها عبر SSH على جهاز عن بُعد، ويجب أن تبقي الجهاز قيد التشغيل أثناء استخدامه. يهم هذا الجزء الأخير: تدفع أثناء عدم الاستخدام، لذا أوقفه عند الانتهاء.

تسير جلسة الاستئجار النموذجية على النحو التالي. تختار جهازاً ذا ذاكرة وحدة معالجة رسومات كافية لنموذجك، وتشغّله من صورة جاهزة تحتوي بالفعل على برامج التشغيل، وتنسخ أو تحمّل الأوزان، وتشغّل الخادم، وتتصل عبر نفق SSH بحيث لا يكون المنفذ عاماً. خطط لعشرين إلى ثلاثين دقيقة للتحميلات وحدها مع ملف كبير، وعادةً ما تعمل الفوترة خلال ذلك الوقت. اكتب الخطوات في نص برمجي مرة واحدة، بحيث تبدأ الجلسة التالية بسرعة.

تحقق من الأسعار الحالية بالساعة على موقع المزوّد، لأنها تتغير غالباً. يكون الاستئجار منطقياً لمهمة لمرة واحدة مثل تشغيل نموذج كبير عبر مجموعة من المستندات. ولا يكون منطقياً لدردشة تفتحها بضع مرات في اليوم، لأن العداد يستمر في العمل بين الجلسات، وغالباً ما تُفرض رسوم على حجم التخزين الدائم للأوزان بشكل منفصل.

الأمان على عاتقك. لا تعرض خادم النموذج للإنترنت المفتوح بدون مصادقة، لأن أي شخص يجد المنفذ يمكنه استخدام وقت وحدة معالجة الرسومات لديك.

المسار 3: استدعاء واجهة API مستضافة

تقدم لك هذه الخدمة نموذج واحد مفتوح الأوزان، تشغله جهة مستقلة ومضبط للإجابة بدون رفض المحتوى للاستخدام القانوني للبالغين. معرف النموذج هو uncensored. إنها ليست واجهة برمجة تطبيقات رسمية لأي مورد نماذج وليست وسيطاً بين عدة نماذج. عنوان URL الأساسي هو https://api.abliteratedmodels.cc/v1.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedmodels.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a candid technical assistant."},
        {"role": "user", "content": "Explain TCP slow start in five sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)

نفس الطلب باستخدام curl:

Copycurl https://api.abliteratedmodels.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}],"stream":false}'

يعمل البث المتدفق، واستدعاء الدوال، ووضع JSON كما هو الحال في API الخاصة بـ OpenAI. التفاصيل موجودة في التوثيق.

تكلفة كل مسار، مع حسابات API

تعتمد التكاليف المحلية والإيجارية على الأسعار التي يجب أن تبحث عنها بنفسك. تكلفة API سهلة الحساب. المعدلات هي $0.15 لكل مليون رمز مدخل و $0.50 لكل مليون رمز مخرج.

طلب مساعد البرمجة الذي يحتوي على 8,000 رمز من السياق وإجابة مكونة من 600 رمز يكلف 8,000 / 1,000,000 × $0.15 = $0.0012 للإدخال، بالإضافة إلى 600 / 1,000,000 × $0.50 = $0.0003 للإخراج. هذا يعني $0.0015 لكل طلب. مئة طلب مثل هذه في اليوم لمدة 30 يوماً تعني 3,000 طلب، أو $4.50 شهرياً.

الحد الأدنى للإضافة هو $20، وهو يغطي هذا الاستخدام لأكثر من أربعة أشهر، ولا ينتهي الرصيد. تنطبق المكافآت من $50: +5%، ثم +10% من $100 و +15% من $200. يمكنك الدفع بالعملات المشفرة فقط (USDT على TRC20، USDC على Base). انظر صفحة الأسعار للحصول على الجدول.

النماذج التي تعمل بشكل جيد للبرمجة

إذا كان هدفك هو كتابة الكود، فإن حجم النموذج وبيانات التدريب أهم من خطوة الإزالة. تكتب النماذج الأكبر كوداً أكثر موثوقية، لكنها تحتاج ذاكرة أكبر محلياً. يسرد أفضل النماذج المُزالة للبرمجة ما يجب الانتباه إليه. عند اختبار المرشحين، أعطِ كلًّا منها نفس المهام الخمسة أو الستة من عملك الفعلي: إصلاح خطأ، دالة قصيرة، إعادة هيكلة، شرح لكود غير مألوف. قارن النتائج، لا التسويق.

الخيار المستضاف مفيد كنقطة مرجعية. شغّل مجموعة المهام الخاصة بك على API أولاً، ثم راجع ما إذا كان نموذج محلي يمكنك تحمله يطابقه.

ابدأ بأرخص اختبار

قبل شراء الأجهزة أو استئجار آلة، اقضِ بضع دقائق على API. سجّل باستخدام Google، أو بالبريد الإلكتروني وكلمة المرور، ثم احصل على التجربة على صفحة مفتاح API. تكلف $0.50، صالحة لمدة 7 أيام، واحدة لكل شخص، ولا تحتاج إلى بطاقة. بسعر $0.0015 لكل طلب، هذا يعني أكثر من 300 طلب.

مفاتيح التجربة تتيح طلبين متزامنين و60 في الدقيقة. المفاتيح الكاملة تتيح 8 و300. إذا تجاوزت حداً، تحصل على HTTP 429 مع rate_limited أو concurrency، و429 مع Retry-After: 5 أثناء الحمل الزائد المؤقت. لمحة أوسع عن النماذج بدون رفض، اقرأ الصفحة حول نموذج الذكاء الاصطناعي غير المفلتر.

API هو للنصوص فقط وله قاعدة صارمة: لا محتوى جنسي يتضمن القاصرين.

المزيد من الأدلة

• Abliterated Models تنزيل: مصادر آمنة وفحوصات
• أفضل Abliterated Models للبرمجة: ما الذي يجب البحث عنه