إدارة واجهات API · بوابة الذكاء الاصطناعي
بوابة نماذج اللغة الكبيرة LLM في السعودية: نقطة تحكم واحدة لكل النماذج التي تستدعيها فرقكم
بوابة نماذج اللغة الكبيرة (LLM Gateway) طبقة واحدة بين تطبيقاتكم ونماذج اللغة التي تستخدمها. يمر بها كل طلب وكل رد وكل استدعاء أداة من وكيل ذكي، فتُحسم صلاحية الوصول إلى النماذج وحدود التكلفة وحجب البيانات الشخصية والتسجيل مرة واحدة، لا في كل تطبيق. تعرض هذه الصفحة ما يجب أن تؤديه البوابة، وما تسألون عنه قبل الاختيار، وكيف تطبّقها إنتركي على Kong AI Gateway في المملكة.
الخلاصة للإدارة
- ما هي: نقطة تحكم واحدة لحركة النماذج: أي النماذج يستخدمها كل فريق، وكم ينفق، وما البيانات التي يجوز أن تخرج.
- لماذا الآن: حين تستدعي عدة فرق عدة نماذج بمفاتيحها الخاصة، لا يعرف أحد ما الذي أُرسل وكم كلّف.
- ما تطبّقه إنتركي: Kong AI Gateway. وشركة Kong Inc. من الشركاء التقنيين لإنتركي.
- ما لا تفعله: لا تغيّر مكان معالجة النموذج المستضاف للطلب، ولا تجعل التطبيق غير الآمن آمنًا.
نظرة سريعة
| السؤال | الجواب |
|---|---|
| ما الذي تضبطه | الوصول إلى النماذج، والتوجيه، وحدود الـ tokens والتكلفة، وقواعد الطلبات، والبيانات الشخصية، والتخزين المؤقت، وأدوات MCP، وسجلات الاستخدام |
| المنتج الذي تطبّقه إنتركي | Kong AI Gateway، تُدار من Kong Konnect أو تُعدّ داخل مقر الجهة |
| أين تُعالَج الطلبات | مستوى بيانات في بيئتكم: على خوادمكم، أو في حساب سحابي تتحكمون فيه، أو على Kubernetes |
| كيف يكون الترخيص | بشروط Kong، وسياسات الذكاء الاصطناعي جزء من عرض AI Gateway Enterprise |
| من إنتركي | الحصر، والسياسة، والنشر، والاختبار بالعربية، والدعم من الرياض، والتشغيل |
ما بوابة نماذج اللغة الكبيرة LLM، ولماذا تضيفها الجهات
تحدد بوابة API من يحق له استدعاء كل خدمة وبأي معدل، وتشرحها صفحة بوابة API. أما بوابة نماذج اللغة الكبيرة فتؤدي الدور نفسه لاستدعاءات النماذج، وتضيف ضوابط لا معنى لها إلا هناك: حدود تُحسب بالـ tokens، وقواعد تقرأ نص الطلب، وحجب البيانات الشخصية من النص الحر، وتكلفة لكل طلب. ويسميها بعض المورّدين بوابة الذكاء الاصطناعي (AI Gateway)، والمقصود الطبقة نفسها.
وتظهر الحاجة عادة بترتيب معروف: فريق يبني مساعدًا ذكيًا بمفتاح من مزوّد، وفريق ثانٍ يختار نموذجًا آخر، ومشروع وكلاء يبدأ في استدعاء الأنظمة الداخلية. وسرعان ما تتكاثر المفاتيح، ولا يوجد سجل لما خرج من الشبكة، وتصل فاتورة لا يمكن توزيعها على الفرق. والبوابة تعيد هذه القرارات إلى مكان واحد دون إعادة كتابة كل تطبيق.
روابط ذات صلةصفحة بوابة API
ما الذي يجب أن تؤديه بوابة نماذج اللغة
استخدموا هذه القائمة لمقارنة أي عرض، ومنه عرضنا.
| المتطلب | لماذا يهم | اسألوا المورّد |
|---|---|---|
| التوجيه بين عدة نماذج والتحويل عند التعطل | تستدعي التطبيقات نقطة واحدة، ويذهب كل طلب إلى النموذج المعتمد لفئة بياناته، وينتقل إلى غيره إذا توقف | ما البديل لكل حالة استخدام، ومن اعتمده؟ |
| حدود الـ tokens والتكلفة | لا تستنفد تجربة فريق ميزانية فريق آخر | هل الحدود بالـ tokens أو بالتكلفة، ولكل فريق أو نموذج أو مزوّد؟ |
| حجب البيانات الشخصية | تُحذف الأسماء وأرقام الجوال والهوية قبل خروج الطلب | كيف يُختبر النص العربي والصيغ السعودية للأرقام؟ |
| حماية الطلبات | تُحجب الموضوعات الممنوعة ومحاولات حقن الأوامر أولًا | هل تعمل القواعد على الطلبات العربية والمختلطة؟ |
| التخزين المؤقت الدلالي | يُجاب عن الأسئلة المتكررة دون استدعاء جديد للنموذج | أي حالات الاستخدام يجوز فيها إعادة الرد؟ |
| حوكمة أدوات MCP | يستدعي الوكلاء الأدوات المسموحة فقط، بصلاحيات أضيق للكتابة | كيف تُقيَّد استدعاءات الأدوات وتُسجَّل؟ |
| سجلات الاستخدام | يعرف فريق الأمن ما أُرسل، وتعرف الإدارة المالية من أنفق | ما الذي يُسجَّل، ولأي مدة، وأين؟ |
التوجيه بين عدة نماذج وضبط تكلفة نماذج اللغة
التوجيه قرار في السياسة أولًا. فمساعد العملاء، وأداة تلخيص المستندات الداخلية، ومساعد كتابة الشيفرة، قلّما تحتاج إلى النموذج نفسه أو تحمل البيانات نفسها. لذلك نكتب معكم جدول توجيه يحدد لكل حالة استخدام: فئة البيانات، والنموذج الأساسي، والبديل المقبول أو لا بديل، وهل يجوز إرسال الطلبات البسيطة إلى نموذج أقل تكلفة. وبذلك يصبح تغيير النموذج تعديلًا يُراجَع في إعدادات البوابة.
الميزانيات تُحسب بالـ tokens. يحاسب المزودون بالـ tokens، فلا يقول عدد الطلبات شيئًا كثيرًا عن الإنفاق. وتحسب البوابة الـ tokens أو التكلفة لكل فريق أو تطبيق أو نموذج، وتحجب أو تبطئ أو تنبّه عند الحد. وتحمل سجلات الاستخدام التكلفة لكل مستخدم، فيمكن تحميل الإنفاق على أصحابه.
اقرأ المزيد
أما التخزين المؤقت الدلالي فيقارن معنى الطلب الجديد بالطلبات السابقة، عبر نموذج تضمين (Embeddings) ومخزن للمتجهات، ويعيد الرد المحفوظ حين يتقارب المعنى. ويناسب الأسئلة الثابتة، مثل الأسئلة الشائعة عن السياسات، لا الردود التي تتغير بحسب المستخدم أو التاريخ أو البيانات الحية، لذلك نفعّله لكل حالة استخدام على حدة. واستدعاء نموذج التضمين مكان إضافي يذهب إليه الطلب.
حجب البيانات الشخصية وحماية الطلبات وبوابة MCP
تحذف أداة الحجب الأسماء وأرقام الجوال والبطاقات والهوية قبل خروج الطلب، ويمكنها إعادتها في الرد. وتحجب قواعد الحماية ما يطابق موضوعات ممنوعة أو يشبه هجمات معروفة. وكلاهما يحتاج إلى عمل خاص بالعربية: فالقواعد الإنجليزية لا تطابق الصياغة العربية، وقد تصل أرقام الجوال والهوية الوطنية والإقامة بالأرقام العربية المشرقية (١٢٣). لذلك نمرر مجموعة اختبار بالعربية والإنجليزية والنص المختلط عبر البوابة قبل الإطلاق. ويوضح دليل حقن الأوامر أي الضوابط مكانها البوابة وأيها مكانه التطبيق.
اقرأ المزيد
بوابة MCP. يستدعي الوكلاء الأذكياء الأدوات عبر بروتوكول Model Context Protocol (MCP). وبوابة MCP هي نقطة التحكم نفسها مطبقة على هذه الاستدعاءات: الأدوات التي يكتشفها كل وكيل، وتقييد كل استدعاء، وسجل بما نُفّذ. وينبغي أن تحتاج عمليات الكتابة إلى صلاحيات أضيق من القراءة. وإذا كانت واجهاتكم الداخلية خلف بوابة اليوم، فتُحوكم حركة الوكلاء في المكان نفسه.
روابط ذات صلةدليل حقن الأوامر
كيف تلبّي Kong AI Gateway كل متطلب، وما الذي يحدد التكلفة
ملخص كما توثّقه Kong، وتفاصيل كل سياسة في صفحتنا عن Kong AI Gateway.
| المتطلب | كيف تتعامل معه Kong AI Gateway |
|---|---|
| التوجيه والتحويل عند التعطل | واجهة موحدة لمزودي نماذج اللغة المدعومين، وتوزيع للأحمال، وتحويل إلى مزوّد أو نموذج آخر |
| حدود الـ tokens والتكلفة | AI Rate Limiting Advanced لكل مستخدم أو مجموعة مستخدمين أو نموذج أو مزوّد |
| حجب البيانات الشخصية | AI Sanitizer مع خدمة إخفاء مستقلة، وأنماط مخصصة لصيغ مثل العربية وأرقام الهوية السعودية |
| حماية الطلبات | AI Prompt Guard بقوائم سماح وحجب، وAI Semantic Prompt Guard بالتشابه مع أمثلة |
| التخزين المؤقت الدلالي | AI Semantic Cache للطلبات شبه المتطابقة |
| أدوات MCP | أدوات من خوادم MCP، وتحويل الواجهات الحالية إلى أدوات MCP، وتقييد الاستدعاءات عبر OAuth2 |
| سجلات الاستخدام | الـ tokens وزمن الاستجابة والتكلفة عبر سجلات التدقيق ومُصدِّرات المقاييس وOpenTelemetry |
تذكر Kong أن عددًا من هذه السياسات، منها AI Rate Limiting Advanced وAI Sanitizer وAI Semantic Cache، متاح فقط ضمن عرض AI Gateway Enterprise. وتتغير الأسماء والترخيص بين الإصدارات، فنتحقق منهما للإصدار الذي ستشغّلونه قبل عرض السعر. وللتفاصيل الكاملة راجعوا صفحة بوابة الذكاء الاصطناعي من Kong.
ما الذي يحدد التكلفة. يُسعَّر ترخيص Kong بشروط الشركة، ولا نذكر أسعارًا في هذه الصفحة. ويتوقف المجموع على سياسات الذكاء الاصطناعي التي تحتاجونها، وعلى Konnect أو مستوى تحكم داخل مقر الجهة، وعدد البيئات، وحالات الاستخدام والفرق التي تنتقل إلى البوابة، وعمل الاختبار بالعربية، وهل تشغّل إنتركي البوابة. ويعرض عرض السعر الترخيص والتطبيق والتشغيل في بنود مستقلة.
أين تعمل بوابة نماذج اللغة في السعودية
- مستوى البيانات يقرأ كل طلب. وتوثّق Kong تشغيله في بيئتكم، فيمكن أن يبقى على بنية تحتية تديرونها داخل المملكة.
- مستوى التحكم يحفظ الإعدادات وبيانات الاستخدام الوصفية. وتوثّق Kong منصة Konnect في عدة مناطق منها منطقة باسم الشرق الأوسط، وتوثّق الإعداد داخل مقر الجهة. واختاروا بحسب تصنيف بياناتكم.
- النموذج يستقبل الطلب بعد الحجب، والنموذج المستضاف يعالجه حيث يشغّله مزوّده. أما النموذج الذي تستضيفونه داخل المملكة فيُبقي المسار كله محليًا.
وتخضع البيانات الشخصية داخل الطلبات لنظام حماية البيانات الشخصية، الذي تشرف عليه الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا). ويشرح دليل إقامة البيانات تصنيف البيانات أولًا.
روابط ذات صلةالهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)دليل إقامة البيانات
أين تستخدم الجهات في المملكة بوابة لنماذج اللغة، ومن يدعمها
- المساعدات الداخلية التي تجيب من وثائق السياسات، بميزانية لكل إدارة.
- خدمة العملاء بالعربية والإنجليزية، مع حجب الأسماء والأرقام أولًا.
- الوكلاء الأذكياء الذين يحدّثون السجلات عبر أدوات MCP، مع تقييد الكتابة.
الدعم من الرياض. يعمل مهندسو إنتركي من الرياض، بالعربية والإنجليزية، من الأحد إلى الخميس. وبعد الإطلاق نساند فريق المنصات لديكم أو نشغّل البوابة بنطاق خدمات مُدارة مكتوب. ولمعرفة ما يحدث داخل التطبيق حول كل استدعاء، اجمعوا البوابة مع مراقبة نماذج اللغة، وللبرنامج الأوسع راجعوا الذكاء الاصطناعي للمؤسسات.
روابط ذات صلةمراقبة نماذج اللغةالذكاء الاصطناعي للمؤسسات
كيف تنفّذ إنتركي بوابة نماذج اللغة
-
حصر استخدامات الذكاء الاصطناعي.
أي الفرق والوكلاء يستدعون أي النماذج، وبأي بيانات ومفاتيح.
-
كتابة السياسة.
التوجيه والميزانيات وقواعد الحجب والحماية والتخزين المؤقت والتسجيل، بالاتفاق مع فريق الأمن.
-
النشر.
مستوى البيانات في بيئتكم، ومستوى التحكم بحسب تصنيف بياناتكم، على هيئة إعدادات.
-
الاختبار بالعربية والإنجليزية.
طلبات هجوم وبيانات شخصية وطلبات عادية، قبل الإنتاج.
-
نقل الفرق والتشغيل.
فريقًا بعد فريق مع إيقاف المفاتيح المباشرة، ثم التحديثات وتقارير التكلفة.
أسئلة يطرحها العملاء
ما بوابة نماذج اللغة الكبيرة، وهل نحتاج إليها إن كنا نستخدم نموذجًا واحدًا؟
هي نقطة تحكم واحدة بين تطبيقاتكم والنماذج التي تستدعيها، تطبّق قواعد الوصول والتكلفة والبيانات الشخصية والتسجيل على كل طلب. ومع نموذج واحد وفريق واحد قد تكفي إعدادات المزوّد في البداية، وتظهر الحاجة عادة مع الفريق الثاني أو النموذج الثاني أو أول وكيل ذكي.
هل تُبقي بوابة نماذج اللغة طلباتنا وبياناتنا الشخصية داخل السعودية؟
يمكن أن يعمل مستوى البيانات الذي يقرأ الطلبات على بنية تحتية تديرونها داخل المملكة، وأن يحجب البيانات الشخصية قبل خروج الطلب. أما مكان معالجته بعد ذلك فيتوقف على مزوّد النموذج المستضاف. والطلبات التي لا يجوز أن تخرج تُوجَّه إلى نموذج مستضاف داخل المملكة أو تُحجب.
كيف تضبط البوابة ما ينفقه كل فريق على النماذج؟
تحسب الـ tokens أو التكلفة لكل فريق أو تطبيق أو نموذج، وتحجب أو تبطئ أو تنبّه عند الحد الذي تضعونه. وتحمل سجلات الاستخدام التكلفة لكل مستخدم لتوزيع الإنفاق، ويخفض التخزين المؤقت الدلالي والمسارات الأقل تكلفة المجموع.
متى يكون تفعيل التخزين المؤقت الدلالي آمنًا؟
مع الأسئلة الثابتة التي لا يتغير جوابها بتغير السائل، مثل الأسئلة الشائعة عن السياسات. وأبقوه متوقفًا حين يتغير الجواب بحسب المستخدم أو التاريخ أو البيانات الحية، وتحققوا من مكان تشغيل نموذج التضمين.
هل بوابة MCP منفصلة عن بوابة نماذج اللغة؟
في Kong هي البوابة نفسها: تحوكم Kong AI Gateway حركة النماذج واستدعاءات أدوات MCP معًا، مع تقييد الاستدعاءات عبر OAuth2. فصمموهما تصميمًا واحدًا، لأن الوكيل يرسل الطلبات ويستدعي الأدوات في المهمة نفسها.
كم يستغرق إطلاق بوابة نماذج اللغة في المملكة، وكم يكلّف؟
يتوقف ذلك على حالات الاستخدام والفرق، وعمل الاختبار بالعربية، ومراجعة فريق الأمن لديكم. وأول حالة استخدام هي الجزء القصير، أما نقل كل الفرق فيأخذ وقتًا أطول. ويُسعَّر ترخيص Kong بشروطها وعمل إنتركي بجانبه، مع تقدير للمدة بعد الحصر.
التالي
اقرأ أيضًا
الخطوة التالية
خططوا لبوابة نماذج اللغة لديكم
أخبرونا أي الفرق تستخدم نماذج اللغة، وأي النماذج تستدعي، وما البيانات التي تحملها الطلبات، وما الذي يجب أن يبقى داخل المملكة. وسنقترح تصميمًا للبوابة وحالة استخدام أولى.
أو مباشرةً
+966-11-2180999 [email protected]أبراج التعاونية، البرج الشمالي، الطابق السابع، طريق الملك فهد، العليا، ص.ب. ٥٦٨٣٥، الرياض ١١٥٦٤، المملكة العربية السعودية