إدارة واجهات البرمجة · بوابة الذكاء الاصطناعي
بوابة الذكاء الاصطناعي في السعودية: نقطة تحكّم واحدة لحركة نماذج اللغة الكبيرة (LLM) والوكلاء
تقع بوابة الذكاء الاصطناعي (AI gateway) بين تطبيقاتكم ونماذج اللغة ووكلاء الذكاء الاصطناعي التي تستدعيها. وتطبّق في مكان واحد التحقق من الهوية، وميزانيات الـ tokens، وقواعد التعليمات (prompts) والبيانات، والتوجيه، والتسجيل، حتى لا تأتي كل ميزة ذكاء اصطناعي جديدة بمفاتيحها وقواعدها الخاصة. تصمّمها إنتركي وتنفّذها وتشغّلها باستخدام Kong AI Gateway، من الرياض.
نُشر في 7 دقائق قراءة
باختصار
- ما هي: بوابة لحركة الذكاء الاصطناعي: استدعاءات مزوّدي نماذج اللغة المستضافة، واستدعاءات النماذج التي تشغّلونها بأنفسكم، واستدعاءات الأدوات التي يجريها وكلاء الذكاء الاصطناعي على أنظمتكم.
- متى تحتاجونها: عندما يظهر فريق ثانٍ أو مزوّد نماذج ثانٍ، أو عندما يسأل أحدهم: ما البيانات التي أُرسلت إلى نموذج، وكم كلّفت؟
- ما الذي تتحكّم فيه: من يحق له استدعاء أي نموذج، وميزانيات الـ tokens لكل فريق، وقواعد التعليمات والردود، وإزالة البيانات الشخصية قبل خروج الطلب، والتوجيه والتحويل بين النماذج عند التعطّل، وسجل استخدام واحد.
- ما الذي لا تقرّره: أين يعالج النموذج بياناتكم. فذلك يتبع النموذج الذي توجّهون الطلب إليه. والبوابة تفرض التوجيه الذي تسمح به سياسة بياناتكم.
لماذا تحتاج حركة الذكاء الاصطناعي إلى نقطة تحكّم خاصة بها
تنطلق أول ميزة قائمة على LLM عادةً بمفتاح مزوّد واحد في إعدادات أحد التطبيقات. وبحلول الميزة الثالثة أو الرابعة، تكون لدى عدة فرق مفاتيح لمزوّدين مختلفين، ولا يستطيع أحد أن يحدّد فئات البيانات التي تُرسَل وإلى أين، وتصل فاتورة النماذج رقمًا إجماليًا واحدًا. وبوابة الذكاء الاصطناعي تُخضع هذه الحركة للانضباط نفسه الذي تتوقعونه من واجهاتكم البرمجية: نقطة دخول واحدة، وسياسة واحدة، وسجل واحد.
بوابة ذكاء اصطناعي أم بوابة واجهات البرمجة التي تشغّلونها اليوم؟
تقع البوابتان في الموضع نفسه من البنية. والفرق في وحدة التحكّم: بوابة واجهات البرمجة تحسب عدد الطلبات وتتحقق ممن يستدعيها؛ أما بوابة الذكاء الاصطناعي فعليها أيضًا أن تفهم التعليمات والـ tokens والنماذج.
| بوابة واجهات البرمجة | بوابة الذكاء الاصطناعي | |
|---|---|---|
| تُحتسب الحدود بـ | عدد الطلبات في فترة زمنية | الـ tokens في فترة زمنية، لكل مستهلك أو فريق |
| ما يُفحص | هوية المستدعي، والمسارات، والترويسات (headers)، وحجم الحمولة وبنيتها (schema) | محتوى التعليمات والردود، وفق قواعد الموضوعات وحقن الأوامر (prompt injection) والبيانات الشخصية |
| التوجيه | إلى خدمة، حسب المسار أو المضيف | إلى نموذج أو مزوّد، وفق السياسة، مع إعادة المحاولة والتحويل إلى بديل؛ واختياريًا حسب معنى التعليمات |
| التخزين المؤقت | ردود مطابقة تمامًا | دلالي: يمكن الرد على تعليمات شبه مكرّرة من الذاكرة المؤقتة |
| تقارير التكلفة | أعداد الطلبات، دون تكلفة لكل استدعاء | إنفاق الـ tokens منسوبًا إلى الفريق أو التطبيق الذي تسبّب فيه |
| وكلاء الذكاء الاصطناعي | تُعامَل استدعاءات الوكلاء معاملة استدعاءات API العادية | تحكم استدعاءات الوكلاء للأدوات على خوادم MCP، ويمكنها عرض واجهاتكم البرمجية القائمة على هيئة أدوات يستدعيها الوكلاء |
إن كنتم تشغّلون Kong لواجهاتكم البرمجية، فهذا امتداد لا منتج ثانٍ: فـ Kong AI Gateway مبنية على محرّك التشغيل الأساسي نفسه الذي تقوم عليه Kong Gateway، ويمكن إدارة الاثنتين من منصة Kong نفسها.
ما الذي يمكن أن تفرضه Kong AI Gateway، وما الذي يجب تقريره أولًا
كل قدرة أدناه موثّقة لدى Kong. ولا تعمل أيٌّ منها جيدًا دون قرار يجب أن تتخذه منشأتكم أولًا، لذلك يذكر كل صف ذلك القرار.
| القدرة | ما تفعله | ما يُقرَّر قبل تفعيلها |
|---|---|---|
| الوصول إلى النماذج عبر API واحدة | تستدعي التطبيقات نقطة واحدة في البوابة؛ وتحتفظ البوابة ببيانات اعتماد المزوّدين وتصل إلى النماذج المعتمدة، سواء كانت مستضافة (توثّق Kong المزوّدين الرئيسيين، ومنهم Amazon Bedrock ونماذج Google) أو تشغّلونها بأنفسكم | أي المزوّدين والنماذج معتمدة، ولأي فئات بيانات |
| ميزانيات الـ tokens | تحدّ استهلاك الـ tokens لكل مستهلك، وتنسب تكلفة كل token إلى الفرق أو التطبيقات | من يملك كل ميزانية، وماذا يحدث عند نفادها |
| قواعد التعليمات | تحجب الطلبات التي تطابق موضوعات أو كلمات غير مسموح بها؛ ويلتقط حارس دلالي محاولات كسر القيود (jailbreak) وحقن الأوامر المكتوبة بلغة طبيعية | سياسة الموضوعات، ومن يراجع الطلبات المحجوبة |
| إزالة البيانات الشخصية | تُخفي البيانات الشخصية قبل وصول الطلب إلى المزوّد، ويمكنها إعادتها في الرد | أنواع البيانات التي يجب ألا تخرج أبدًا. ولا تذكر وثائق Kong العربية ضمن نماذج اللغة المضمّنة فيها، لذا اختبروها على عيّنات عربية وإنجليزية من بياناتكم |
| الاعتمادية | توزّع الحمل على نسخ النماذج، وتعيد المحاولة، وتحوّل إلى نموذج آخر عند تعطّل أحدها | أي النماذج بدائل مقبولة لكل استخدام |
| التخزين المؤقت الدلالي | تردّ على التعليمات شبه المكرّرة من الذاكرة المؤقتة بدل استدعاء النموذج مجددًا | حالات الاستخدام التي يجوز أن تتلقى ردًا من الذاكرة المؤقتة |
| استدعاءات الوكلاء للأدوات (MCP) | تضع حركة الوكلاء إلى خوادم MCP خلف التحقق والتسجيل نفسيهما، ويمكنها تحويل الواجهات البرمجية القائمة إلى أدوات يكتشفها الوكيل ويستدعيها | أي الواجهات الداخلية يجوز للوكيل استخدامها أصلًا |
| رؤية الاستخدام | أحجام الـ tokens والاستخدام لكل مستهلك، في تحليلات Kong نفسها أو مُصدَّرة إلى أدوات المراقبة التي تستخدمونها | أين تُحفظ سجلات استخدام الذكاء الاصطناعي، وإلى متى |
| الإعداد على هيئة شيفرة | تُدار على هيئة شيفرة بأدوات Kong التصريحية (decK للنشر الذاتي، وkongctl لـ Konnect) أو عبر API الخاصة بـ Kong | من يعتمد تغييرات السياسات |
قواعد التعليمات تقلّل المخاطر ولا تلغيها. وما يُسمح للوكيل بفعله داخل أنظمتكم يجب أن تحدّه الصلاحيات التي تمنحونها له. وتوثّق Kong عددًا من هذه السياسات، منها ميزانيات الـ tokens وإزالة البيانات الشخصية والتخزين المؤقت الدلالي وتوزيع الحمل بين النماذج، ضمن عرض AI Gateway Enterprise الذي يتطلّب ترخيص AI. ويُسعَّر ترخيص Kong وفق شروط Kong.
أين تعمل البوابة، وإلى أين تذهب تعليماتكم
هذان سؤالان منفصلان. يمكن أن تعمل البوابة داخل المملكة. أما خروج التعليمات من المملكة فيعتمد على النموذج الذي تُرسَل إليه.
اقرأ المزيد
- أين تمرّ الحركة (مستوى البيانات): توثّق Kong تشغيل عُقد مستوى البيانات (data plane) بنشر ذاتي، أو في سحابة، أو على Kubernetes. وتنشر إنتركي Kong بإدارة ذاتية داخل المملكة، أو بنشر هجين لا يُدار فيه خارج بيئتكم سوى الإعداد.
- أين يُحفظ الإعداد (مستوى التحكّم): إما بإدارة ذاتية بجانب مستوى البيانات، أو في Kong Konnect. ويوفّر Konnect عدة مناطق جغرافية، منها منطقة للشرق الأوسط. وتوثّق Kong أن كائنات مثل خدمات البوابة والمسارات والمستهلكين خاصة بالمنطقة التي تختارونها، وأن المصادقة والفوترة والاستخدام مشتركة بين المناطق. قارنوا هذا الترتيب بسياسة بياناتكم قبل اختياره.
- أين يعالج النموذج البيانات: استخدام API لنموذج مستضاف يعني أن المدخلات تخرج من بيئتكم. ويمكن للبوابة أن تفرض قاعدة «فئة البيانات هذه لا تذهب إلا إلى هذا النموذج»، بما في ذلك نموذج تشغّلونه بأنفسكم. لكنها لا تستطيع تغيير المكان الذي يعالج فيه المزوّد ما يصله.
مثال: التوجيه حسب فئة البيانات
| فئة بياناتكم (مثال) | النماذج التي يجوز أن تصل إليها | قاعدة البوابة |
|---|---|---|
| محتوى عام، مثل مسودات التسويق | أي مزوّد مستضاف معتمد | ميزانية tokens وتسجيل |
| مستندات داخلية | المزوّدون المعتمدون فقط | إزالة البيانات الشخصية وقواعد الموضوعات |
| بيانات العملاء الشخصية | النماذج التي تعمل حيث تسمح سياستكم فقط | مقصورة على تطبيقات محدّدة بالاسم؛ وكل ما عداها محجوب |
| بيانات مقيّدة | لا شيء، إلا بموافقة صريحة | مرفوضة افتراضيًا |
هذا مثال توضيحي. سياسة التصنيف لديكم، والأنظمة التي تنطبق على قطاعكم، هي ما يحدّد الصفوف الفعلية.
كيف تُعِدّ إنتركي بوابة الذكاء الاصطناعي
الترتيب هو نفسه الذي تتبعه إنتركي مع أي بوابة: الجرد والسياسة أولًا، والبوابة ثالثًا.
-
جرد استخدام الذكاء الاصطناعي.
أي التطبيقات والفرق تستدعي أي النماذج، وبأي مفاتيح، وتحمل أي فئات من البيانات.
-
كتابة السياسة.
النماذج المعتمدة لكل فئة بيانات، وميزانيات الـ tokens، وقواعد التعليمات والبيانات الشخصية، ومدة الاحتفاظ بسجلات الاستخدام.
-
النشر بالشكل الذي تسمح به سياستكم.
إدارة ذاتية داخل المملكة، أو نشر هجين يُدار فيه الإعداد خارج بيئتكم.
-
نقل المستهلكين وإغلاق الأبواب الخلفية.
تنتقل مفاتيح المزوّدين إلى البوابة، وتُوقَف الاستدعاءات المباشرة من التطبيقات إلى المزوّدين.
-
التشغيل.
متابعة الاستخدام والطلبات المحجوبة، وضبط القواعد، والترقية. ويمكن لإنتركي تشغيل البوابة خدمةً مُدارة بنطاق متفق عليه، وتُحدَّد ساعات التغطية وأهداف الاستجابة في كل اتفاقية.
أسئلة تطرحونها على أي مزوّد لبوابة الذكاء الاصطناعي، بمن فيهم نحن
- هل يمكن تشغيل مستوى البيانات حيث تشترط سياستنا، وأين يُحفظ الإعداد تحديدًا؟
- هل يمكننا تحديد ميزانيات tokens لكل فريق ومعرفة التكلفة لكل فريق؟
- كيف تُحفظ مفاتيح المزوّدين، وكيف تُدوَّر؟
- ما أنواع البيانات الشخصية التي يشملها الإخفاء، وما أداؤه على عيّناتنا العربية والإنجليزية؟
- ماذا يحدث عندما يتعطّل مزوّد النماذج أو يقيّد استخدامنا؟
- هل تمرّ استدعاءات الوكلاء للأدوات عبر التحقق والسجلات نفسها التي يمرّ بها كل شيء آخر؟
- أي الميزات تحتاج إلى ترخيص مدفوع في شكل النشر الذي نختاره؟
- من يشغّل البوابة ويرقّيها بعد التشغيل الفعلي؟
أسئلة يطرحها العملاء
هل نحتاج إلى بوابة ذكاء اصطناعي إذا كنا نستخدم مزوّد نماذج واحدًا فقط؟
ليس دائمًا من اليوم الأول. تصبح ضرورية عندما يظهر فريق ثانٍ أو مزوّد ثانٍ أو سؤال يتعلق بحماية البيانات. وحتى مع مزوّد واحد، فإن إبقاء المفتاح وميزانية الـ tokens وسجل الاستخدام في مكان واحد يوفّر عليكم إعادة العمل لاحقًا.
نشغّل Kong لواجهاتنا البرمجية بالفعل. هل هذا منتج منفصل؟
Kong AI Gateway مبنية على محرّك التشغيل الأساسي نفسه الذي تقوم عليه Kong Gateway، وتُدار بأدوات Kong نفسها، فهي امتداد للبوابة التي تشغّلونها. وعدد من سياسات الذكاء الاصطناعي، مثل ميزانيات الـ tokens وإزالة البيانات الشخصية، جزء من عرض AI Gateway Enterprise من Kong ويتطلّب ترخيص AI، لذا يعتمد الترخيص على الميزات التي تستخدمونها.
هل توقف بوابة الذكاء الاصطناعي حقن الأوامر (prompt injection)؟
تكتشف المحاولات التي تطابق القواعد التي تضبطونها وتحجبها، بما فيها المحاولات المكتوبة بلغة طبيعية. وهذا يخفّض المخاطر، لكنه لا يغني عن تقييد ما يُسمح للوكيل بفعله.
هل يمكن أن يبقى كل شيء داخل المملكة؟
البوابة نعم. أما خروج التعليمات فيعتمد على النموذج الذي تُوجَّه إليه. وإذا كان يجب أن تُعالَج فئة بيانات داخل المملكة، فوجّهوا تلك الفئة فقط إلى نموذج يعمل في بيئة تستوفي سياستكم، واحجبوها عن كل ما عداه.
هل Kong منتج من إنتركي؟
لا. Kong منتج من شركة Kong Inc.، وتتولّى إنتركي تصميمه وتنفيذه وتشغيله للمنشآت في السعودية.
التالي
صفحات ذات صلة
الخطوة التالية
ناقشوا تصميم بوابة الذكاء الاصطناعي
أخبرونا بالتطبيقات التي تستدعي النماذج اليوم، وأي النماذج تستدعي، ونوع البيانات التي تحملها. وسنردّ عليكم بتصوّر مقترح للبوابة، وبالأسئلة التي يُرجَّح أن يطرحها فريق الأمن لديكم.
أو مباشرةً
+966-11-2180999 [email protected]أبراج التعاونية، البرج الشمالي، الطابق السابع، طريق الملك فهد، العليا، ص.ب. ٥٦٨٣٥، الرياض ١١٥٦٤، المملكة العربية السعودية