الذكاء الاصطناعي المؤسسي في المملكة

النِّسَب تفاجئ من لم يرَ إلا مرحلة العرض. جمع البيانات وتنظيفها وتصنيفها، ثم فهم معنى ثغراتها، هو معظم أغلب الارتباطات. واختيار النموذج وتدريبه قصير نسبيًا، وينتهي كثيرًا بمعمار أبسط ممّا بدأ المشروع يتوقّعه، لأن نموذجًا يستطيع مهندس أن يعقله حين يسيء التصرّف أنفع في الإنتاج من نموذج سجّل نتيجة أفضل بهامش ضئيل في التقييم.

ثم يأتي الجزء الذي لا يحبّه أحد ويحسم كل شيء: النشر والرصد وإعادة التدريب والتراجع. فالنموذج في الإنتاج قطعة بنية لها معدّل اضمحلال. تنزاح المُدخَلات، وتغيّر الأنظمة الرافدة صيغها دون إخباركم، والنظام الذي كان دقيقًا عند الإطلاق ليس دقيقًا تلقائيًا بعد سنة. والارتباطات التي تصمد هي التي يملك فيها أحدٌ ذلك المنحنى.

وهنا أيضًا تتوقّف ممارسة الذكاء الاصطناعي وممارسة الرصد عن كونهما محادثتين منفصلتين. فالنموذج في الإنتاج يحتاج المعاملة نفسها التي تحتاجها أي خدمة أخرى، أي التجهيز بالقياس والتنبيه والظهور للفريق الذي سيُستدعى، ويزيد عليها شيئًا لا تحتاجه الخدمات العادية: طريقة لملاحظة أن الأجوبة كفّت بهدوء عن الصواب بينما بقيت كل مقاييس النظام خضراء.

المنظمات السعودية التي تنشر ذكاءً اصطناعيًا في أي شيء ذي أثر مُساءَلة عن سلوك النظام، والمساءلة لا تنتقل إلى مورّد نموذج. والأسئلة التي تُطرح فعلًا ثابتة، ولا واحد منها عن المعمار:

على أي بيانات دُرِّب، وهل كان ذلك الاستعمال مسموحًا؟ البيانات الشخصية المستعملة في التدريب تبقى بيانات شخصية، والأساس النظامي لحفظها ليس تلقائيًا أساسًا نظاميًا للتدريب عليها. وهذا يحتاج جوابًا موثّقًا، يُنتَج مع وظيفة الخصوصية في المنظمة نفسها لا حولها.

أين يجري الاستدلال، وإلى أين يذهب المُدخَل؟ الواجهة البرمجية لنموذج مستضاف تعني أن المُدخَل يغادر البيئة. ولبعض أصناف البيانات ذلك مقبول، ولبعضها نهاية المحادثة، وهو سؤال موضع الحفظ نفسه الذي يشرحه دليل موضع حفظ بيانات الرصد، واصلًا هنا طبقةً أعلى.

هل يمكن شرح قرار للشخص الذي تأثّر به؟ إن أثّر المخرَج في وصول شخص إلى شيء، فسيضطر أحدٌ يومًا إلى شرح حالة بعينها. والأنظمة المصمَّمة لتسجيل مُدخَلاتها ودرجة ثقتها تستطيع ذلك؛ والتي لم تُصمَّم كذلك لا يمكن إلحاق هذه القدرة بها بعد حين.

من يستطيع إطفاءه؟ إنسان مسمّى، وإجراء موثّق، ونظام يتدهور إلى سلوك معرَّف لا إلى انقطاع. والبرامج التي لا تستطيع الإجابة عن هذا لم تنتهِ، مهما قالت نتائج التقييم.