شركات الذكاء الاصطناعي في السعودية: كيف تميّزون بينها وتختارون المناسبة لكم

2. كيف اختُبر النظام على بيانات عربية؟

المستندات والتذاكر ونصوص المكالمات ورسائل العملاء في المملكة فيها عربية، وخليط من العربية والإنجليزية في الحقل نفسه، وأسماء مكتوبة بحروف لاتينية. والنماذج العامة لا تتعامل مع ذلك بالمستوى نفسه. اطلبوا تقييمًا على عيّنات من بياناتكم العربية، لا نتائج اختبار من سوق آخر.

3. كيف يتوافق النظام مع مبادئ أخلاقيات الذكاء الاصطناعي من سدايا؟

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) في سبتمبر 2023 وثيقة «مبادئ أخلاقيات الذكاء الاصطناعي» لكل من يصمم أنظمة الذكاء الاصطناعي أو يطوّرها أو ينشرها أو ينفّذها أو يستخدمها في المملكة. وتتضمن سبعة مبادئ: النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، والمساءلة والمسؤولية. كما تصف أربعة مستويات للمخاطر، من المخاطر البسيطة أو المنعدمة إلى المخاطر غير المقبولة.

الشركة الجادة تستطيع أن تخبركم بمستوى المخاطر الذي تضع فيه حالة الاستخدام لديكم ولماذا، وكيف يدعم تصميمها كل مبدأ ينطبق عليها. لكن الشراء من مورّد لا يُسقط نصيبكم من المسؤولية؛ فالجهة التي تنشر النظام تبقى مسؤولة عن طريقة استخدامه.

4. من يشغّل النظام بعد الإطلاق؟

بناء النموذج مشروع، أما تشغيله سنوات فقدرة تحتاج فريقًا. اسألوا: من يراقبه، وما الذي يستدعي إعادة تدريبه، ومن المخوّل بإيقافه، وهل يعمل هذا الفريق داخل المملكة وفي أيام عملكم؟

1. أي نوع من شركات الذكاء الاصطناعي أنتم في هذا العقد: منتج، أم خدمات، أم تكامل، أم تنفيذ منصة، أم بنية تحتية؟
2. ما الذي تملكونه، وما الذي يعود لشريك؟ سمّوا الشريك لكل مكوّن.
3. أين تُخزّن بياناتنا وأين يعمل النموذج، في كل خيار نشر تقدّمونه؟
4. هل تستطيعون عرض تقييم على بياناتنا، بما فيها النصوص العربية إن كانت حالة الاستخدام تتضمنها؟
5. ما مستوى المخاطر الذي تضعون فيه حالة الاستخدام هذه بحسب مبادئ سدايا، وما الذي يغيّره ذلك في التصميم؟
6. ماذا يفعل النظام عندما لا يكون متأكدًا أو يتوقف، وما الإجراء البشري الذي يتولّى حينها؟
7. من يشغّل النظام بعد التسليم، ومن أين، وفي أي ساعات؟
8. هل تستطيعون ترتيب تواصل مع جهة مرجعية في قطاعنا، بموافقة تلك الجهة؟