دعوات لرفع شفافية الذكاء الاصطناعي في كندا عبر نشر “البرومبتات” التي توجه مخرجات الأدوات الحكومية
Latest news on WhatsApp أجدد الأخبار على واتسابيتزايد الجدل في كندا حول مستوى الشفافية المطلوب عند استخدام الجهات الحكومية أدوات الذكاء الاصطناعي التوليدي في الخدمات العامة، مع دعوات لأن تتجاوز الإفصاحات العامة عن “استخدام الذكاء الاصطناعي” إلى نشر “البرومبتات/التعليمات” التي تقود المخرجات، باعتبارها جزءا أساسيا من المساءلة وبناء الثقة.
وتأتي هذه الدعوات بالتوازي مع توسع الإرشادات الفدرالية الخاصة بالاستخدام المسؤول للذكاء الاصطناعي، إذ نشر مجلس الخزانة (Treasury Board) “دليل استخدام الذكاء الاصطناعي التوليدي” للمؤسسات الفدرالية، متضمنا مبادئ للاستخدام المسؤول وممارسات للحد من المخاطر عند النشر أو الاستخدام في مهام العمل.
لماذا “البرومبتات” أصبحت محور النقاش؟
يرى مؤيدو الإفصاح أن “البرومبتات” ليست تفاصيل تقنية ثانوية، بل هي مجموعة قواعد تشغيلية تحدد:
-
ما الذي يسمح النظام بإجابته وما الذي يرفضه.
-
نبرة الإرشاد (حذر/حاسم) وحدود “عدم اليقين”.
-
سياسة الإحالة إلى مصادر رسمية أو عدمها.
-
كيف يتعامل مع حالات حساسة أو عالية الخطورة (الصحة، السلامة، الهجرة، الإعانات).
وهذا يتقاطع مع فكرة “التوثيق والمساءلة” التي تشدد عليها أطر حكومية ورقابية في كندا، منها توجهات الشفافية “كقاعدة افتراضية” التي دعت إليها جهات تنظيم الوصول إلى المعلومات والخصوصية في قرار/توصية مشتركة حول تطوير معيار جديد للشفافية في الخدمات الحكومية.
ما الذي تقوله الأطر الفدرالية القائمة بالفعل؟
-
استراتيجية الذكاء الاصطناعي للفدرالية 2025–2027
الاستراتيجية الحكومية تضع “حوكمة مسؤولة وشفافة” كجزء من تبني الذكاء الاصطناعي داخل القطاع العام، وتشير إلى توقعات على المؤسسات الفدرالية في شأن الشفافية والإشراف. -
توجيهات اتخاذ القرار المؤتمت (Directive on Automated Decision-Making) وأداة تقييم الأثر الخوارزمي (AIA)
منظومة “AIA” تُعرّف نفسها كأداة إلزامية لتقييم مخاطر “أنظمة القرار المؤتمت” ضمن توجيهات مجلس الخزانة، وتربط بين مستوى المخاطر واشتراطات التخفيف والحوكمة والشفافية. -
الخصوصية وحماية البيانات
مكتب مفوض الخصوصية في كندا نشر مبادئ للذكاء الاصطناعي التوليدي تركز على احترام قوانين الخصوصية، وتجنب ممارسات قد تعيد تعريف بيانات منزوعة الهوية، ورصد الانحياز أو الاستخدام غير الملائم. -
اعتبارات الأمن السيبراني
المركز الكندي للأمن السيبراني أصدر إرشادا عن الذكاء الاصطناعي التوليدي يتناول المخاطر المحتملة وإجراءات التخفيف، وهو ما يستند إليه من يعارضون نشر “تعليمات تشغيلية” بشكل كامل دون تنقيح.
ماذا يعني “نشر البرومبتات” عمليا من دون الإضرار بالأمن؟
وفق مقترحات متداولة في نقاشات الحوكمة، يمكن للحكومة تبني نموذج “شفافية محسوبة” يقوم على:
-
نشر البرومبتات الأساسية (Policy/System prompts) التي تحدد القواعد العامة للسلوك، مع حجب التفاصيل التي قد تُستخدم لاختراق النظام.
-
نشر نسخ مُرقمة (Versioning) وتواريخ التغيير: ماذا تغيّر ولماذا.
-
نشر مجموعة اختبارات عامة (Test cases) غير شخصية توضّح كيف يتعامل النظام مع الأسئلة الحساسة، وكيف يحد من “الهلوسة”.
-
الإعلان عن سياسة المصادر: هل يُطلب من النظام الإحالة إلى مواقع حكومية/لوائح/نصوص رسمية؟
وتستند هذه المقاربة إلى مبدأ تبنته جهات تنظيمية كندية: أن بناء الثقة في الخدمات العامة يحتاج إلى معيار جديد يجعل الشفافية “الافتراضي” لا الاستثناء.
أين قد تبدأ الحكومة؟
يشير مراقبون إلى أن البداية الأكثر واقعية هي الخدمات ذات “التأثير العالي” على حياة الناس (الهجرة، الإعانات، الصحة، التوظيف)، عبر نشر ما يلزم لفهم “قواعد تشغيل الأداة” دون كشف ما يعرّضها للاستغلال، وبالتوازي مع تطبيق مبادئ الاستخدام المسؤول التي وثقتها الحكومة في أدلتها واستراتيجيتها.
قد يعجبك أيضًا
Authors
-
Tahani Elghazaly5274 المقالات
