تحدد إدارة حكومية أولويات الطلبات عبر نظام مؤتمت. وتحدد شركة المحتوى الذي ستعرضه، أو المعاملات التي ستحظرها، أو المستخدمين الذين ستخضعهم لإجراءات تدقيق إضافية. وفي كلتا الحالتين، تتدخل التكنولوجيا في قرارات تؤثر في أشخاص لا يعرفون قواعدها ولم يشاركوا في تصميمها.
يحاول تقرير الشفافية التكنولوجية تقليص تلك الفجوة؛ إذ يوضح الأداة المستخدمة، والهدف منها، والجهة المسؤولة عنها، والأدلة المتوفرة بشأن نتائجها. ومع ذلك، فإن نشر وثيقة لا يجعل المنظمة شفافة بحد ذاته؛ فقيمة التقرير تعتمد على جودة المعلومات، وإمكانية التحقق منها، والآليات المتاحة للاعتراض على القرار.
فكرة أساسية: لا تُقاس الشفافية المجدية بعدد الصفحات المنشورة، بل بالقدرة التي تتيحها لفهم استخدام التكنولوجيا، والتحقق منه، والمساءلة بشأنه.
ما هو تقرير الشفافية التكنولوجية
لا يوجد تعريف قانوني موحد وشامل. ومن الناحية العملية، هو وثيقة عامة تصف فيها المنظمة تقنيةً ما والقرارات المؤسسية المحيطة بها: الغاية، والنطاق، والمسؤولون، والبيانات، والأداء، والمخاطر، والضوابط، والتعديلات، والحدود.
قد يتعلق التقرير بالذكاء الاصطناعي، لكنه لا يقتصر عليه؛ إذ يمكن أن يشمل أيضاً المنصات الرقمية، أو أنظمة تحديد الهوية، أو أدوات المراقبة، أو الخدمات السحابية، أو عمليات الإشراف على المحتوى، أو البنى التحتية التي تدير معلومات حساسة.
يقدم المعيار البريطاني للشفافية الخوارزمية نموذجاً تشغيلياً؛ إذ يطلب توصيف الغرض من الأداة، ونطاق استخدامها، والمسؤولين عنها، والتدخل البشري، والبيانات، والأداء، والتدابير المتبعة لمواجهة المخاطر. ويختص هذا المعيار بالقطاع العام البريطاني وبالأدوات الخوارزمية؛ فهو يصلح مرجعاً استرشادياً، لا قالباً إلزامياً لأي منظمة أو دولة.
ما المشكلة التي يسعى لحلها
غالباً ما يعرف من يطور التكنولوجيا أو يشتريها أو يشغلها عنها أكثر بكثير مما يعرفه من يتأثر بنتائجها. ويؤدي عدم تناظر المعلومات هذا إلى صعوبة اكتشاف الأخطاء، ومناقشة الأولويات، وتحديد المسؤوليات. كما يسمح للقرار المؤسسي بأن يبدو حتمياً لمجرد تقديمه في صورة مخرج تقني بحت.
يمكن للتقرير أن يبرز قرارات كانت لتبقى مبعثرة لولا ذلك: من حدد الهدف، وما البيانات التي جرى العمل بها، وما الهامش المتاح للفرد للتدخل، وما الذي يحدث عند تعطل النظام. ويكتسب هذا الأمر أهمية سواء في مواجهة السلطة العامة أو أمام المنظمات الخاصة القادرة على التأثير في الفرص أو الوصول أو حرية التعبير.
من منظور ليبرالي، تسهم المعلومات القابلة للتحقق في الحد من الممارسة التعسفية للسلطة. ولا يتطلب ذلك افتراض أن كل تقنية موضع شبهة؛ بل يقتضي، على نحو أكثر تواضعاً، أن يكون صاحب القرار قادراً على تقديم مبرراته وتحمل المسؤولية عن العواقب.
ما المعلومات التي ينبغي أن يتضمنها
يعتمد المحتوى المناسب على طبيعة الأداة، ومخاطرها، والجمهور الذي يتأثر بها. ومن باب الممارسة الجيدة، يمكن للتقرير أن يجيب عن الأسئلة الآتية:
- الغاية والنطاق: ما المشكلة التي تحاول حلها وما الاستخدامات المستبعدة؟
- المسؤولون: من طورها، واقتناها، واعتمدها، ويشغلها، ويشرف عليها؟
- آلية العمل الجوهرية: ما المدخلات التي تستخدمها وكيف تؤثر في القرار؟
- البيانات: ما مصدرها، وما أوجه القصور فيها، وكيف يجري تأمينها؟
- التدخل البشري: من يملك صلاحية مراجعة النتائج أو تصحيحها أو إلغائها؟
- الأداء والآثار: كيف تُقيَّم الأخطاء، والآثار السلبية، والفروق بين الفئات؟
- المخاطر والضوابط: ما الأضرار المحتملة المتوقعة وما الإجراءات التي تحد منها؟
- الفترة الزمنية والتغييرات: ما التواريخ التي تغطيها المعلومات وما التعديلات التي طرأت؟
- الحدود وأوجه القصور: ما الذي لا يزال مجهولاً، أو لم يُقَس، أو يتعذر نشره، ولماذا؟
تؤكد منظمة التعاون الاقتصادي والتنمية، في مبادئها الخاصة بالذكاء الاصطناعي، على ضرورة أن تكون المعلومات ذات دلالة وملائمة للسياق، وأن يتمكن الأشخاص المتأثرون من فهم النتائج السلبية والاعتراض عليها. ويمكن صياغة هذه العبرة بشكل أعم: إن وجود مستودع هائل من البيانات أو الشيفرات البرمجية لا يجدي نفعاً إذا لم يستطع القارئ ربطه بقرار ملموس.
فكرة أساسية: إتاحة الوصول لا تعادل الفهم؛ فالمعلومات بحاجة إلى سياق، ولغة واضحة، ورابط جلي بالقرارات التي تمس الأفراد.
مثال بسيط
لنتخيل جهة تستخدم نظاماً لترتيب أولويات الطلبات؛ لن يقتصر التقرير المفيد على إعلان استخدامها "ذكاءً اصطناعياً مسؤولاً"، بل سيوضح نوعية الطلبات التي تدخل النظام، والعوامل المؤثرة في تحديد الأولوية، والجهة التي وافقت على استخدامه، ودورية مراجعته، والأخطاء التي رُصدت بالفعل.
كما سيبين ما إذا كان بإمكان الموظف تعديل التوصية، وكيفية توثيق هذا التدخل، والسبل المتاحة للفرد لطلب المراجعة. وإذا حُجبت تفاصيل معينة لدواعي الخصوصية أو الأمان، فينبغي للوثيقة تحديد طبيعة هذا الحجب والضوابط البديلة المطبقة. ولتنظيم هذا التحليل، قد يكون من المفيد بناء نموذج للتهديدات الرقمية.
ما لا ينبغي الخلط بينه وبين التقرير
تؤدي مفاهيم متقاربة عدة وظائف مختلفة:
- التدقيق: التقرير يعرض ويوضح، بينما التدقيق يتحقق بناءً على معايير محددة، وإمكانية الوصول إلى الأدلة، واستقلالية كافية في الظروف المثالية؛ ولا يغني إقرار المنظمة الذاتي عن تلك المراجعة.
- الشفافية الخوارزمية: تركز تحديداً على الأنظمة الخوارزمية، في حين يمكن للشفافية التكنولوجية أن تشمل بالإضافة إلى ذلك التعاقدات، والبنية التحتية، والأمان، والبيانات، والحوكمة المؤسسية.
- قابلية التفسير: تسعى إلى توضيح كيفية عمل النظام أو الكيفية التي أفضى بها إلى نتيجة معينة. وقد تشكل جزءاً من التقرير، لكنها لا تحدد بالضرورة من اتخذ قرار استخدامه أو من يتحمل المسؤولية عن آثاره.
- الشيفرات البرمجية أو البيانات المفتوحة: تتيح فحوصات قيّمة، غير أن نشرها بمعزل عن السياق قد يكون غير مفهوم أو منتهكاً للحقوق. ويجب أن يتعايش الانفتاح مع الخصوصية والسيطرة المشروعة على البيانات الشخصية؛ وتتضح هذه الإشكالية بجلاء عند مناقشة ملكية البيانات الشخصية.
- الامتثال: إن الإفصاح عن الممارسات لا يثبت بحد ذاته أنها قانونية أو عادلة أو فعالة؛ إذ يعتمد ذلك على القواعد المعمول بها والأدلة القائمة.
كيف نميز التقرير الموثوق
لا يحتاج القارئ إلى أن يكون مهندساً لتقييم المؤشرات الأساسية للجودة. أولاً، يجدر البحث عن الدقة: أسماء الأنظمة، والمسؤولين، والفترات الزمنية، ونطاقات الاستخدام، بدلاً من الوعود المجردة. ثانياً، قابلية التتبع: مصادر البيانات، ومناهج التقييم، وسجل التغييرات، والترابط القائم بين المخاطر والضوابط.
كما تهم أيضاً قابلية المقارنة بين الفترات الزمنية، ووضوح اللغة وسهولة الوصول إليها، ووجود تاريخ تحديث واضح. فالتقرير الرصين يعترف بحالات عدم اليقين والنتائج السلبية والحدود القائمة؛ ولا يقتصر على انتقاء المؤشرات الإيجابية فحسب.
إن إمكانية التحقق مما ورد في التقرير ومقارنته بالواقع تعزز مصداقيته، وقد يتأتى ذلك من البيانات القابلة لإعادة الاستخدام، أو التوثيق المنهجي، أو الإشراف المستقل، أو عمليات التدقيق. ويؤكد إطار NIST لإدارة مخاطر الذكاء الاصطناعي على تحديد الأدوار وتوثيق العمليات ومراجعة المخاطر، لكنه يحذر في الوقت ذاته من التوترات القائمة بين الشفافية والخصوصية والأمان وقيم أخرى؛ فالإفصاح الأوسع لا يكون دائماً هو الأفضل إذا كان يعرض بيانات شخصية للخطر أو يسهل شن هجمات.
تحذير: الحجب دون تفسير يعوق التدقيق؛ بينما الكشف دون ضوابط قد يلحق أضراراً أخرى. وأي حجب مشروع للمعلومات يجب أن يكون محدداً، ومبرراً، ومصحوباً بضوابط بديلة.
الشفافية ليست مساءلة كاملة
حتى التقرير الممتاز تظل له حدوده؛ فقد ينطوي على أخطاء، أو يغفل مسائل محرجة، أو يصوغ قرارات مثيرة للجدل بلغة مطمئنة. كما أنه لا يضمن أن يكون النظام دقيقاً أو آمناً أو نزيهاً أو متوافقاً مع القانون، ولا يقدم بمفرده جبر ضرر لمن لحق به أذى.
تتطلب المساءلة ما هو أكثر من ذلك: قواعد واضحة، ومسؤولين محددين، وحفظاً للأدلة، وإشرافاً ذا صلاحيات فعلية، وسبلاً للطعن في القرارات. وعند الاقتضاء، تتطلب أيضاً عمليات تدقيق وترتيب تبعات على عدم الامتثال.
ولهذا، فإن السؤال الجوهري في النهاية ليس ما إذا كانت المنظمة "تنشر شفافية"، بل ما إذا كانت المعلومات تتيح إخضاع سلطتها التكنولوجية للفحص والمساءلة. يفتح التقرير الجيد هذا الباب؛ أما الثقة، فلا يمكن أن تنشأ إلا بعد مضاهاة ما أُعلن عنه بالواقع العملي والتأكد من وجود قيود وضوابط فعالة.
مشاركة