تقنيًا: النموذج دُرّب على بيانات توقيف واعتقال تاريخية تعكس انحياز منظومة قضائية سابقة (أقليات اعتُقلت أكثر لأسباب اجتماعية لا جنائية). النموذج تعلّم الارتباط دون فهم السببية. الحل: (1) تدقيق بيانات التدريب وتوازنها. (2) اختبار العدالة بين الفئات (Fairness Audit) قبل النشر. (3) مراجعة بشرية إلزامية لكل قرار مؤثر على حقوق الإنسان.

ليست موافقة حقيقية بالمعنى الأخلاقي رغم كونها ‘قانونية’. المشكلة: المستخدم العادي لا يقرأ السياسة ولا يفهم تداعياتها — وهذا استغلال لعدم التوازن المعرفي. الموافقة الحقيقية تتطلب: إفصاحًا واضحًا بلغة بسيطة، وعدم إجبار المستخدم على التنازل عن خصوصيته مقابل الخدمة (take it or leave it).

في التطبيقات منخفضة المخاطر (توصيات أفلام) قد يُقبل. تُصبح الشفافية واجبة عند: (1) التأثير على حقوق الأفراد (قرض، توظيف، حكم قضائي). (2) السلامة العامة (سيارات ذاتية، أجهزة طبية). (3) تمويل حكومي. مبدأ: كلما زاد الأثر على حياة البشر، زاد الحق في معرفة كيف اتُّخذ القرار.

لا إجابة واحدة قاطعة حتى الآن — هذا من أصعب أسئلة حوكمة AI. المنطقي: (1) الشركة المصنّعة تتحمل المسؤولية الرئيسية (تحكم في التصميم والاختبار). (2) إذا أساء المالك الاستخدام (تجاوز قيودًا صريحة) يشاركها المسؤولية. (3) مطوّر الخوارزمية إذا كان الخطأ في كوده. تنمو الحاجة لإطار قانوني يُحدد مسؤوليات كل طرف مسبقًا.

(1) التأثير على الانتخابات: نشر فيديو مزيف قبيل التصويت بوقت لا يتيح الرد والتفنيد. (2) تدمير سمعة الأفراد: اتهامات كاذبة موثقة ظاهريًا. (3) تآكل الثقة العامة: حتى المقاطع الحقيقية تُشكَّك فيها (‘يمكن أن يكون Deepfake’) — وهذا وحده يهدد الصحافة والمساءلة.

مثال تطبيقي: (1) البيانات تُخزَّن على جهاز المستخدم فقط لا على سيرفر مركزي. (2) إذا احتيج لمشاركتها بالطبيب، تُرسل مشفرة ولا يُخزّنها الخادم. (3) لا يُسأل المستخدم عن بيانات غير ضرورية (العنوان، الهوية الوطنية). (4) للمستخدم حق حذف كل بياناته بنقرة واحدة.

الصندوق الأسود: يُعطي نتيجة دقيقة دون إمكانية شرح المسار. XAI: يُوضح لماذا اتخذ القرار (هذه العوامل الثلاثة أثّرت بنسبة X%). ضروري: قرارات طبية (لماذا اشتُبه في الورم؟)، قرارات قضائية. مقبول الاستغناء عنه: توصيات ترفيه — لا يضر عدم معرفة لماذا اقترح Netflix هذا الفيلم.

التدقيق الداخلي: الشركة تُدقق على نفسها — قد يكون دقيقًا تقنيًا لكن يفتقر للحيادية، وله حافز لإخفاء المشكلات. التدقيق المستقل: جهة خارجية محايدة تفحص النظام. أكثر مصداقية لعدم وجود تضارب مصالح، وهو ما تتجه إليه الأنظمة التشريعية المتقدمة (قانون AI الأوروبي يُلزم بتدقيق مستقل للأنظمة عالية المخاطر).

الأقل عرضة: (1) المهن التي تتطلب تعاطفًا وذكاءً اجتماعيًا (المعالجون النفسيون، الممرضون). (2) المهارات الإبداعية والتفكير الاستراتيجي غير الروتيني (المعماريون، المحامون في القضايا المعقدة). (3) العمل اليدوي غير المتكرر في بيئات متغيرة (السباكون، كهربائيو البناء). السمة المشتركة: تتطلب حكمًا بشريًا، تكيّفًا مع اللامتوقع، أو لمسةً إنسانية.

تأثير التوافق: خوارزميات التوصية تُقدم للمستخدم محتوى يتوافق مع آرائه السابقة لزيادة وقت المشاهدة، مما يُحاصره في فقاعة معلوماتية تُعزز قناعاته وتُخفي وجهات النظر الأخرى. الارتباط الأخلاقي: (1) يُشوه فهمه للواقع. (2) يُعمّق الاستقطاب المجتمعي. (3) الخوارزمية تُحسّن لمعيار المشاركة لا لمعيار مصلحة المستخدم.

المبادئ: العدالة، الشفافية، المساءلة، السلامة، الخصوصية، الشمول. تطبيق على القروض: العدالة — اختبار النموذج للتأكد من عدم تمييزه ضد جنس أو عرق أو منطقة جغرافية بمؤشر الأداء المتساوي. الشفافية — إعطاء العميل المرفوض تفسيرًا مبسطًا (‘رُفض طلبك لأن نسبة الديون لدخلك تجاوزت X%’) لا مجرد ‘رُفض’.

المخاوف: (1) القضاء على الخصوصية الشخصية بصورة شاملة — الدولة تُشاهد كل شيء. (2) تعريف ‘السلوك المرغوب’ يُحدده من بالسلطة — قد يُستخدم لقمع المعارضة السياسية أو النشاط الحقوقي. (3) التسلسل الهرمي الإلكتروني يُنشئ مواطنين من درجات. (4) الأخطاء والانحياز في النظام تُعاقب أبرياء بدون حق للطعن الفعلي.