تتجه المنظمات بشكل متزايد إلى استخدام الذكاء الاصطناعي لصياغة السياسات، وتلخيص الشكاوى، وتحليل الثقافة المؤسسية، ودعم عمليات اتخاذ القرار الداخلية. وبالنسبة إلى المنظمات العاملة في مجالات الحماية، والتعددية والشمول، والتطوير التنظيمي، والبحث والتقييم، أو تطوير السياسات، يطرح ذلك سؤالًا ملحًا: ماذا يحدث عندما تدخل أدوات مصممة للسرعة إلى عمل يتطلب الرعاية، والحكم المهني، والسرية، والمساءلة؟
لا تتمثل المسألة في ما إذا كان الذكاء الاصطناعي قادرًا على دعم العمل التنظيمي. ففي بعض السياقات، يمكن أن يساعد على تنظيم المعلومات، وتحديد الفجوات، أو جعل المواد المعقدة أسهل في المراجعة. يبدأ الخطر عندما يُستخدم الذكاء الاصطناعي من دون حوكمة: عندما تُدخَل معلومات حساسة متعلقة بالحماية في أنظمة لا تخضع لضوابط واضحة لحماية البيانات، أو عندما تُعامل حقوق الخصوصية باعتبارها مسألة ثانوية، أو عندما يُخلَط بين المخرجات المصاغة بسلاسة وبين الحكم الأخلاقي.
ليست الحماية مجالًا سياساتيًا فحسب. إنها ممارسة مسؤولية.
لماذا يبدو الذكاء الاصطناعي مغريًا؟
تعمل كثير من المنظمات تحت ضغط مستمر. إذ يُتوقع من الفرق إدارة ملفات الحماية، والموارد البشرية، والتعددية والشمول، والتطوير التنظيمي، والتقييم، وإعداد التقارير، والامتثال، ضمن وقت وقدرات محدودة. وقد يبدو الذكاء الاصطناعي وكأنه يقدم نوعًا من التخفيف: طريقة أسرع لصياغة سياسة، أو تلخيص شكوى، أو تحليل ملاحظات الموظفين والموظفات، أو إعادة كتابة بريد إلكتروني صعب، أو تحديد أنماط في البيانات التنظيمية.
قد تكون بعض هذه الاستخدامات مفيدة. يمكن للذكاء الاصطناعي أن يدعم التنظيم، والتحضير، والتأمل. كما يمكنه أن يساعد على ترتيب الإرشادات المتاحة علنًا، أو تطوير مواد تدريبية، أو تحديد أسئلة لمراجعة السياسات.
لكن الحماية والتطوير التنظيمي لا يتعلقان بإنتاج النصوص فقط. إنهما يتعلقان بفهم الضرر، وديناميات القوى، والمخاطر، والمسؤولية، والسياق. ولا يمكن أتمتة هذا العمل من دون عواقب.
معلومات الحماية مختلفة
غالبًا ما يتضمن عمل الحماية معلومات حساسة، وأحيانًا صادمة: إفصاحات عن ضرر، أو ادعاءات بوقوع إساءة، أو مخاوف تتعلق بالإكراه، أو التحرش، أو التنمر، أو الاستغلال، أو الإهمال، أو التمييز، أو سوء السلوك. وقد يتضمن أشخاصًا قد تتأثر سلامتهم، أو وظائفهم، أو سمعتهم، أو عافيتهم، أو وضعهم المتعلق بالهجرة، أو وصولهم إلى الخدمات، بطريقة التعامل مع المعلومات.
لا يمكن التعامل مع هذه المعلومات باعتبارها محتوى عاديًا.
عندما تُدخَل مخاوف الحماية في أنظمة الذكاء الاصطناعي من دون ضمانات واضحة، قد تفقد المنظمات السيطرة على مسار هذه المعلومات، ومن يمكنه الوصول إليها، وكيف تُخزَّن، وما إذا كان يمكن استخدامها خارج الغرض الأصلي. وحتى عندما تُزال الأسماء، قد يظل الأشخاص قابلين للتعرّف عليهم من خلال السياق، خاصة في المنظمات الصغيرة، أو المجتمعات المحلية، أو القطاعات المتخصصة، أو البيئات الحساسة سياسيًا.
لا يقتصر الخطر على الجانب التقني. إنه خطر أخلاقي وعلائقي أيضًا. يفصح الناس عن المخاوف على أساس افتراض أن المعلومات ستُعامل برعاية. وإذا اعتقدوا أن المعلومات الحساسة تُعالَج بصورة عابرة أو تُشارَك مع أنظمة لا يفهمونها، تضعف الثقة. وقد يتراجع الإبلاغ. ويصبح الضرر أكثر صعوبة في الرؤية.
الحوكمة هي الخط الفاصل
ليس السؤال المركزي هو ما إذا كان ينبغي للمنظمات استخدام الذكاء الاصطناعي أصلًا. السؤال الأدق هو: أين يجب أن يبقى الحكم المهني، وما الذي لا ينبغي تفويضه أبدًا؟
لا ينبغي استخدام الذكاء الاصطناعي بصورة عابرة لمعالجة حالات حماية قائمة، أو تقييم المصداقية، أو تحديد مستوى الخطر، أو تقرير ما إذا كان الضرر قد وقع، أو التوصية بإجراءات تأديبية، أو استبدال الحكم المهني. فهذه ليست مهامًا إدارية. إنها ممارسات مسؤولية.
من دون حوكمة، يصبح استخدام الذكاء الاصطناعي مجزأً وغير مرئي. يستخدم أحد الموظفين أداة مجانية لإعادة صياغة رد على شكوى. وتُحمّل موظفة أخرى ملاحظات مقابلات من مراجعة ثقافية. ويستخدم استشاري الذكاء الاصطناعي لتحليل بيانات تنظيمية حساسة. وتسأل مديرة نظامًا ما إذا كان سلوك معين يرقى إلى التنمر. قد يبدو كل فعل من هذه الأفعال صغيرًا. لكنها معًا تخلق تعرضًا تنظيميًا خطيرًا.
هكذا تتطور المخاطر غالبًا: ليس من خلال إخفاق درامي واحد، بل عبر قرارات غير رسمية كثيرة لم تُسمَّ، أو تُراجَع، أو تُحكَم كما ينبغي.
الخصوصية وحماية البيانات من قضايا الحماية
يجب على المنظمات التي تعمل مع معلومات الحماية أن تنظر في الخصوصية، والسرية، والموافقة، وتقليل البيانات، وضبط الوصول، والاحتفاظ بالمعلومات، والمعالجة القانونية، وتدفقات البيانات العابرة للحدود قبل استخدام الذكاء الاصطناعي. هذه ليست تفاصيل بيروقراطية. إنها جزء من البنية الأخلاقية التي تحمي الناس من التعرض لمزيد من الضرر.
تتطلب الموافقة عناية خاصة. فقد يوافق شخص ما على إبلاغ مسؤول أو مسؤولة الحماية عن مخاوفه. لكن ذلك لا يعني تلقائيًا موافقته على إدخال هذه المخاوف في أداة ذكاء اصطناعي، أو معالجتها عبر نظام تابع لطرف ثالث، أو استخدامها لأغراض تتجاوز السياق الأصلي.
ويكتسب تقليل البيانات أهمية خاصة أيضًا. فلا ينبغي أن تتحول الشكاوى الكاملة، أو الإفصاحات الخام، أو إفادات الشهود والشاهدات، أو ملاحظات التحقيق، أو تواريخ الحالات، أو بيانات الموظفين والموظفات القابلة للتعريف إلى مادة متاحة للتجريب بدافع السهولة. تحتاج المنظمات إلى قواعد واضحة بشأن ما يمكن وما لا يمكن إدخاله في أدوات الذكاء الاصطناعي، وما يجب إخفاء هويته، وما هي الأنظمة المعتمدة، ومن يملك صلاحية استخدامها.
اللغة المحايدة قد تمحو الضرر
يتمثل أحد أخطر مخاطر الذكاء الاصطناعي في الحماية والتطوير التنظيمي في إساءة التأطير. غالبًا ما ينتج الذكاء الاصطناعي لغة متوازنة، ومصقولة، وتبدو محايدة. وقد يكون ذلك مفيدًا في بعض السياقات. لكنه قد يكون خطيرًا في عمل الحماية.
قد تتحول شكوى تتعلق بالترهيب إلى «مشكلة تواصل». وقد يتحول إفصاح عن تحرش إلى «خلاف في مكان العمل». وقد تُخفَّف مخاوف تتعلق بالتمييز لتصبح «تصورات مختلفة حول الشمول». وقد يتحول تحذير من إساءة استخدام القوة إلى «حاجة إلى توقعات أوضح».
تشكّل اللغة الاستجابة. فإذا أُعيدت تسمية الضرر بوصفه خلافًا، قد تتجه المنظمة نحو الوساطة عندما تكون الحماية أو المساءلة مطلوبة. وإذا خُفِّف سوء السلوك ليصبح سوء فهم، قد يُطلَب من الشخص المتضرر أن يتقاسم المسؤولية عن وضع لم يخلقه. وإذا عومل التمييز بوصفه مجرد تصور، تختفي القوى الهيكلية من المشهد.
يمكن للذكاء الاصطناعي أن ينظم اللغة. لكنه لا يستطيع حمل المسؤولية المؤسسية.
يحمل التطوير التنظيمي أيضًا مخاطر متعلقة بالحماية
غالبًا ما تُعامل الحماية باعتبارها مجالًا سياساتيًا منفصلًا. لكنها، في الممارسة، مرتبطة بعمق بالثقافة التنظيمية، والقيادة، والموارد البشرية، والإشراف، وأنظمة الشكاوى، والتعددية والشمول، والحوكمة
قد تكون المنظمة التي تستخدم الذكاء الاصطناعي لتحليل استبيانات الموظفين والموظفات، أو مقابلات الخروج، أو الشكاوى، أو بيانات التعددية، تعمل مع معلومات ذات صلة بالحماية حتى لو لم تُسمِّها كذلك. فكثيرًا ما تظهر أنماط التنمر، أو التمييز، أو الانتقام، أو الإقصاء، أو إساءة استخدام القوى من خلال عمليات التطوير التنظيمي قبل أن تُسمّى رسميًا.
يكتسب ذلك أهمية خاصة في عمل التطوير التنظيمي النسوي، حيث تُعد القوى، والرعاية، والصوت، والمساءلة عناصر مركزية. يمكن لاستخدام الذكاء الاصطناعي من دون حوكمة أن يعيد إنتاج الديناميات ذاتها التي يسعى هذا العمل إلى تحديها: الاستخراج من دون موافقة، والتفسير من دون سياق، واتخاذ القرار من دون مساءلة.
ما الذي يتطلبه الاستخدام المسؤول؟
يبدأ الاستخدام المسؤول للذكاء الاصطناعي بوضع حدود. تحتاج المنظمات إلى أن تقرر مسبقًا أي الاستخدامات محظورة، وأيها يتطلب موافقة، وأيها قد يكون مقبولًا ضمن شروط مضبوطة. ولا ينبغي أن تُترك هذه القرارات للحكم الفردي أو الثقة التقنية.
قد يشمل النهج المسؤول إرشادات تنظيمية واضحة حول استخدام الذكاء الاصطناعي في الحماية، والموارد البشرية، والشكاوى، والبحث، والتقييم، والتطوير التنظيمي؛ وأدوات معتمدة خضعت لمراجعة حماية البيانات؛ وقواعد صارمة تمنع إدخال إفصاحات الحماية القابلة للتعريف في الأنظمة المفتوحة؛ ومعايير لإخفاء الهوية تراعي قابلية التعريف السياقية؛ ومراجعة بشرية لكل المخرجات المدعومة بالذكاء الاصطناعي؛ وتوثيقًا للحالات التي يُستخدم فيها الذكاء الاصطناعي؛ وحظرًا صريحًا لاستخدام الذكاء الاصطناعي في تحديد المصداقية، أو الخطر، أو المسؤولية عن الفعل، أو المخرجات التأديبية.
ويتطلب ذلك تدريبًا أيضًا. يحتاج الموظفون والموظفات، والمديرون والمديرات، والاستشاريون والاستشاريات، ومسؤولو ومسؤولات الحماية، إلى فهم ليس فقط كيفية عمل أدوات الذكاء الاصطناعي، بل أيضًا أين يصبح استخدامها غير ملائم، أو غير آمن، أو غير قانوني.
لن تكون المنظمات الأكثر مسؤولية في استخدام الذكاء الاصطناعي بالضرورة هي الأسرع في تبنيه. بل ستكون تلك القادرة على التمييز بين المساعدة والتفويض.
كيف يمكن لمركز التنمية والتعاون عبر الأوطان دعم المنظمات؟
يشمل ذلك مساعدة المنظمات على توضيح تقاطعات الذكاء الاصطناعي مع واجبات الحماية، وحقوق الخصوصية، ومسؤوليات حماية البيانات، وأنظمة الشكاوى، وعمليات الموارد البشرية، والمساءلة التنظيمية. وقد يتضمن ذلك تطوير سياسات الحماية أو مراجعتها، وإنشاء أطر لاستخدام الذكاء الاصطناعي، وتعزيز مسارات الإبلاغ، وتدريب الموظفين والموظفات على الممارسة المسؤولة، أو دعم القادة والقياديات في فهم آثار الحوكمة المرتبطة بالعمل المدعوم بالذكاء الاصطناعي.
لا يتمثل الهدف في رفض الذكاء الاصطناعي. بل يتمثل في ضمان ألا يدخل الذكاء الاصطناعي إلى الحياة التنظيمية عبر منطق السهولة وحده.
حين يكون الضرر، والهشاشة، والقوى حاضرة، لا تكون السرعة أبدًا سببًا كافيًا لتجاوز المسؤولية. تتطلب الحماية حكمًا مهنيًا، وسرية، ومساءلة، ورعاية في كيفية تلقي المعلومات، وتفسيرها، وحمايتها، والتصرف بناءً عليها.
قد يكون للذكاء الاصطناعي مكان في العمل التنظيمي. لكنه يجب أن يدخل عبر الحوكمة، لا عبر الارتجال.
تواصلوا معنا
لديكم أسئلة؟ أفكار؟ رغبة في التعاون؟ نحن هنا ونحب أن نسمع منكم، فلا تترددوا في مدّ جسور التواصل!