الاتحاد الأوروبي: يجب أن الاتحاد الأوروبي حظر التكنولوجيات الخطرة العاملة بالذكاء الاصطناعي

كتب – أحمد سلامة

قالت منظمة العفو الدولية، الأربعاء، إنه ينبغي على الاتحاد الأوروبي حظر التكنولوجيات الخطرة التي تعمل بالذكاء الاصطناعي في قانون الذكاء الاصطناعي، وذلك في الوقت الذي تهدف فيه الكتلة إلى إنجاز أول كتاب قواعد شامل في العالم يتعلق بالذكاء الاصطناعي هذا الخريف.

لقد استخدمت دول عديدة في شتى أرجاء العالم أنظمة ذكاء اصطناعي غير خاضعة للتنظيم لتقييم طلبات الرعاية الاجتماعية، أو مراقبة الأماكن العامة، أو تحديد احتمال إقدام شخص ما على ارتكاب جريمة. وغالبًا ما تُصنَّف هذه التكنولوجيات ’كعلاجات تقنية‘ لقضايا بنيوية مثل الفقر، والتحيز القائم على النوع الاجتماعي، والتمييز. وهي تستخدم معطيات حساسة وبكميات هائلةفي كثير من الأحيان، وتُلقَّم هذه المعطيات في أنظمة مؤتمتة لتحديد ما إذا كان الشخص يجب أن يحصل أم لا على السكن، والمزايا، والرعاية الصحية، والتعليم – أو حتى ما إذا كان يجب أن يُتهم بارتكاب جريمة.

ومع ذلك فبدلًا من أن تحل أنظمة الذكاء الاصطناعي المشاكل الاجتماعية، قد ضخّم العديد منها بشكل صارخ العنصرية وأوجه عدم المساواة، وأدام الأذى الذي يلحق بحقوق الإنسان، والتمييز.

وقال مهير هاكوبيان، مستشار الدعوة إلى المناصرة بشأن لوائح الذكاء الاصطناعي في منظمة العفو الدولية إن “هذه الأنظمة لا تُستخدم لتحسين إمكانية حصول الناس على الرعاية الاجتماعية، بل لخفض التكاليف. وعندما يكون لديكم أصلًا عنصرية وتمييز ممنهجان، فإن هذه التكنولوجيات تُضخّم الأذى الذي يلحق بالمجتمعات المهمشة على نطاق أكبر بكثير وبصورة أسرع بكثير”.

“وبدلًا من التركيز بصورة غير متناسبة ومبالغ فيها على ’التهديدات الوجودية‘ التي يشكلها الذكاء الاصطناعي، يتعين على المشرّعين في الاتحاد الأوروبي صياغة قوانين تعالج المشكلات القائمة، مثل حقيقة أن هذه التكنولوجيات تُستخدم لاتخاذ قرارات تمييزية بشكل صارخ تُقوّض إمكانية التمتّع بحقوق الإنسان الأساسية”.

في عام 2021، وثّقت منظمة العفو الدولية كيف أن نظامًا للذكاء الاصطناعي تستخدمه سلطات الضرائب الهولندية قد نمّط عنصريًا مُتلقّيْ مزايا رعاية الأطفال. وكان من المفترض أن تتحقق الأداة مما إذا كانت طلبات المزايا صادقة أو احتيالية، لكن النظام عاقب على نحو خاطئ آلاف الآباء والأمهات من ذوي الدخل المنخفض والخلفيات المهاجرة، فأغرقهم في الديون الباهظة والفقر.