OASI ، محرك البحث الأول لإيجاد الخوارزميات التي تستخدمها الحكومات والشركات على المواطنين

• قام مرصد الخوارزميات ذات التأثير الاجتماعي ، OASI ، الذي أنشأته مؤسسة Eticas ، بجمع المعلومات من عشرات الخوارزميات التي تستخدمها الإدارات العامة والشركات حول العالم لمعرفة المزيد عن تأثيرها الاجتماعي.
  
• والهدف من ذلك هو منح الجمهور حق الوصول إلى المعلومات حول كل من الحكومات وخوارزميات الشركة ، ومعرفة من يستخدمها ، ومن يطورها ، وما هي التهديدات التي تمثلها وما إذا كانت قد خضعت للتدقيق ، من بين خصائص أخرى.

• عادة ما يحدث تحيز الخوارزمية والتمييز على أساس العمر أو الجنس أو العرق أو الإعاقة ، من بين قيم أخرى ، ولكن بسبب الافتقار العام للشفافية ، لا يزال من غير الممكن معرفة جميع عواقبها على المجموعات المتضررة.

قامت مؤسسة Eticas ، وهي منظمة غير ربحية تروج للاستخدام المسؤول للخوارزميات وأنظمة الذكاء الاصطناعي (AI) ، بإنشاء مرصد الخوارزميات ذات التأثير الاجتماعي (OASI). يقدم هذا المرصد محرك بحث لمعرفة المزيد عن الأدوات التي تتخذ قرارات آلية مهمة على المواطنين والمستهلكين والمستخدمين حول العالم.

في الوقت الحالي ، تقوم كل من الشركات والإدارات العامة بأتمتة القرارات بفضل الخوارزميات. لكن، تطويره وتشغيله لا يتبع ضوابط الجودة الخارجية ، كما أنه لا يتسم بالشفافية كما ينبغي ، مما يترك السكان بدون حماية. باستخدام محرك البحث هذا ، يمكن لأي شخص معرفة المزيد عن هذه الخوارزميات: من قام بتطويرها ، ومن يستخدمها ، ونطاق تطبيقها ، وما إذا كان قد تم تدقيقها ، أو أهدافها أو تأثيرها الاجتماعي والتهديدات التي تمثلها.

في لحظةتجمع OASI 57 خوارزمية ، لكنها تتوقع أن تصل إلى 100 في الأشهر التالية. من بينها ، تم تطبيق 24 بالفعل في الولايات المتحدة من قبل الحكومة وشركات التكنولوجيا الكبرى. على سبيل المثال ، ShotSpotter ، أداة خوارزمية نشرتها إدارة شرطة أوكلاند لمحاربة وتقليل عنف السلاح من خلال ميكروفونات مراقبة الصوت ، وخوارزمية للتنبؤ بإساءة معاملة الأطفال وإهمالهم التي تستخدمها مقاطعة أليغيني ، بنسلفانيا. مثال آخر من شركة هو Rekognition ، نظام التعرف على الوجه في أمازون ، والذي تم تدقيقه من قبل MIT Media Lab في أوائل عام 2019 ، ووجد أنه يعمل بشكل أسوأ عند تحديد جنس الفرد إذا كان من الإناث أو من ذوي البشرة الداكنة.

التمييز الأكثر شيوعًا هو على أساس العمر أو الجنس أو العرق أو الإعاقة ، أنتجت عن غير قصد من قبل المطورين الذين يفتقرون إلى المهارات الاجتماعية والاقتصادية لفهم تأثير هذه التكنولوجيا. بهذا المعنى ، يصمم هؤلاء المهندسين الخوارزميات بناءً على المهارات التقنية فقط ، وبما أنه لا توجد ضوابط خارجية ويبدو أنها تعمل كما هو متوقع ، تستمر الخوارزمية في التعلم من البيانات الناقصة.

نظرًا لغياب الشفافية حول أداء بعض هذه الخوارزميات ، تعمل مؤسسة Eticas ، بصرف النظر عن إطلاق OASI ، على تطوير مشروع للتدقيق الخارجي. الأول هو VioGén ، الخوارزمية التي تستخدمها وزارة الداخلية الإسبانية لتحديد المخاطر للنساء اللائي يلتمسن الحماية بعد تعرضهن لحالات العنف المنزلي. ستقوم Eticas بإجراء تدقيق خارجي من خلال الهندسة العكسية والبيانات الإدارية أو المقابلات أو التقارير أو نصوص التصميم ، لجمع النتائج على نطاق واسع. كل هذا بهدف الكشف عن فرص التحسين في حماية هؤلاء النساء.

صرحت جيما جالدون ، مؤسِّسة مؤسسة Eticas: "على الرغم من وجود طرق رقابة وتدقيق حسابية لضمان احترام التكنولوجيا للوائح الحالية والحقوق الأساسية ، تواصل الإدارة والعديد من الشركات تجاهل طلبات الشفافية من المواطنين والمؤسسات". . "بالإضافة إلى OASI ، بعد عدة سنوات طورنا خلالها أكثر من اثنتي عشرة عملية تدقيق لشركات مثل Alpha Telefónica أو الأمم المتحدة أو Koa Health أو بنك التنمية للبلدان الأمريكية ، فقد نشرنا أيضًا دليلًا للتدقيق الحسابي يمكن لأي شخص أن يؤديها. الهدف دائمًا هو زيادة الوعي وتوفير الشفافية واستعادة الثقة في التكنولوجيا ، والتي لا يجب أن تكون ضارة في حد ذاتها ".

بهذا المعنى ، الخوارزميات التي يتم تدريبها باستخدام تقنيات التعلم الآلي باستخدام كمية كبيرة من البيانات التاريخية "لتعليمهم" الاختيار بناءً على القرارات السابقة. عادةً لا تمثل هذه البيانات الواقع الاجتماعي والاقتصادي والثقافي الذي يتم تطبيقها عليه ، ولكنها تعكس في العديد من المناسبات وضعًا غير عادل لا يُقصد به أن يستمر. وبهذه الطريقة ، ستكون الخوارزمية من الناحية الفنية تتخذ قرارات "صحيحة" وفقًا لتدريبها ، على الرغم من أن الحقيقة هي أن توصياتها أو تنبؤاتها متحيزة أو تمييزية.

الإعلانات

حول مؤسسة Eticas

تعمل مؤسسة Eticas على ترجمة المبادئ التي توجه المجتمع ، مثل تكافؤ الفرص والشفافية وعدم التمييز إلى مواصفات فنية ، وهي موجودة في التقنيات التي تتخذ قرارات آلية بشأن حياتنا. يسعى إلى تحقيق التوازن بين القيم الاجتماعية المتغيرة ، والإمكانيات التقنية لأحدث التطورات والإطار القانوني. تحقيقا لهذه الغاية ، يقوم بتدقيق الخوارزميات ، والتحقق من تطبيق الضمانات القانونية في العالم الرقمي ، وخاصة على الذكاء الاصطناعي ، ويقوم بعمل مكثف لزيادة الوعي ونشر الحاجة إلى تكنولوجيا مسؤولة وذات جودة.

حصة هذه المادة: