جوجل تريد الحد من التحيز في المنتجات

قالت جوجل لرويترز هذا الأسبوع إنها تعمل على تطوير بديل لطريقة الصناعة القياسية لتصنيف لون البشرة.

تقول مجموعة متزايدة من الباحثين في مجال التكنولوجيا وأطباء الأمراض الجلدية إن هذه الطريقة غير كافية لتقييم ما إذا كانت المنتجات متحيزة ضد الأشخاص ذوي البشرة الملونة.

هناك مقياس من ستة ألوان يعرف باسم FST ، والذي يستخدمه أطباء الجلد منذ السبعينيات.

اقرأ أيضًا: يستضيف Zuckerberg اختبار غرف الصوت المباشر على Facebook

تعتمد الشركات التقنية عليها لتصنيف الأشخاص وقياس ما إذا كانت منتجات مثل أنظمة التعرف على الوجه أو مستشعرات معدل ضربات القلب للساعة الذكية تعمل بشكل جيد على قدم المساواة عبر درجات لون البشرة.

يقول المنتقدون إن FST يتجاهل التنوع بين السود. يتضمن المقياس أربع فئات للبشرة البيضاء وواحدة لكل من الأسود والبني.

وفي أكتوبر الماضي ، أوصى باحثون في وزارة الأمن الداخلي الأمريكية بالتخلي عن FST لتقييم التعرف على الوجه. هذا لأن المعيار يمثل بشكل سيئ نطاق الألوان في مجموعات متنوعة.

قالت جوجل: نسعى إلى تدابير أفضل. نحن نعمل على إجراءات بديلة وأكثر شمولاً يمكن أن تكون مفيدة في تطوير منتجاتنا. نحن نتعاون مع خبراء علميين وطبيين ، بالإضافة إلى مجموعات تعمل مع مجتمعات ملونة في هذا الجهد.

اقرأ أيضًا: أوكي تستضيف إطلاق سلسلتها التنفيذية في دبي

يعد النقاش جزءًا من مشكلة أكبر حول العنصرية والتنوع في صناعة التكنولوجيا ، حيث تكون القوى العاملة بيضاء أكثر من القطاعات الأخرى.

تطور Google معيارًا جديدًا للون البشرة:

إن التأكد من أن التكنولوجيا تعمل بشكل جيد لجميع ألوان البشرة ، وكذلك الأعمار والأجناس المختلفة ، هو أمر أكثر أهمية. وذلك لأن المنتجات الجديدة ، التي غالبًا ما تكون مدعومة بالذكاء الاصطناعي ، تمتد إلى مجالات حساسة مثل الرعاية الصحية وإنفاذ القانون.

تعرف الشركات أن منتجاتها يمكن أن تكون معيبة بالنسبة للمجموعات غير الممثلة في بيانات البحث والاختبار.

وعندما أعلنت جوجل في فبراير أن الكاميرات على بعض هواتف أندرويد يمكنها قياس معدلات النبض بأطراف الأصابع ، قالت إن متوسط ​​الخطأ بلغ 1.8 في المائة بغض النظر عما إذا كان المستخدمون يتمتعون بشرة فاتحة أو داكنة.

إقرأ أيضاً: التلوين والرسم … أشهر التطبيقات في عام 2020

قدمت الشركة ضمانات بأن نوع البشرة لن يؤثر على نتائج ميزة تصفية الخلفية في Google Meet. كما أنها ليست أداة الويب القادمة لتحديد حالات الجلد ، والتي تسمى بشكل غير رسمي Derm Assist.

حتى وقت قريب ، لم تكن شركات التكنولوجيا مهتمة بهذا الأمر.

استشهد اتحاد Unicode Consortium ، الذي يشرف على الرموز التعبيرية ، بـ FST في عام 2014 كأساس لاعتماد 5 درجات ألوان للبشرة بعد الأصفر.

ووجدت دراسة أجريت عام 2018 بعنوان Gender Shades أن أنظمة تحليل الوجه غالبًا ما تضلل الأشخاص ذوي البشرة الداكنة.

في دراسة أجريت في أبريل لاختبار الذكاء الاصطناعي في اكتشاف التزييف العميق ، كتب باحثو فيسبوك أنه من الواضح أن معيار FST لا يشمل التنوع داخل درجات لون البشرة البني والأسود.

مقالات ذات صلة

زر الذهاب إلى الأعلى