محاربة التزييف العميق... تقنيات منحازة ضد السود

حذّر الخبراء من أن أدوات كشف التزييف العميق التي يجري تطويرها يجب تدريبها على مجموعات بيانات تشمل درجات لون البشرة الداكنة، لتجنب التحيز. والتزييف العميق (الديب فيك) هو فبركة مقاطع الفيديو لجعل أشخاص يقولون ويفعلون أشياء لم يقوموا بها في الواقع. ويُدرَّب الذكاء الاصطناعي على كشف علامات التزييف العميق التي قد لا تكون واضحة للعين البشرية، ويمكن أن يشمل ذلك مراقبة تدفق الدم ومعدل نبضات القلب. ومع ذلك، فإن طرق الكشف هذه لا تعمل دائماً على الأشخاص ذوي البشرة الداكنة، كما نقلت صحيفة ذا غارديان عن خبراء.
وإذا كانت مجموعة البيانات التي يتدرّب عليها الذكاء الاصطناعي لا تحتوي على جميع الأعراق واللهجات والأجناس والأعمار ولون البشرة، فهي عُرضة للتحيّز، يحذّر هؤلاء الخبراء. ونقلت الصحيفة عن مدير شركة ديب ميديا للذكاء الاصطناعي وكشف الفبركة، ريجول غوبتا: "مجموعات البيانات دائماً تميل بشدة نحو الرجال البيض في منتصف العمر، وهذا النوع من التكنولوجيا يؤثر دائماً بشكل سلبي على المجتمعات المهمشة". ويوضح أنه "في ديب ميديا، بدلاً من أن تكون عمياء تجاه العرق، تبحث أجهزة الكشف لدينا وتقنيتنا في الواقع عن عمر الشخص وعرقه وجنسه. لذلك شاهدَت أجهزة الكشف لدينا بالفعل عدداً كبيراً من العينات من مختلف الأعمار والأجناس لمعرفة ما إذا جرى التلاعب بفيديو أم لا".
ويضيف غوبتا أن أدوات الكشف عن التزييف العميق التي تستخدم إشارات بصرية، مثل تدفق الدم واكتشاف معدل ضربات القلب، يمكن أن يكون لها "تحيزات أساسية تجاه الأشخاص ذوي البشرة الفاتحة، لأنه من الصعب جداً استخراج معدل ضربات القلب من درجات لون البشرة الداكنة".
ويحذّر غوبتا من ضرر هذا التحيّز على الأقليات، ويقول: "سنرى (...) زيادة عمليات الاحتيال والتزييف العميق والمعلومات الخاطئة التي يسببها الذكاء الاصطناعي والتي ستكون شديدة الاستهداف والتركيز على المجتمعات المهمشة".

تكنولوجيا

التحديثات الحية

التزييف العميق... لا تصدّق عينيك بعد الآن

وطوّر أستاذ علم الاجتماع بجامعة هارفارد، إليس مونك، "مقياس مونك للون البشرة"، وهو مقياس بديل أكثر شمولاً من مقاييس قطاع التكنولوجيا ويوفر نطاقاً أوسع من درجات لون البشرة لاستخدامه في مجموعات البيانات ونماذج التعلم الآلي.
ويقول مونك: "تم استبعاد الأشخاص ذوي البشرة الداكنة من كيفية تطوير هذه الأشكال المختلفة من التكنولوجيا منذ البداية".
ويضيف: "يجب إنشاء مجموعة بيانات جديدة تتمتع بتغطية أكبر، وتمثيل أكبر من حيث لون البشرة، وهذا يعني أننا بحاجة إلى نوع من القياس يكون موحداً ومتّسقاً وأكثر تمثيلاً من المقاييس السابقة".