برامج التعرف علي الوجه .. السوشيال ميديا فيها سم قاتل.

لينك التسجيل الصوتي للمقالة علي Sound Cloud:
https://soundcloud.com/user-112011687-312727988/1a-4

اللي عايز أتكلم عنه النهاردة هو موضوع يبان خيال علمي بس هو جزء أساسي من التكنولوجيا اللي إحنا بنشوفها كل يوم وهي برامج التعرف علي الوجه أو Facial Recognition Software .. في حالة إنك أول مرة تقرأ أو تسمع عن الحكاية دي فأحب أقولك إنك لو معاك Smartphone فإنت غالباً بتستخدم التكنولوجيا دي كل يوم عشان تفتح موبايلك .. عارف لما حضرتك تبص للكاميرا الأمامية في موبايلك عشان تشوف وشك و تعمل Unlock للموبايل بتاعك؟.. أهو هو ده Facial Recognition Software .. ده معناه زي ما إنت أكيد خدت بالك إن التكنولوجيا دي مش مولودة أول إمبارح .. التكنولوجيا دي بقالها سنين عايشة معانا و بتتطور كل يوم وهو ده اللي إحنا عايزين نتكلم عنه النهاردة .. مهم إنك تفهم الأول هو يعني إيه Facial Recognition Software؟ و بيشتغل إزاي؟ .. مجرد إنك تفهم ده الأول حيخلي سهل عليا أوي إني أحطك في الصورة الكبيرة عشان تفهم المصايب اللي ورا إن التكنولوجيا دي تتحط في إيد ناس معندهاش ضمير ولا أخلاق و بتشمشم ورا الفلوس .. خلينا الأول زي ما إتفقنا نفهم يعني إيه التكنولوجيا دي؟

مبدأياً فيه حاجتين لازم تبقي فاهمهم كويس أوي .. أول حاجة إن صحيح التكنولوجيا دي فيه شركات كتير شغالة فيها زي Google و Microsoft و IBM ودي شركات كبيرة مش صغيرة بس لحد دلوقتي مفيش إتفاق علي إيه هو الصح و الغلط .. ثاني حاجة تعرفها هي إن التكنولوجيا دي لسه لحد دلوقتي موقفتش علي رجلها .. لو أنا قاعد في كافيه و فيه كاميرا صورتني و الصورة دي إتحطت علي برنامج Facial Recognition Software فلازم لحظياً البرنامج يقول أنا مين .. ده بيحصل إن البرنامج يمسك صورتي بإيده اليمين و بإيده الشمال يفر في كل الصور المتسجلة عنده في Database بتاعته و الصور المتسجلة دي بتبقي مهرجان من أول صور البطايق لصور الفيش و التشبيه لصور رخص السواقة  .. المشكلة إن ده كتير مبيحصلش .. خد عندك شركة أمازون مثلاً واللي عامله برنامج تعرف علي الوجه خاص بيها إسمه Amazon Rekognition.

البرنامج ده فيه مهندسة من معهد MIT إسمها (جوي بولامويتي Joy Buolamwini) إكتشفت فيه بلاوي .. لو انت رجل أبيض أو ست بيضا إتصورتي فالبرنامج بنسبة كبيرة حيقدر يتعرف علي وشك .. لو انتي بنت سمرا أو ولد أسمر فهو غالباً حيتلخبط بينكوا يعني لو انتي بنت حيشوفك ولد ولو انت ولد حيشوفك بنت .. يا مؤمن دي لما الست (جوي) حطت صورة (أوبرا وينفري Oprah Winfrey) قصاد البرنامج بتاع أمازون معرفهاش .. وعلي فكرة مش بس السمر و الأسيويين .. يحكي أن سنة 2017 البوليس كان بيدور علي حرامي و الكاميرا بتاعة السوبرماركت اللي هو سرقه صورته بس مكانوش عارفين هو مين فحطوا صورته في برنامج Facial Recognition و برده مجابش نتيجة .. واحد من الضباط لاحظ إن صورة الحرامي شبه صورة ممثل مشهور إسمه (وودي هارلسون Woody Harrelson) فدخل صورة الممثل للبرنامج و الغريبة إن البرنامج طلع نتيجة و عرفوا مين الحرامي و إتقبض عليه .. المصيبة الكبيرة إن كتير من التقارير اللي إتكتبت عن التكنولوجيا دي بتقول إن 8 بس من كل 42 بحث بيدي نتيجة صح .. دي نسبة نجاح أقل من 20%.

لحد دلوقتي الموضوع يبان سهل .. تكنولوجيا لسه عايزه تقف علي رجلها .. مهندسين لسه بيهبدوا ومش فاهمين أوي هم بيعملوا ايه و مسيرهم يفهموا كل تفاصيل التكنولوجيا .. حتي الشركات الكبيرة اللي شغاله في التكنولوجيا دي بتطور فيها لإستخدامات محددة .. بس الحقيقة إن الوضع مش حيبقي كده خلال السنين الجايه .. أحب أقولك إن إحنا داخلين علي أيام سودا و سببها رجل واحد .. مش عارف ليه مؤخراً كل المصايب اللي انا بكتب عنها بكتشف إن بيبقي وراها شخصية واحدة وغالباً بيكون رجل بس ما علينا دلوقتي .. الرجل اللي ورا إن إحنا داخلين علي أيام سودا إسمه (هوان تون ثات Hoan Ton-That) وده عنده شركة إسمها ClearView.ai و الرجل ده أثبت فعلياً إن الرجل لما يشغل باله بتصرفات النسوان بيبقي شخصية بنت وس&^.

الرجل ده شركته عملت Search Engine أو محرك بحثي اللي هو حاجه زي Google كده بس للصور بس .. الناس اللي شغاله معاه قضت سنين عشان تجمع أكتر من 3 مليار صورة من مواقع سوشيال ميديا زي فيسبوك و تويتر و إنستجرام عشان لو انا لقيت صورة مثلاً لبنت عاجباني فانا أعمل Upload للصورة علي Search Engine ده وهوبا من غير لا سحر ولا شعوذة حيجيلي هي الصورة دي بتاعة مين و مين اللي حطها علي الإنترنت ومين اللي عملها لايك ومين اللي عمل عليها كومنت .. أي صورة ليك علي سوشيال ميديا غالباً هي تحت إيد شركة ClearView.ai بغض النظر إن مش انت اللي رافعها وحتي لو انت شايل Tag من عليها .. حتسألني طب إزاي شركات سوشيال ميديا ساكته؟ أحب أقولك إن فيسبوك و تويتر رافعين قواضي علي الشركة بس الأخ (هوان تون ثات) ولا في دماغه.

هنا يجي دور الجزء الثاني من اللي عايز أتكلم عنه وهي المصايب اللي ورا التكنولوجيا دي .. شوف .. انت ممكن تبص لFacial Recognition Software من وجهتين نظر مختلفتين عن بعض خالص .. انت ممكن تبصلها من وجهة نظر بنت من اللي بيتقال عليهم فاشينستا اللي مبتعملش حاجه في حياتها غير إنها تتصور و تحط صورها علي أنستجرام علي أمل إنها تبقي مشهورة  .. و ممكن تبصلها من وجهة نظر ناشط سياسي بيسعي إنه يجيب حق المعتقلين أو المختفين قسرياً .. قلتلك إنهم وجهتين نظر عكس بعض فبلاش تستغرب أوي.

لو انتي بنت فاشينستا بتقومي الصبح أول حاجه تعمليها تشوفي بقي ليكي كام Follower فانتي غالباً لو حكيتلك عن App إسمه FindFace فانتي حتحسي اني بحكيلك عن فيلم رعب .. بصي يا بنت الناس .. لو انا شاب متحرش هوايتي اني أشقط بنات الناس وكنت قاعد باخد الكوفي بتاعتي في كوستا مثلاً وشفتك قاعده بتاخدي سيلفي لنفسك مع الأوردر اللي انتي طالباه عشان تحطيه علي أنستجرام و دخلتي دماغي و عايز أكلمك بس مش عارف انتي مين .. مجرد إني أفتح الApp اللي إسمه FindFace و أصورك صورة و انتي مش واخده بالك فالApp حيجيبلي كل الأكونتات بتاعتك علي Social Media .. انتي حتلاقيني جاي عليكي وعلي وشي إبتسامة عريضة و عايز أتعرف عليكي و حتحسي من جواكي إن واااو ده انا أمورة أوي و العرسان بيترموا تحت رجلي وانتي يا عيني مش عارفه إني جبت كل المعلومات اللي انا عايز أعرفها عنك و انتي اللي بقيتي فريسة ليا .. لحد ما تفوقي من فيلم الرعب اللي انا لسه حاكيه دلوقتي ده تعالوا نتكلم عن وجهة النظر الثانية .. لو انا ناشط سياسي.

شوف انا حبهرك .. بلاش نتكلم عن البلد اللي إحنا عايشين فيها واللي الشيخ (كشك) الله يرحمه قال عنها إن عايش فيها تسعة أعشار الظلم و العشر الأخير بياخد لفته في الدنيا و يجي أخر الليل ينام عندنا .. تعالوا نتكلم عن واحة الديموقراطية في العالم .. أميركا .. عايزك تعرف إن من 2011 لحد دلوقتي مكتب التحقيقات الفيدرالي FBI اللي انت تقدر مجازاً تشبهه بأمن الدولة في مصر عمل 390,000 بحث بتكنولوجيا Facial Recognition Software و البحث ده شمل 117 مليون مواطن أمريكاني .. يعني نص الأمريكان تقريباً إتعمل عليهم Search بالتكنولوجيا دي .. عايزك تعرف إن الناس بتوع FBI دول المحترمين بتوع أميركا .. الشرطة بتاعتهم بتعمل مصايب .. فيه واحدة شغاله في Google إسمها (تيمنت جيبرو Timnit Gebru) إكتشفت إن الشرطة في ولاية فلوريدا إستخدمت برامج Facial Recognition Software عشان تراقب المظاهرات اللي عملها السمر في أميركا بعد جريمة قتل مواطن أسمر إسمه (فريدي جراي Freddie Gray) سنة 2016 يعني من أربع سنين الكلام ده و البوليس بقي بيشوف مين اللي بيتظاهر و بيصوروه بكاميرات المراقبة و بعدين يدخلوا الصور علي البرنامج و يديلهم كل بني أدم في الصورة الأكونتات بتاعته علي Social Media .. وفيه كلام علي إن الشرطة في أميركا حالياً بتستخدم نفس الإسلوب تاني ضد المتظاهرين بتوع Black Lives Matter .. يعني انا مواطن بمارس حقي الدستوري في التظاهر تقوم الكاميرات مصوراني و يعرفوا الأكونت بتاعي علي Facebook إيه و يعرفوا انا إسمي إيه و ساكن فين عشان يقبضوا عليا بعد المظاهرة بكام يوم .. عمرك شفت وساخة أكتر من كده؟

علي فكره الامريكان لسه مبتدأين في الحكايه دي .. المعلمين الصيع اوي هم الانجليز .. بلاش اللي راح منكوا لندن .. كفايه اللي اتفرج علي فيلم The Bourne Ultimatum و شاف ازاي كاميرات المراقبه في لندن بتتفرج ع الناس وهم بيعملوا اي حاجه .. مش ناقص غير انهم يصوروا الناس في اوض النوم و الحمام .. الانجليز بقي عندهم احياء كامله في لندن بقي معروف انها متراقبه بالتكنولوجيا دي ولو انت مشيت في شارع منهم و متعمدا غطيت وشك عشان الكاميرات متصوركش حتلاقي وانت ماشي يطلعلك ضابط شرطه متفهمش جه منين عشان يصورك بموبايله و يدفعك غرامه .. الاستراليين بيعلموا شبكه مراقبه متكامله بانظمه Facial Recognition Software و مسميينها القدره The Capability  وعارف الاستراليين دافعين لمين فلوس عشان يعملهم الشبكه دي؟ .. شطور .. (هوان تون ثات) و شركته Clear View .. خلي بالك ان دي الدول المتقدمه .. دي الدول اللي عندها حكم قانون واللي عندها مؤسسات و ديموقراطيه .. دول تانيه زي الصين خدت فكره Facial Recognition Software و ادتها حبايه فياجرا و قالتلها انطلقي.

فيه شركه صيني اسمها Dahua Technology ودي من الشركات اللي دايسه اوي في المجال ده و الشركه دي بتقول ان لو الحكومه ركبت كاميرات مراقبه بالعدد الكافي فممكن اوي وانا ماشي في الشارع كاميرا تصورني و لحظيا يخشوا علي اكونتات Social Media بتاعتي و يعرفوا الرقم القومي بتاعي و يعرفوا انا بقابل مين و صحابي مين و بروح فين .. ده ليفل التنين في المراقبه  .. شركه تانيه اسمها Megvii Technology عامله برنامج  Facial Recognition مسميينه سكاي نت Skynet ولو انت ليك في الافلام الاجنبي شويه فانت غالبا حتموت علي نفسك من الضحك .. في حاله انك مش مجمع ففيه فيلم اسمه Terminator بيحكي ان اتعمل برنامج ذكاء صناعي للتحكم في المنظومه العسكريه الاميريكيه بس البرنامج ده انقلب علي البشر و دمر الارض كلها بالقنابل النوويه .. حزر فزر برنامج الذكاء الصناعي في فيلم Terminator ده كان اسمه ايه.

اللي انت محتاج تفهمه ان بيزنس Facial Recognition مش حيروح في حته .. البيزنس ده قاعد معانا و مطول .. فيه تقديرات بتقول انه حينمو من بيزنس بيجيب 3.2 مليار دولار في 2019 لانه يجيب 7 مليار دولار في 2024 .. الفلوس دي كلها جايه من الشركات اللي زي ClearView.ai اللي مستعده تدي التكنولوجيا بتاعتها لمحلات سوبرماركت عملاقه انها تصطاد زباين وحتي لانظمه قمعيه عشان تصطاد برده بس المعارضين بتوعها .. فيه ولايات اميريكيه زي اوريجين و نيوهامبشير و مدينه كبيره زي سان فرانسيسكو منعوا استخدام التكنولوجيا دي خالص .. شركه زي IBM قررت انها مش حتشتغل في الموضوع ده تاني .. ولايه تانيه زي يوتاه البوليس فيها من نفسه طلع قرار ان تكنولوجيا Facial Recognition مش حتستخدم نهائي تحت اي ظرف .. ولايه كاليفورنيا حتطلع قانون اسمه قانون الكاميرات Body Camera Accountability Act عشان تمنع البوليس انه يستخدم التكنولجيا دي .. دي كلها حالات فرديه قصاد ان فيه شركات و دول ريقها جري علي انها يبقي تحت ايدها سلاح زي ده.

لنفترض ان احنا حنجيب ناس عندها ضمير و بتخاف ربنا عشان تستخدم تكنولوجيا Facial Recognition في مكافحه الجريمه اللي هو موقف خيالي حبتين بس زي ما قلت تعالي نفترض انه حيحصل .. حتي هنا انت عندك مشكلتين:

• اول مشكله اسمها Automation Bias .. دلوقتي انا قلتلك ان البرامج زي عندها مشكله حقيقيه انها تميز وشوش الناس السمر و الاسيويين فلو انا ضابط ببص علي نتايج البحث بتاعه برنامج و طلعلي نسبه تاكد 95% بس انا عشان ضابط قديم و خبرتي حلوه فانا عارف ان النتيجه اللي طالعه من الكومبيوتر ده هبد بس للاسف انا مش حقدر اقول لرؤسائي في الشغل ان والله البرنامج اللي احنا دافعين فيه دم قلبنا غلط وانا صح.
• ثاني مشكله اسمها Imbalance of Power .. افرض لو حد زميلي استغل التكنولوجيا دي عشان يراقب طليقته او انه يتجسس علي جارته .. انا اه هنا صحيح بقول ان اغلب الرجاله بتفكر بنصها التحتاني بس انت من جواك عارف ان عندي حق .. ساعتها بما ان مفيش قواعد محدده محطوطه عشان نضمن ان ده ميحصلش فصدقني لو قلتلك ان تكنولوجيا زي دي حيساء استخدامها اكتر ما حيتم تطبيقها لمكافحه الجريمه.

مهم تبقي فاهم ايه هي تكنولوجيا دي و بتعمل ايه .. علي ايدك اليمين ناس شايفاها ضروريه للامن القومي .. علي ايدك الثانيه ناس شايفاها انتهاك لخصوصيات الناس .. هو انت بس محتاج دايما تسال نفسك ايه الثمن اللي بيتدفع قصاد الامن؟ .. الحقيقه ان حتي اني اسال السؤال ده لازم يقترن باني عايش في دوله حتحرم اني اسال السؤال ده و حتحاول تجاوب عليه .. نصيحتي ليكوا دلوقتي هي ارجوكوا بلاش تعيشوا حياتكوا علي سوشيال ميديا .. مش كل حاجه تعملوها في حياتكوا تصوروها و تنشروها عشان تجيب لايك و شير .. حتي لو انت عامل Privacy .. حتي لو انت لاغي Tag من علي الصور .. حتي لو عملت كل الاجراءات اللي تحمي خصوصياتك فالاوساخ اللي زي (هوان تون ثات) بيجيبوا فلوس من انهم يسرقوا صورك و حياتك و يبيعوها لاعلي مشتري .. احموا نفسكوا و قللوا شويه من مساحه حياتكوا اللي انتوا عايشينها علي سوشيال ميديا.

المصادر:

حلقه من برنامج Last Week Tonight with John Oliver بيتذاع علي قناه HBO وده لينك الحلقه علي YouTube:
https://www.youtube.com/watch?v=jZjmlJPJgug&t=590s

مقاله بعنوان The major concerns around facial recognition technology نشرت في مجله Forbes وده لينك المقاله الاصليه:
https://www.forbes.com/sites/nicolemartin1/2019/09/25/the-major-concerns-around-facial-recognition-technology/#429d89ff4fe3

مقاله بعنوان A case for banning facial recognition نشرت في جريده The New York Times وده لينك المقاله الاصليه:
https://www.nytimes.com/2020/06/09/technology/facial-recognition-software.html