التعرف على الوجه يتراجع خطوة إلى الوراء

التعرف على الوجه تتطور البرمجيات يومًا بعد يوم، حيث يدفعها التعلم الآلي والذكاء الاصطناعي إلى الأمام بشكل كبير. وقد مكّنت التطورات الحديثة في تكنولوجيا الذكاء الاصطناعي الأنظمة من توليد صور واقعية لوجوه بشرية من الصفر تمامًا. تستخدم هذه الأنظمة مجموعات بيانات تتألف من ملايين الصور. حقيقي يتعلم الناس على مدى فترة من الزمن كيفية إنشاء صور أصلية خاصة بهم بشكل مستقل. في المعرض السنوي بلاك هات الولايات المتحدة الأمريكية وفي الواقع، تم اختبار هذه التكنولوجيا الجديدة. 

خداع النظام

استضافت شركة بلاك هات يو إس إيه فعالية افتراضية في أغسطس 2020، جمعت العديد من خبراء الأمن السيبراني والتكنولوجيا. باحثون من McAfee أظهروا كيف تمكنوا من استخدام تقنية الذكاء الاصطناعي لخداع شخص ما بنجاح التعرف على الوجه نظامٌ يُصنّف شخصًا ما خطأً على أنه شخصٌ مختلفٌ تمامًا. على سبيل المثال، أظهر باحثون كيف يُمكن لشخصٍ مُدرجٍ على قائمة حظر الطيران في أحد المطارات أن يخدع نظام التعرّف على الوجه المُستخدم للتحقق من جواز السفر ليُعرّفه على أنه شخصٌ آخر (شاهد الفيديو في نهاية المقال). بعد هذا الحدث، ذكر ستيف بوفولني، رئيس قسم أبحاث التهديدات المُتقدّمة في شركة ماكافي:

"كان الهدف الأساسي هنا هو تحديد ما إذا كان بإمكاننا إنشاء صورة مزيفة، باستخدام نماذج التعلم الآلي، والتي تبدو وكأنها شخص واحد للعين البشرية، ولكن يتم تصنيفها في الوقت نفسه على أنها شخص آخر لنظام التعرف على الوجه"

قام باحثون في شركة مكافي ببناء نظام تعلم آلي، حيث زوّدوه بـ 1,500 صورة لشخصين مختلفين. التُقطت الصور من فيديو مباشر، وسعى الباحثون إلى تمثيل صور جوازات سفرهما بدقة. استمر النظام في إنشاء واختبار صور مزيفة للشخصين عن طريق مزج ملامح وجهيهما. وبعد مئات من حلقات التدريب، نجح نظام التعلم الآلي في النهاية في توليد صور خدعت نظام التعرف على الوجوه. وتم التعرف عن طريق الخطأ على صورة جواز سفر صالحة لأحد الشخصين على أنها صورة الشخص المستهدف الثاني. 

التهديدات في العالم الحقيقي

ذكر بوفولني، الباحث الرئيسي، أن سيناريو هجوم نظام التحقق من جوازات السفر، وإن لم يكن محور البحث الرئيسي، إلا أنه ممكن. فنظرًا لقبول صور جوازات السفر الرقمية حاليًا، يمكن للمهاجم إنشاء صورة مزيفة لشريكه، وتقديم طلب جواز سفر، وحفظ الصورة في قاعدة بيانات جوازات السفر. على سبيل المثال، إذا التُقطت صورة حية للمهاجم لاحقًا في أحد المطارات عبر كشك آلي للتحقق من جوازات السفر، فسيتم التعرف على الصورة على أنها صورة الشريك.

لا يتطلب هذا من المهاجم أي وصول إلى نظام جوازات السفر؛ كل ما يتطلبه الأمر هو أن تحتوي قاعدة بيانات نظام جوازات السفر على صورة الشريك المُرسلة عند تقديم طلب الحصول على جواز السفر. يعتمد نظام جوازات السفر ببساطة على تحديد ما إذا كان وجهان متطابقين أم لا. كل ما يفعله هو التحقق من مطابقة صورة شخص واحد مع صورة محفوظة في النظام. لذا، فإن هذا الهجوم ممكن تمامًا، وإن كان يتطلب بعض الجهد لإتمامه. من غير المرجح أن تنجح صورة جواز سفر مادية أُرسلت بالبريد، ومسحت ضوئيًا، ورُفعت إلى قاعدة البيانات هذه في الهجوم.

– ستيف بوفولني، رئيس الباحثين في شركة McAfee

شبكات McAfee التوليدية التنافسية

تضمنت الأبحاث المتعلقة بالتعرف على الوجوه استخدام أداة "الشبكات التوليدية التنافسية" (GAN) المعروفة باسم CycleGAN. الشبكات التوليدية التنافسية هي شبكات عصبية للذكاء الاصطناعي قادرة على إنشاء بيانات مشابهة للبيانات المُدخلة إليها. على سبيل المثال، يمكن للشبكة التوليدية التنافسية استخدام مجموعة من حقيقي صور وجوه بشرية لتوليد صور ذاتية الصنع، لكنها تبدو حقيقية. تستخدم الشبكات التوليدية المولدة شبكات توليدية لإنشاء بيانات مصطنعة، وشبكات تمييزية لتقييم جودة المحتوى المُولّد باستمرار حتى يصل إلى جودة مقبولة.

CycleGAN نفسها ، بحسب مكافي، عبارة عن GAN للترجمة من صورة إلى صورة: على سبيل المثال ترجمة صورة الحمار الوحشي إلى صورة خيول. تتمثل إحدى ميزات GAN في أنها تستخدم ميزات مهمة للصورة للترجمة ، مثل موضع العين وشكل الرأس وحجم الجسم والسمات الأخرى. 

مخاطر CycleGAN

يتزايد استخدام تقنية التعرف على الوجوه، حيث تلعب دورًا في أجهزة إنفاذ القانون لتحديد المشتبه بهم في الصور أو مقاطع الفيديو. أرادت شركة ماكافي إجراء هذا البحث لفهم الآثار المحتملة لبرامج التعرف على الوجوه وكيف يمكن استخدامها ضدنا.

ماذا يمكنني أن أفعل كفرد؟

يُعدّ التعرّف على الوجه تقنيةً يصعب تنظيمها. ويشعر الكثيرون بالقلق إزاء مخاوف الخصوصية المحتملة المرتبطة بهذا البرنامج. تُستخدم هذه الأداة بطرقٍ يصعب على الكثيرين استيعابها؛ مثل تحميل الصور من الإنترنت ودمجها مع تقنية التعرّف على الوجه لإنشاء أداة فعّالة لتحديد الهوية. كليرفيو AI أُنشئ تطبيق يتيح للمستخدمين (عادةً جهات إنفاذ القانون) تحميل صورة شخص ما وتحليلها داخل التطبيق. في غضون دقائق، يمكن لمقدم الطلب الاطلاع على جميع الصور العامة في قاعدة بيانات ذلك الشخص (بالبحث في أكثر من 3 مليارات صورة). تُعرض هذه الصور الجديدة إلى جانب روابط لأماكن نشرها على الإنترنت (مواقع التواصل الاجتماعي). 

على الرغم من عدم وجود العديد من الإجراءات التي يمكنك اتخاذها، يمكنك التواصل مع شركات مثل Clearview AI عبر صفحة الخصوصية روابط وطلب حذف بياناتك. يمكنك أيضًا مراسلة مندوب الكونجرس التابع لك وطلب إقرار مجلس الشيوخ الأمريكي تشريعًا شاملًا لإصلاح الخصوصية يحمي جميع مواطني الولايات المتحدة، بدلًا من أن تُنشئ كل ولاية مجموعة متنوعة من تشريعات الخصوصية. تتفوق التكنولوجيا بسرعة على قدرتنا على تنظيمها بالقوانين الحالية. نحن بحاجة إلى نهج شامل لحماية الخصوصية. قراءة هذه المقالة ومقالات أخرى مشابهة للبقاء على اطلاع، وحذف بياناتك من الأماكن التي لا ترغب في تخزينها فيها، والدفاع عن حقوق الخصوصية هو ما نحتاجه لحماية أنفسنا.

ماذا يمكنني أن أفعل كصاحب عمل؟

بالإضافة إلى ذلك، أشار بوفولني إلى الإجراءات التي يمكن أن تتخذها منظمات الذكاء الاصطناعي التي تعمل على إنشاء تقنية التعرف على الوجه لتقليل احتمالية أن تصبح ضحية للهجمات:

يُعدّ اختبار الشذوذ، والمدخلات المُعادية، وبيانات التدريب الأكثر تنوعًا من بين الطرق التي يُمكن للموردين من خلالها تحسين أنظمة التعرف على الوجه. إضافةً إلى ذلك، يُمكن أن يُوفر الدفاع المُتعمق، بالاستفادة من نظام ثانٍ، سواءً كان بشريًا أو آليًا، حاجزًا أعلى بكثير للاستغلال مقارنةً بنقطة فشل واحدة.

التحرك إلى الأمام

تستفيد الشركات والأفراد من تقنية التعرف على الوجه من خلال تحسين أمان المصادقة. تُستخدم برامج التعرف على الوجه على نطاق واسع على الأجهزة المحمولة لتأمينها وتطبيقاتها. يؤكد خبراء الأمن أن تقنية التعرف على الوجه أفضل من كلمات المرور غير الصحيحة التي يستخدمها معظم المستخدمين، كما أنها تُحسّن المصادقة والتحقق من الهوية. مع ذلك، تجدر الإشارة إلى أن المتسللين وباحثي الأمن على حد سواء يبحثون عن طرق لتزييف أدوات التعرف على الوجه للوصول إلى الحسابات والأجهزة والتطبيقات التي تحميها.

من خلال زيادة الوعي بالفوائد والتحديات المتعلقة بمصادقة التعرف على الوجه وبعض استخدامات إنفاذ القانون لها، يمكنك أن تصبح أكثر أمانًا.

مصدر

DarkReading

قراءات إضافية

برنامج التعرف على الوجه من Clearview AI 

برنامج التعرف على الوجه يقرأ من خلال أقنعة كوفيد

شاهد هذا الفيديو القصير الذي يظهر اختبار McAfee Research: