مثال عدائي / التعلم الآلي العدائي

مثال عدائي / التعلم الآلي العدائي (التعلم الآلي العدائي) يشير ذلك إلى التقنيات التي يقوم فيها المهاجمون بالتلاعب المتعمد ببيانات الإدخال لخداع نموذج الذكاء الاصطناعي أو نموذج التعلم الآلي لحمله على اتخاذ قرارات خاطئة، وغالبًا ما يكون ذلك دون أن يكون التلاعب واضحًا للبشر.

An مثال عدائي المدخلات الفعلية التي تم تغييرها بشكل طفيف. على سبيل المثال، قد يتم تعديل صورة تبدو كإشارة توقف لشخص ما بطرق دقيقة وغير مرئية تقريبًا بحيث يصنفها نظام الذكاء الاصطناعي بشكل خاطئ على أنها شيء آخر تمامًا.

بعبارات بسيطة، يستغل التعلم الآلي التنافسي حقيقة أن أنظمة الذكاء الاصطناعي "ترى" الأنماط بشكل مختلف عن البشر، ويمكن التلاعب بتلك الأنماط.

كيف يبدو هذا في الممارسة العملية

بإمكان المهاجمين:

• أضف تشويشات صغيرة إلى الصور أو الصوت أو النص لتضليل نماذج الذكاء الاصطناعي
• قم بتعديل رسائل البريد الإلكتروني الاحتيالية لتجاوز أنظمة الكشف القائمة على الذكاء الاصطناعي
• قم بتسميم بيانات التدريب حتى يتعلم النموذج سلوكيات غير صحيحة بمرور الوقت
• مدخلات حرفية مصممة خصيصًا للتهرب من أنظمة كشف الاحتيال أو كشف البرامج الضارة أو أنظمة المصادقة

لماذا يُعد هذا الأمر مهمًا للشركات الصغيرة والمتوسطة ومزودي خدمات تكنولوجيا المعلومات؟

في عمل الشركات الصغيرة والمتوسطة (SMBs) و مقدمو الخدمات المدارة (MSPs)، وهذا الأمر أصبح ذا أهمية بالغة لأن الذكاء الاصطناعي أصبح الآن جزءًا لا يتجزأ من العديد من أدوات الأمان.

1. يمكن تجاوز أنظمة الدفاع المدعومة بالذكاء الاصطناعي
   تعتمد العديد من الأدوات الحديثة على التعلم الآلي من أجل:

• تصفية البريد الإلكتروني
• الكشف عن نقطة النهاية والاستجابة لها (EDR)
• الكشف عن الغش

يمكن أن تتسلل المدخلات المعادية عبر هذه الدفاعات دون إطلاق تنبيهات.

2. أصبحت هجمات التصيد الاحتيالي أكثر فعالية
   بإمكان المهاجمين صياغة رسائل بريد إلكتروني تتجنب على وجه التحديد مرشحات البريد العشوائي التي تعمل بالذكاء الاصطناعي، مما يزيد من احتمالية رؤية الموظفين لها وتفاعلهم معها.
3. قد تمنح أدوات الأمان ثقة زائفة
   قد تفترض المؤسسات أن الأدوات التي تعمل بالذكاء الاصطناعي "أكثر ذكاءً" ويصعب تجاوزها، بينما في الواقع، فإنها تُدخل أسطح هجوم جديدة.
4. مخاطر سلامة البيانات
   إذا تمكن المهاجمون من التأثير على بيانات التدريب، فيمكنهم تقليل فعالية أنظمة الذكاء الاصطناعي بمرور الوقت، وخاصة في الأنظمة التي تتعلم باستمرار.

مثال من العالم الحقيقي

يتم تدريب مرشح البريد الإلكتروني المدعوم بالذكاء الاصطناعي على اكتشاف رسائل البريد الإلكتروني الاحتيالية بناءً على أنماط محددة.

المهاجم:

• يُجري تغييرات طفيفة على الصياغة أو التنسيق أو الترميز
• يستخدم لغة مصاغة بعناية تتجنب ميزات الكشف المعروفة

النتيجة:

• تبدو الرسالة الإلكترونية طبيعية بالنسبة للفلتر
• تصل إلى صندوق بريد المستخدم
• يؤدي نقر المستخدم إلى اختراق النظام.

ما ينبغي على الشركات الصغيرة والمتوسطة ومزودي خدمات تكنولوجيا المعلومات فعله

• لا تعتمد كلياً على أدوات الأمان القائمة على الذكاء الاصطناعي
  تُعزز الدفاعات بضوابط تقليدية ووعي بشري.
• استمر في التدريب المكثف على الوعي الأمني
  يظل المستخدمون خط دفاع بالغ الأهمية، لا سيما ضد عمليات التصيد الاحتيالي التي تتجنب الذكاء الاصطناعي.
• التحقق من البائعين
  اسأل عن كيفية تعامل نماذج الذكاء الاصطناعي الخاصة بهم مع الهجمات المعادية وما إذا كانوا يختبرونها.
• راقب الشذوذات، وليس فقط التوقيعات.
  يمكن للمراقبة القائمة على السلوك أن ترصد ما يغفله تصنيف الذكاء الاصطناعي.
• مدخلات بيانات التحكم
  حماية مصادر بيانات التدريب والحد من تعرضها للتلاعب حيثما ينطبق ذلك.

خِتاماً

لا تُعطّل تقنيات التعلّم الآلي المُعادية أنظمة الذكاء الاصطناعي بشكلٍ كامل، بل تتلاعب بها خلسةً. بالنسبة للشركات الصغيرة والمتوسطة ومزودي خدمات الإدارة، يكمن الخطر في كونه خفيًا ولكنه خطير: إذ يُمكن للمهاجمين تجاوز الدفاعات "الذكية" دون إطلاق أيّ إنذارات، مما يجعل الأمن متعدد الطبقات ووعي المستخدم أكثر أهمية من أي وقت مضى.

---

قراءة إضافية:

يوفر CyberHoot موارد أخرى متاحة لك. تجد أدناه روابط لجميع مواردنا، فلا تتردد في الاطلاع عليها وقتما تشاء:

• المدونة
• المكتبة الإلكترونية
• الرسوم البيانية
• آخر أخبارنا
• الأخبار الصحفية
• مقالات تعليمية (كيفية) - مفيد جدًا لمسؤولينا المتميزين!

---

قم بتأمين عملك مع CyberHoot اليوم!