تتطور تقنيات الذكاء الاصطناعي بوتيرة متسارعة وبنتائج أكثر فاعلية. تُستخدم أدوات الذكاء الاصطناعي القوية، مثل ChatGPT، لكتابة برامج خبيثة، وأبحاث علمية، وبرمجيات برمجية، دون وجود معايير اجتماعية تُنظّم سلوكنا أو قوانين تحمينا من الأذى. غالبًا ما تتجاوز التكنولوجيا المعايير الاجتماعية التي تُنظّم استخدامها، خاصةً عند حدوث ابتكارات كبيرة. لنأخذ مثالًا على ذلك: استخدام الهاتف أثناء القيادة؛ فقد استغرق الأمر عقدًا أو أكثر لسنّ قوانين تحظر إرسال الرسائل النصية أثناء القيادة. أرسل العالم 250 مليار رسالة نصية في عام 2002 (المصدر: صحيفة وول ستريت جورنال ). [ هل أقنعنا الناس بمخاطر استخدام الهاتف أثناء القيادة حتى اليوم؟]
تشرح هذه المقالة ما هو ChatGPT وبعض ما يمكنه فعله، وتطرح أسئلة مهمة حول الفرص والتحديات التي نواجهها منه.
تُعرّف مكتبة المصطلحات التقنية للأمن السيبراني CyberHoot برنامج ChatGPT بأنه روبوت محادثة يستخدم خوارزميات الذكاء الاصطناعي "المُحوِّل المُدرَّب مسبقًا" (GPT). يستطيع ChatGPT التحدث مع المستخدمين بأسلوب صحيح نحويًا، بل وتصحيح أخطاء الآخرين. كما يمكنه كتابة أكواد المبرمجين واستكشاف أخطائها وإصلاحها. يمتلك ذاكرة للمحادثات، ويمكنه الرجوع إلى الحوارات السابقة من المحادثة الحالية. يعترف بالأخطاء ويتحدى الافتراضات الخاطئة. يستطيع أيضًا كتابة كلمات الأغاني. عند معالجة موضوع معقد، يمكنه تلخيص النقاط الرئيسية بلغة طبيعية، مما يُسهِّل على الطلاب استخدام هذه الطريقة في أبحاثهم. وقد أقرّ 25% من الطلاب الذين شملهم استطلاع رأي حديث بأنهم يقومون بتلخيص المواضيع المعقدة لتحسين الفهم. مع أن هذا قد يكون أخلاقيًا تمامًا، إلا أن الدراسة نفسها أظهرت أن 5% من الطلاب يستخدمون الذكاء الاصطناعي لكتابة أبحاثهم.
في عام ٢٠١٩، استثمرت مايكروسوفت بكثافة (مليار دولار) في شركة Open AI، على الأرجح بهدف خلق بيئة تنافسية أقوى لمحركات البحث من خلال دمج نموذج لغة ChatGPT في محرك بحث BING. وقد زعمت مصادر عديدة أن BING قد تُطلق ميزة البحث باستخدام ChatGPT في مارس ٢٠٢٣. وفقًا لهذه المقالة من موقع TheWeek.Co.Uk:
" يُنظر إلى الذكاء الاصطناعي التوليدي على أنه الابتكار التكنولوجي الذي سيحدد ملامح العصر القادم، والذي سيغير طريقة إنشاء المحتوى الجديد عبر الإنترنت أو حتى تجربة الإنترنت... "
مع تطور تقنيات الذكاء الاصطناعي التوليدي، سيصبح من الصعب تحديد الأخبار الكاذبة والآراء المتحيزة. [ ما هي مصادر الحقيقة التي سنعتمد عليها ؟]
لفت انتباه موقع CyberHoot مقالاتٌ تُشير إلى أن المتسللين يستخدمون ChatGPT لكتابة برامج خبيثة، مثل برامج الفدية وهجمات التصيد الاحتيالي. وردّت OpenAI على هذه الانتقادات بالإشارة إلى شروط الاستخدام المقبول التي تحظر استخدام ChatGPT لأي نوع من الضرر ، وهي تُجري دراسةً لإضافة علامات مائية على مُخرجات مُحرك الذكاء الاصطناعي الخاص بها. وتزعم مقالاتٌ عديدةٌ من باحثين أمنيين أن المتسللين استغلوا ChatGPT لكتابة برامج خبيثة، على الرغم من الضوابط والآليات المُدمجة في الأداة.
إذن، أين يتركنا هذا؟ ماذا يعني كل هذا لأصحاب الشركات الصغيرة والمتوسطة أو موظفيها العاديين؟
على الصعيد الشخصي والمهني، يبدو الجواب واحدًا بالنسبة لـ CyberHoot. سيزداد اعتماد محتوى الإنترنت على أنظمة الذكاء الاصطناعي المُولّدة للاستهلاك البشري. ومع تحسّن القدرات من خلال التدريب، قد يبدأ المستهلكون بفقدان ثقتهم ببعض مؤسساتنا، مثل وسائل الإعلام أو الحكومة. إذا بدأنا بفقدان ثقتنا بمؤسساتنا التعليمية أو نظامنا القانوني/القضائي الأكثر موثوقية، فسنواجه تحديًا خطيرًا وهائلًا.
يجب أن نمتلك طريقة منطقية وعقلانية وسهلة للفصل بين الحقيقة والخيال. في مستقبل الذكاء الاصطناعي التوليدي، لن يكفي المنطق السليم للتمييز بينهما. وهذا لا يختلف عن تطور تقنية التزييف العميق (Deepfakes) لدرجة أنها باتت قادرة على جعل أي شخص يقول أي شيء.
في عصرٍ يُلزم فيه القانون بوضع ملصقات على الأطعمة العضوية أو الخالية من الكائنات المعدلة وراثيًا، يتساءل موقع CyberHoot: هل نحتاج إلى ملصقات تواصل مُتحقق منها بشكل مستقل على أنها "خالية من الذكاء الاصطناعي المُولِّد"؟ أم أن هذا يُغفل جوهر هذه التقنية؟ هل الهدف هو إنشاء محتوى هادف وسهل الاستهلاك، لا يُميز عن المحتوى الذي يُنتجه البشر؟ هل سيتم إنتاج أفلام Avatar من 10 إلى 15 بالكامل بواسطة أحدث استوديوهات أفلام الذكاء الاصطناعي المُولِّد؟
يجيب يعقوب جيه شتاين، كبير مسؤولي التكنولوجيا في شركة RAD Data Communications، ومقرها في إسرائيل، على السؤال:
لا تكمن مشكلة الذكاء الاصطناعي والتعلم الآلي في سيناريو الخيال العلمي المتمثل في سيطرة الذكاء الاصطناعي على العالم دون الحاجة إلى بشر أقل كفاءة. بل تكمن المشكلة في أننا نزداد اعتمادًا على الآلات، وبالتالي نصبح أكثر عرضة للأخطاء وأعطال الأنظمة. هذه ليست ظاهرة جديدة، ففي الماضي كان جزء كبير من التعليم مُخصصًا، على سبيل المثال، لمهارات الكتابة والحساب الذهني، والتي حلت محلها الوسائل التقنية. ولكن مع النمو الهائل في كمية المعلومات، أصبح التعليم أكثر تركيزًا على كيفية استرجاع المعلومات المطلوبة بدلًا من تذكرها، مما يؤدي ليس فقط إلى قلة التخزين الفعلي، بل إلى قلة عمق المعرفة وضعف القدرة على الربط بين أجزاء المعلومات المتباينة، وهو أساس الإبداع. ومع ذلك، لطالما طورت البشرية في الماضي تقنيات أكثر تقدمًا للتغلب على قيود أي تقنية كانت سائدة، وليس هناك ما يدعو للاعتقاد بأن الأمر سيكون مختلفًا هذه المرة.
المصدر: مركز بيو للأبحاث: التكنولوجيا تسبب مشاكل أكثر مما تحل
مصادر:
صحيفة الغارديان: مايكروسوفت تُدمج ChatGPT في محرك بحث BING الخاص بها
ZDNet: يحاول البعض إجبار ChatGPT على كتابة برامج ضارة
رويترز: مايكروسوفت تخطط لإطلاق نسخة ذكاء اصطناعي من محرك بحث بينغ مدعومة بتقنية ChatGPT
قراءة إضافية:
مركز بيو للأبحاث، 30 يونيو 2020: التكنولوجيا تُسبب مشاكل أكثر مما تحل - مجموعة مختارة من الإجابات المؤيدة والمعارضة لهذه الفرضية
استطلاع رأي الطلاب حول استخدام الذكاء الاصطناعي في التعليم العالي
اكتشف وشارك أحدث اتجاهات الأمن السيبراني والنصائح وأفضل الممارسات - إلى جانب التهديدات الجديدة التي يجب الحذر منها.
المؤلفة: كاتي بوكيتي | الافتتاحية: كريج تايلور افتتاحية بقلم كريج تايلور: لقد عرفنا ذلك منذ فترة...
اقراء المزيد
المؤلفة: كاتي بوكيتي | افتتاحية: كريغ تايلور افتتاحية بقلم كريغ تايلور: يجب أن يختبر اختبار CAPTCHA ما إذا...
اقراء المزيد
بقلم: كاتي بوكيتي | افتتاحية: كريغ تايلور | افتتاحية بقلم كريغ تايلور: أنا محظوظ لأن لدي...
اقراء المزيداحصل على نظرة أكثر حدة للمخاطر البشرية، من خلال النهج الإيجابي الذي يتفوق على اختبار التصيد التقليدي.
