لندن-“القدس العربي”: أوضح باحثون، حسب تقرير مطوّل نشر في مجلة “نايتشر” العلمية، كيف يمكن خداع نظام ذكاءٍ اصطناعي (في السيارات على سبيل المثال) لجعله يُخطئ في قراءة علامة “توقَّف” المرورية، عبر وضع ملصقاتٍ عليها بعناية. وتمكنوا من تضليل أنظمة التعرف على الوجوه، عن طريق لصق أشكال مطبوعة على النظارات أو القبعات. كما احتالوا على أنظمة التعرف على الكلام بدفعها إلى تخيُّل سماع عباراتٍ وهمية، عن طريق إقحام أنماطٍ من الضجيج الأبيض في الأصوات التي تسمعها.
وليست هذه إلا أمثلة على مدى سهولة عرقلة تقنية التعرف على الأنماط في الذكاء الاصطناعي المعروفة باسم الشبكات العصبية العميقة. وتقول المجلة “أثبتت هذه الشبكات قدرتها المذهلة على تصنيف جميع أنواع المدخلات بشكلٍ صحيح، بما في ذلك الصور، والكلام، والبيانات المتعلقة بتفضيلات المستهلكين. وباتت جزءا من الحياة اليومية، إذ تدير كل شيء، بدءًا من أنظمة الهاتف المشغلة تلقائيًّا، حتى تقديم التوصيات إلى مستخدمي خدمة البث نتفليكس ،ورغم ذلك، فإنَّ تعديل المدخلات بتغييراتٍ بسيطة للغاية لا يلاحظها البشر عادةً يمكن أن يُربِك أفضل الشبكات العصبية”.
وقال دان هندريكس، طالب الدكتوراه في علوم الكمبيوتر في جامعة كاليفورنيا في مدينة بيركلي الأمريكية، خلال حديثه مع “نايتشر” إنَّ “هذه المشكلات مقلقةٌ أكثر من أي سماتٍ غريبة وشاذة تُظْهِرها تقنيةٌ غير مثاليةٍ بعد كهذه”. وكما العديدٍ من العلماء، أصبح هندريكس يرى أنَّ “هذه المشكلات هي أوضح مثالٍ على الطبيعة الواهية للشبكات العصبية العميقة؛ فهي تؤدي مهامها ببراعة، إلى أنْ تواجه موقفًا غير مألوف، فتتعطل وتُخطئ بطرقٍ غير متوقعة”.
ويضيف التقرير أنه، أظهرت دراسةٌ جديدة نشرت خلال العام الجاري، أن إضافة بكسلاتٍ مُضَلِّلة إلى صور الفحوص الطبية قد تخدع الشبكة العصبية العميقة، وتجعلها تخلص إلى تشخيص خاطئ بالإصابة بمرض السرطان. وقد أشارت دراسةٌ أخرى إلى أنَّ “نقاط الضعف تلك ربما يستغلها أحد قراصنة شبكة الإنترنت، للسيطرة على نظامٍ مبنِيّ على الذكاء الاصطناعي بالشبكة، بحيث يدفع النظام إلى تشغيل خوارزمياته الخاصة“.
واكتشف الباحثون الكثير عن أسباب حالات إخفاق الشبكات العصبية العميقة، إذ يرى فرانسوا شوليه، مهندس الذكاء الاصطناعي في شركة “غوغل” أنَّه “لا توجد حلول للطبيعة الواهية للشبكات العصبية العميقة”. ويضيف “من أجل تجاوُز تلك العيوب، يحتاج الباحثون إلى تعزيز الشبكات العصبية العميقة التي تتحرى التطابق بين الأنماط بقدراتٍ إضافية. وعلى سبيل المثال بتطوير أنظمة ذكاء اصطناعي تستطيع استكشاف العالَم بنفسها، وكتابة أكواد برامجها الخاصة، والاحتفاظ بالذكريات. ويَعتقِد بعض الخبراء أنَّ هذه الأنواع من النظم ستشكل مستقبل أبحاث الذكاء الاصطناعي في العقد المقبل”.
ويشير التقرير إلى أنه تتسم الشبكات العصبية العميقة بالفاعلية نتيجة قدرتها على ملاحظة الأنماط “في سماتٍ كثيرة مختلفة من سمات المدخلات عند محاولة تصنيف مدخل ما”. ففي حال أخذنا نظام ذكاء اصطناعي مُدرَّب على التعرف على الطائرات حسب سماتٍ معينة، مثل الرقع الملونة، أو بنيتها، بالإضافة إلى السمات البارزة للطائرة، كالأجنحة، يعني ذلك أنَّ “أي تغييرٍ بسيط جدًّا في المدخلات يمكن أن يحولها إلى ما يعتبره نظام الذكاء الاصطناعي حالةً مختلفةً تمامًا”.
وقد اقترح هندريكس وزملاؤه تحديد متانة شبكة عصبية عميقة، وقدرتها على تجنب ارتكاب الأخطاء عبر اختبار أدائها حين تتعرض لمجموعةٍ كبيرة من الأمثلة الخادعة. ومع ذلك، يرون أنَّ تدريب الشبكات على التصدي لنوعٍ واحد من التغيرات يمكن أن يُضعِف قدرتها على مواجهة الأنواع الأخرى. ويحاول باحثون من شركة “غوغل ديب مايند” بقيادة عالم الكمبيوتر بوشميت كولي، أن يطوروا الشبكات العصبية العميقة كي لا ترتكب الأخطاء. ويرى فريق كولي أنَّ “أي شبكة عصبية عميقة متينة يُفترَض ألا تغير نتائجها عند وجود تغيراتٍ طفيفة في مدخلاتها، وأنَّ هذه الخاصية ربما يمكن دمجها حسابيًّا في الشبكة، لوضع ضوابط لآلية تعلمها”.
ورغم ذلك، يشير التقرير إلى أنه لا يملك أحد حالياً حلولا للمشكلة الأعم المتمثلة في الطبيعة الواهية لأنظمة الذكاء الاصطناعي. ويرى علماء أنَّ “أساس المشكلة هو أنَّ الشبكات العصبية العميقة ليس لديها نموذجٌ فعال تعتمد عليه في اختيار العناصر المهمة في المدخلات”. إذ حين يصنف نظام الذكاء الاصطناعي صورةً معدلة لأسد على أنَّها صورةٌ لمكتبة، تظل صورة أسد بالنسبة إلى الشخص العادي، لأنَّ لديه نموذجًا عقليًّا للحيوان يستند إلى مجموعةٍ من السمات رفيعة المستوى، مثل الأذنين، والذيل، واللبدة، وما إلى ذلك. وهذا يسمح للإنسان أن يتجاهل التفاصيل العشوائية، أو العَرَضية، منخفضة المستوى. ويضيف بنجيو قائلًا: “نعرف من التجارب السابقة أي السمات أكثر وضوحًا. وهذا ينبع من فهْمٍ عميق لبِنْية العالم”.