الذكاء الاصطناعي يواصل إرعاب العالم ومخاوف من استخدامه في هجوم إلكتروني كبير

لندن ـ «القدس العربي»: تستمر ثورة «الذكاء الاصطناعي» التي يشهدها العالم في التطور بشكل مستمر، ويشكل هذا التطور الثوري المستمر مصدراً للرعب في مختلف أنحاء العالم حتى وصل إلى تحذير البعض بأن تتفوق هذه التكنولوجيا على الإنسان وتخرج عن طوعه وسيطرته وبالتالي تؤدي إلى تدميره وتدمير الحياة على كوكب الأرض.

وفي أحدث التحذيرات الصادرة بشأن الأضرار التي يُمكن أن يُسببها الذكاء الاصطناعي، فقد حذر تقرير متخصص من إمكانية أن يتم استخدام برنامج «تشات جي بي تي» وهو أشهر برامج الذكاء الاصطناعي في العالم حالياً، في شن هجمات إلكترونية سيبرانية قد تؤدي إلى أضرار واسعة على مستوى العالم أو بالنسبة للجهة المستهدفة.
وحذر التقرير من إمكانية استخدام هذا البرنامج من قبل أشخاص عاديين لتنفيذ هجمات إلكترونية، حيث تتيح الثغرة الأمنية للمستخدمين أن يطلبوا من برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي كتابة تعليمات برمجية ضارة يمكنها اختراق قواعد البيانات وسرقة المعلومات الحساسة.
وحسب تقرير مفصل نشرته جريدة «دايلي ميل» البريطانية، واطلعت عليه «القدس العربي» فقد أبدى الباحثون قلقهم من هذا الاحتمال، وقالوا إن خوفهم الأكبر هو أن الناس قد يفعلون ذلك عن طريق الخطأ دون أن يدركوا، ما قد يتسبب في تعطل أنظمة الكمبيوتر الرئيسية.
وعلى سبيل المثال، يمكن للممرضة أن تطلب من «ChatGPT» المساعدة في البحث في السجلات السريرية، ومن دون علمها يتم إعطاؤها رمزاً ضاراً للقيام بذلك مما قد يؤدي إلى تعطيل الشبكة دون سابق إنذار.
وقال فريق بحثي من جامعة شيفيلد البريطانية إن روبوتات الدردشة كانت معقدة للغاية لدرجة أن الكثيرين، بما في ذلك الشركات المنتجة لها، «لم يكونوا على علم» بالتهديدات التي تشكلها.
وتم نشر الدراسة قبل ما يزيد قليلاً عن أسبوع من انعقاد قمة سلامة الذكاء الاصطناعي الحكومية حول كيفية نشر التكنولوجيا بأمان.
ومن المقرر أن يجتمع قادة العالم ورؤساء التكنولوجيا والأكاديميون وجهاً لوجه للمرة الأولى للاتفاق على إطار عمل لحماية العالم من الضرر «الكارثي» المحتمل للذكاء الاصطناعي.
وقالت شركة «OpenAI» وهي الشركة الأمريكية الناشئة التي قامت باختراع برنامج «تشات جي بي تي» إنها قامت منذ ذلك الحين بإصلاح الثغرة المحددة بعد الإبلاغ عن المشكلة.
ومع ذلك، قال الفريق في قسم علوم الكمبيوتر في شيفيلد إنه من المحتمل أن يكون هناك المزيد، ودعا صناعة الأمن السيبراني إلى النظر في القضية بمزيد من التفصيل.
وتعد هذه الورقة الأولى من نوعها التي توضح أن ما يسمى بـ«أنظمة تحويل النص إلى (SQL)» وهو الذكاء الاصطناعي الذي يمكنه البحث في قواعد البيانات عن طريق طرح الأسئلة بلغة واضحة، يمكن استغلاله لمهاجمة أنظمة الكمبيوتر في العالم الحقيقي.
وقام الباحثون بتحليل خمس أدوات تجارية للذكاء الاصطناعي في المجمل، ووجدوا أن جميعها كانت قادرة على إنتاج رموز ضارة يمكنها، بمجرد تنفيذها، تسريب معلومات سرية ومقاطعة الخدمات أو حتى تدميرها بالكامل.
وتشير النتائج إلى أنه ليس فقط المتسللين الخبراء هم من يمكنهم الآن تنفيذ مثل هذه الهجمات، بل الأشخاص العاديون أيضاً.
ويخشى الباحثون أن يؤدي ذلك إلى عدم إدراك المستخدمين الأبرياء أنهم فعلوا ذلك وإصابة أنظمة الكمبيوتر عن طريق الخطأ.
وقال شوتان بينغ، طالب دكتوراه في جامعة شيفيلد والذي شارك في قيادة البحث: «في الواقع، فإن العديد من الشركات ببساطة ليست على علم بهذه الأنواع من التهديدات، ونظراً لتعقيد روبوتات الدردشة، حتى داخل المجتمع، هناك الأشياء التي ليست مفهومة تماماً. في الوقت الحالي، يحظى (تشات جي بي تي) بالكثير من الاهتمام».
وأضاف: «إنه نظام مستقل، وبالتالي فإن المخاطر التي تتعرض لها الخدمة نفسها ضئيلة، ولكن ما وجدناه هو أنه يمكن خداعه لإنتاج تعليمات برمجية ضارة يمكن أن تلحق ضررًا جسيمًا بالخدمات الأخرى».
وتابع: «الخطر في أنظمة الذكاء الاصطناعي هو أن المزيد والمزيد من الأشخاص يستخدمونها كأدوات إنتاجية، بدلاً من روبوتات المحادثة، وهذا هو المكان الذي تظهر فيه أبحاثنا نقاط الضعف».
ويقول بينغ: «كما هو موضح في دراستنا، يمكن أن يكون كود SQL الذي ينتجه برنامج تشات جي بي تي في كثير من الحالات ضاراً لقاعدة البيانات، لذلك قد تتسبب الممرضة بالمستشفى مثلاً في حدوث أخطاء خطيرة في إدارة البيانات دون حتى تلقي تحذير».
وقال الدكتور مارك ستيفنسون، أحد كبار المحاضرين في مجموعة أبحاث معالجة اللغات الطبيعية بجامعة شيفيلد إن أنظمة الذكاء الاصطناعي «قوية للغاية، لكن سلوكها معقد ويمكن أن يكون من الصعب التنبؤ به».
وأضاف: «في جامعة شيفيلد، نعمل حالياً على فهم هذه النماذج بشكل أفضل والسماح بتحقيق إمكاناتها الكاملة بأمان».
وحذر الباحثون أيضًا من أن الأشخاص الذين يستخدمون الذكاء الاصطناعي لتعلم لغات البرمجة يشكلون خطراً أيضاً، حيث يمكنهم عن غير قصد إنشاء تعليمات برمجية ضارة.
ومن المقرر أن تستضيف بريطانيا قمة سلامة الذكاء الاصطناعي خلال الأيام القليلة المقبلة، حيث تدعو الحكومة قادة العالم وعمالقة الصناعة للاجتماع معاً لمناقشة الفرص والمخاوف المتعلقة بالسلامة حول الذكاء الاصطناعي.
يشار إلى أن الكثير من الخبراء والباحثين والعاملين في صناعة التكنولوجيا يبدون مخاوف متزايدة من تطور تكنولوجيا الذكاء الاصطناعي، حيث يتوقعون أن تسبب هذه التكنولوجيا تدميراً للبشرية.
ويعتقد الملياردير الأمريكي المعروف إيلون ماسك الذي يعمل أيضاً في هذا القطاع أن الذكاء الاصطناعي سيؤدي إلى نهاية البشر، وهو خوف شاركه فيه عالم الفيزياء المعروف والراحل ستيفن هوكينغ.
ويريد إيلون ماسك دفع التكنولوجيا إلى أقصى حدودها المطلقة، بدءاً من السفر إلى الفضاء وحتى السيارات ذاتية القيادة، لكنه يضع حداً أقصى للذكاء الاصطناعي، بحسب ما تقول جريدة «دايلي ميل». وأعرب الملياردير لأول مرة عن نفوره من الذكاء الاصطناعي في عام 2014 واصفاً إياه بأنه «أكبر تهديد وجودي للبشرية» وشبهه بـ«استدعاء الشيطان».
وفي ذلك الوقت، كشف ماسك أيضاً أنه كان يستثمر في شركات الذكاء الاصطناعي ليس لكسب المال ولكن لمراقبة التكنولوجيا في حالة خروجها عن السيطرة.
ويقول ماسك إن خوفه الرئيسي هو أن يقع الذكاء الاصطناعي في الأيدي الخطأ، حيث إذا أصبح الذكاء الاصطناعي متقدماً، فقد يتفوق على البشر ويتسبب في نهاية البشرية، وهو ما يُعرف باسم التفرد.
ويتقاسم العديد من العقول اللامعة هذا القلق، بما في ذلك الراحل ستيفن هوكينغ، الذي قال لشبكة «بي بي سي» في عام 2014: «إن تطوير الذكاء الاصطناعي الكامل يمكن أن يعني نهاية الجنس البشري». وأضاف: «سوف تنطلق من تلقاء نفسها وتعيد تصميم نفسها بمعدل متزايد باستمرار».
وعلى الرغم من خوفه من الذكاء الاصطناعي، استثمر ماسك في مجموعة «Vicarious» للذكاء الاصطناعي ومقرها سان فرانسيسكو، وفي «DeepMind» التي استحوذت عليها جوجل منذ ذلك الحين، كما أنه يستثمر أيضاً في شركة «OpenAI» التي قــــامت بابتكار برنامج «ChatGPT» الشهير الذي أحدث ثورة في العالم في الأشهر الأخيرة.
وخلال مقابلة عام 2016 أشار ماسك إلى أنه شارك في تأسيس شركة «OpenAI» من أجل «إضفاء الطابع الديمقراطي على تكنولوجيا الذكاء الاصطناعي لجعلها متاحة على نطاق واسع».
وأسس ماسك شركة «OpenAI» مع سام ألتمان، الرئيس التنفيذي للشركة، ولكن في عام 2018 حاول الملياردير السيطرة على الشركة الناشئة، لكن تم رفض طلبه مما اضطره إلى ترك «OpenAI» والمضي قدماً في مشاريعه الأخرى.
وفي تشرين الثاني/نوفمبر الماضي أطلقت «OpenAI» تطبيق «تشات جي بي تي» والذي حقق نجاحاً فورياً في جميع أنحاء العالم. ويستخدم برنامج الدردشة الآلي برنامج «نموذج اللغة الكبير» لتدريب نفسه عن طريق البحث في كمية هائلة من البيانات النصية حتى يتمكن من تعلم إنشاء نص يشبه الإنسان بشكل مخيف استجابة لمطالبة معينة. ويُستخدم التطبيق لكتابة الأوراق البحثية والكتب والمقالات الإخبارية ورسائل البريد الإلكتروني والكثير من الأشياء الأخرى.