الأمن السيبراني: ما الذي يمكن انتظاره في 2024 بخصوص الذكاء الاصطناعي؟

في تقريره الأخير، كشف فريق خبراء كاسبرسكي الأثر العميق للذكاء الاصطناعي على مشهد الأمني الإلكتروني لسنة 2023. وتطرق التحليل للآثار المترتبة عن مختلف أوجه استعمال الذكاء الاصطناعي، عبر التركيز من جهة على إمكانيات استخدامه لأغراض دفاعية أومن قبل السلطات، ومن جهة ثانية على إمكانيات استغلاله من طرف الإجرام الإلكتروني.
وتجدر الإشارة إلى أن هذا التقرير يعد جزءا من النشرة الأمنية لكاسبرسكي (KSB)، وهي عبارة عن تركيب سنوي للتوقعات والدراسات المعمقة التي تسلط الضوء على أبرز التغيرات في مجال الأمن السيبراني.
في سياق السرعة التي تحدث بها الطفرات التكنولوجية والتطورات الاجتماعية في حياتنا اليومية، أصبح مفهوم "الذكاء الاصطناعي" يتصدر مواضيع النقاشات الشائعة خلال سنة 2023. وأدى التطور الذي عرفته النماذج اللغوية الكبرى (LLM) والصعود القوي للانشغالات في مجال الأمن والخصوصية، إلى إنشاء علاقة مباشرة بين الذكاء الاصطناعي وعالم الأمن السيبراني. وفي هذا الصدد، كشف باحثوا كاسبرسكي عن الكيفية التي تستغل بها أدوات الذكاء الاصطناعي في مساعدة المجرمين السيبرانيين على القيام بأنشطتهم المضرة خلال سنة 2023، مع إبراز التطبيقات الدفاعية الممكنة لهذه التكنولوجيا.
وفيما يلي بعض توقعات خبراء الشركة المتعلقة بتداعيات الذكاء الاصطناعي على مشهد التهديدات:
نقاط ضعف وثغرات أكثر تعقيدا:
مع تواصل إدماج النماذج اللغوية في عدد متزايد من المنتجات واسعة الاستهلاك، يرتقب أن تظهر نقاط ضعف وثغرات جديدة أكثر تعقيدا عند التقاء الذكاء الاصطناعي التوليدي مع التكنولوجيا التقليدية، الشيء الذي يؤدي إلى توسيع المساحات المعرضة للهجمات والتي سيكون على مهنيي الأمن السيبراني حمايتها. سيكون إذن على المطورين دراسة تدابير أمنية جديدة، من قبيل قبول المستخدمين بالعمليات التي يتم إطلاقها من قبل عناصر النماذج اللغوية الواسعة (LLM).
مساعد متكامل بالذكاء صناعي لأخصائيي الأمن السيبراني:
يستغل أعضاء الفريق الأحمر والباحثين في المجال السيبراني الذكاء الاصطناعي التوليدي لإنشاء أدوات مبتكرة لتعزيز الأمن السيبراني، الشيء الذي يمكن أن يؤدي إلى خلق مساعد رقمي مرتكز على النماذج اللغوية الواسعة (LLM) أو على التعلم الرقمي (ML). يمكن لهذه الأداة أن تتيح للفريق الأحمر جعل بعض المهام أوتوماتيكية، من خلال توفير النصائح المرتكزة على الأوامر المنفذة في إطار بيئة لاختبار الاختراق.
سيتزايد استعمال الشبكات العصبية لتوليد محتويات مرئية مفيدة للمحتالين:
خلال السنة المقبلة، سيتمكن المحتالون من تعزيز استراتيجياتهم باستعمال الشبكات العصبية، والاستفادة من أدوات الذكاء الاصطناعي لخلق محتويات أكثر خداعا وبطرق أكثر إقناعا. مع التوفر على قدرات توليد صور وفيديوهات مقنعة بدون عناء، يجب انتظار تصاعد التهديدات السبرانية في مجال النصب والاحتيال.
استبعاد أن يؤدي الذكاء الاصطناعي إلى إحداث تغيير جوهري في مشهد التهديدات خلال سنة 2024:
رغم التوجهات التي أشير إليها سابقا، لا يزال خبراء كاسبرسكي متشككين في قدرة الذكاء الاصطناعي على زعزع مشهد التهديدات بشكل جدري في المستقبل القريب. إذا اعتمد المجرمون السيبرانيون على الذكاء الاصطناعي التوليدي، فإن الأمر سيكون مماثلا بالنسبة للمدافعين عن الأمن السيبراني، الذين يستخدمون نفس الأدوات، وربما أدوات أكثر تطورا، بغرض اختبار الفعالية الأمنية للبرمجيات والشبكات. لذلك فإنه يبدو من المستبعد أن يغير الذكاء الاصطناعي مشهد الهدمات بشكل جذري.
المزيد من المبادرات التنظيمية في مجال الذكاء الاصطناعي بمساهمة القطاع الخاص:
تطرح السرعة التي تتطور بها التكنولوجيا مسألة بلورة سياسات ولوائح تنظيمية تتوخى مراقبة وضبط هذه التكنولوجيا قدر الإمكان. لذلك فإن عدد المبادرات التنظيمية المرتبطة بالذكاء الاصطناعي مرشحة للتزايد. ويمكن للفاعلين غير الحكوميين، كالمقاولات التكنولوجية، بالنظر إلى خبرتها في تطوير واستعمال الذكاء الاصطناعي، أن تساهم بفعالية في النقاشات حول اللوائح التنظيمية، سواء على المستوى الدولي أو الوطني.
فيليغرانات لضبط المحتوى المولد بالذكاء الاصطناعي:
يتطلب الأمر المزيد من اللوائح التنظيمية، إضافة إلى التدابير التي يتخذها مزودو الخدمات، للتعرف والإبلاغ عن المحتوى المولد عن طريق الذكاء الاصطناعي، بالنظر إلى كون هذه الأدوات مجهزة أكثر فأكثر لتفادي تقنيات الكشف. من جهتهم سيكون على المطورين والباحثين المساهمة في بلورة أساليب الفيليغران الموجهة لضبط المحتويات التي يولدها الذكاء الاصطناعي وتسهيل التعرف على مصدرها.
وصرح فلاديسلاف توشكانوف، خبير الأمن لدى كاسبرسكي.« يشكل الذكاء الاصطناعي في مجال الأمن السيبراني سلاحا ذو حدين. فقدراته على التأقلم تعزز دفاعاتنا، وتشكل سورا واقيا ضد التهديدات التي تتطور باستمرار. إلا أن خصائصه الديناميكية تتضمن كذلك حصتها من المخاطر، لأن المهاجمين يستفيدون من الذكاء الاصطناعي لبلورة هجمات أكثر تعقيدا. وبالتالي فمن المهم إيجاد التوازن الأمثل، عبر ضمان استعمال مسؤول، بدون مشاركة مفرطة للبيانات الحساسة، من أجل تأمين حدودنا الرقمية »،