دراسة.. نماذج الذكاء الاصطناعي تفتقر للشفافية

كشفت دراسة حديثة أن نماذج الذكاء الاصطناعي التي تكاثرت منذ إطلاق "تشات جي بي تي" تفتقر للشفافية في تصميمها، ما يشكل خطرا على التطبيقات التي ترتكز إليها تقنيا.
دراسة تنبه إلى افتقار نماذج الذكاء الاصطناعي ل"الشفافية" في تصميمها
وحسب هذه الدراسة، التي نشرت نتائجها أمس الأربعاء، فقد بين مؤشر جديد وضعه وأجرى حسابات على أساسه باحثون في جامعة ستانفورد في ولاية كاليفورنيا الأمريكية، أن أكثر النماذج العشرة التي أخضعت للتقويم شفافية لا يوفر في الواقع إلا 54 في المئة من الشفافية المطلوبة.
وقال مدير الأبحاث في جامعة ستانفورد ريشي بوماساني، في بيان، إن درجة الشفافية المطلوب توفرها في ما يسمى "نماذج التأسيس" يجب أن تتراوح بين 80 في المئة و100 في المئة".
وأوضح معدو الدراسة أن الافتقار للشفافية "يصعب على الشركات معرفة ما إذا كان بإمكانها بناء تطبيقات بأمان تقوم على هذه النماذج، وعلى الأكاديميين الاعتماد على هذه النماذج في أبحاثهم".
ولاحظت الدراسة أن "معظم الشركات لا تفصح عن مدى المحتوى المحمي بحقوق المؤلف والمستخدم لتدريب نموذجها. كما أن الشركات لا تكشف عن استخدام اليد العاملة البشرية لتصحيح بيانات التدريب، الأمر الذي قد يمثل مشكلة كبيرة".