توصل باحثون إلى تفسير رياضي يوضح لماذا قد تنتج أنظمة الذكاء الاصطناعي نتائج مختلفة حتى عندما تتدرب في ظل الظروف نفسها. وكشفت الدراسة أن هناك علاقة عكسية بين كفاءة تدريب الشبكات العصبية وإمكانية التنبؤ بنتائجها، وهو اكتشاف قد يساعد على تطوير أنظمة ذكاء اصطناعي أكثر استقرارا وموثوقية.
السبب ليس خللا في البرمجة أو الأجهزة
تدريب الذكاء الاصطناعي ( مصدر الصورة: جامعة سيدني )
كشف علماء من جامعة سيدني عن سبب اختلاف نتائج أنظمة الذكاء الاصطناعي، حتى عندما تخضع لعملية التدريب نفسها وبالظروف ذاتها.
ونشرت نتائج الدراسة في مجلة «نيتشر ماشين إنتليجنس» (Nature Machine Intelligence)، وقد تساعد على جعل أنظمة الذكاء الاصطناعي أكثر موثوقية وأسهل في التنبؤ بسلوكها.
وتوصل الباحثون إلى أن عدم الاستقرار في أداء الذكاء الاصطناعي لا ينتج عن أخطاء في الشيفرة البرمجية أو أعطال في الأجهزة، بل يرتبط بالطبيعة الرياضية لعملية تدريب الشبكات العصبية.
وخلال التجربة، درب الفريق نحو 500 ألف شبكة عصبية لتنفيذ مهام مختلفة، مثل التعرف على الصور ومعالجة النصوص، واكتشف في جميع الحالات نمطا متشابها.
خريطة توضح نتائج تدريب نماذج الذكاء الاصطناعي، حيث تمثل كل نقطة ملونة إعدادا ابتدائيا للنموذج. وتؤدي النقاط الزرقاء إلى نتيجة تدريب، بينما تؤدي النقاط البرتقالية إلى نتيجة أخرى. ويكشف تكوّن الألوان في نمط متداخل يشبه الفراشة عن استمرار اختلاط النتائج حتى عند تكبير أجزاء صغيرة من الخريطة. المصدر: جامعة سيدني.
فوضى رياضية تشبه الأنماط الفراكتالية
تمثلت الملاحظة الأساسية في أن فضاء النتائج المحتملة لعملية تدريب الشبكات العصبية يتخذ شكلا فراكتاليا معقدا، أطلق عليه الباحثون اسم «أحواض الجذب المتعرجة».
ويعني ذلك أن تغييرا ضئيلا للغاية في الإعدادات الأولية للنموذج، قد يصل إلى تغيير بت واحد فقط، يمكن أن يؤدي في نحو 48% من الحالات إلى سلوك مختلف تماما للشبكة العصبية.
والأكثر إثارة للاهتمام أن زيادة دقة الإعدادات الأولية بمقدار 10 مليارات مرة لا تؤدي إلا إلى تحسن طفيف للغاية في إمكانية إعادة إنتاج النتائج نفسها.
وتوضح هذه الظاهرة أن الاختلافات الصغيرة جدا في نقطة انطلاق عملية التدريب قد تقود إلى نتائج متباينة بشكل كبير، ما يجعل التنبؤ بسلوك الشبكات العصبية وإعادة الحصول على النتائج نفسها أمرا صعبا.
معادلة صعبة بين الكفاءة والقدرة على التنبؤ
أظهرت الدراسة وجود مفاضلة بين كفاءة الذكاء الاصطناعي وإمكانية التنبؤ بنتائجه.
فالإعدادات التي تجعل عملية تدريب الشبكات العصبية أسرع وأكثر كفاءة، تجعل نتائجها في الوقت نفسه أقل قابلية للتكرار والحصول على النتائج نفسها عند إعادة التدريب.
وبذلك، فإن تحسين أداء الشبكة العصبية لا يعني بالضرورة أن سلوكها سيصبح أكثر استقرارا أو أن نتائجها ستكون أسهل في التوقع.
نحو أنظمة ذكاء اصطناعي أكثر استقرارا
توفر الدراسة أدوات جديدة لقياس مدى حساسية الشبكات العصبية للتغيرات في إعداداتها الأولية، كما تحدد مسارات يمكن أن تساعد في تطوير بنى أكثر استقرارا للشبكات العصبية.
وقد تسهم هذه النتائج في فهم حدود موثوقية أنظمة الذكاء الاصطناعي، وتطوير نماذج يمكن التنبؤ بسلوكها بصورة أفضل، خصوصا في التطبيقات التي تتطلب نتائج مستقرة وقابلة لإعادة الاختبار.