بحث غوغل المدعوم بالذكاء الاصطناعي : ملخصات مضللة ونصائح خطيرة

منوعات

الذكاء الاصطناعي في غوغل ينصح بتناول حجرة يوميا و وضع الغراء على البيتزا

27 أيار 2024

طرحت شركة غوغل Google أحدث ميزة بحث تجريبية على Chrome و Firefox ومتصفح تطبيقات Google لمئات الملايين من المستخدمين، وهذه الميزة "نظرات عامة على الذكاء الاصطناعي" توفر عليك النقر على الروابط باستخدام  الذكاء الاصطناعي التوليدي، وهو نفس التقنية التي تعمل على تشغيل المنتج المنافس ChatGPT، لتقديم ملخصات لنتائج البحث .

ميزة البحث عبر الذكاء الاصطناعي على Google 

ويمكنك أن تسأل "كيفية الحفاظ على الموز طازجاً لفترة أطول" سيقوم  الذكاء الاصطناعي بإنشاء ملخص مفيد للنصائح مثل تخزينه في مكان بارد ومظلم وبعيداً عن الفواكه الأخرى مثل التفاح.

لكن اطرح عليه سؤالاً غير متوقع وقد تكون النتائج كارثية، أو حتى خطيرة، وتسعى شركة Google حالياً جاهدة لإصلاح هذه المشكلات واحدة تلو الأخرى، ولكنها تمثل كارثة علاقات عامة لعملاق البحث.

أجوبة غير منطقية ومقلقة للذكاء الاصطناعي على محرك البحثGoogle

يقول موقع الذكاء الاصطناعي AI Overviews إذا سألته عن لعبة "ضرب الخلد" بشكل مفيد أن "Whack-A-Mole هي لعبة أركيد كلاسيكية حيث يستخدم اللاعبون مطرقة لضرب الخلد الذي يظهر بشكل عشوائي للحصول على نقاط، وقد تم اختراع اللعبة في اليابان عام 1975 من قبل شركة الألعاب TOGO وكانت تسمى في الأصل Mogura Taiji أو Mogura Tataki. 

لكن AI Overviews سيخبرك أيضاً أن "رواد الفضاء التقوا بقطط على القمر، ولعبوا معهم، وقدموا لهم الرعاية"، والأمر الأكثر إثارة للقلق هو أن البرنامج يوصي أيضاً "بتناول حجرة صغيرة واحدة على الأقل يومياً" لأن "الصخور مصدر حيوي للمعادن والفيتامينات"، ويقترح وضع كمية من الغراء على البيتزا. 

لماذا تحدث المشاكل مع برامج الذكاء الاصطناعي؟

إحدى المشاكل الأساسية هي أن أدوات الذكاء الاصطناعي التوليدية لا تعرف ما هو صحيح، بل تعرف فقط ما هو شائع، وعلى سبيل المثال، لا يوجد الكثير من المقالات على الويب حول تناول الصخور، لأنها فكرة سيئة كما يعرف الجميع.

ومع ذلك، هناك مقال ساخر جيد القراءة من The Onion حول أكل الصخور، ولذلك بنى الذكاء الاصطناعي في غوغل ملخصه على ما هو موجود على الإنترنت، وليس على ما هو صحيح.

هناك مشكلة أخرى وهي أن أدوات الذكاء الاصطناعي التوليدية لا تحمل القيم التي يحملها البشر، فقد تم تدريبهم على جزء كبير من الويب فقط.

استغراب من مقدار تهذيب روبوتات الدردشة

وعلى الرغم من أن التقنيات المتطورة، التي تحمل أسماء غريبة مثل "التعلم المعزز من ردود الفعل البشرية" أو RLHF، تُستخدم للقضاء على الردود السيئة، فمن غير المستغرب أنها تعكس بعض التحيزات ونظريات المؤامرة التي يمكن العثور عليها على شبكة الإنترنت، وفي الواقع، يشعر الخبراء دائماً بالدهشة من مدى تهذيب روبوتات الدردشة المدعمة بالذكاء الاصطناعي وحسن التصرف، نظراً لما تدربت عليه.

موقع The Conversation