الذكاء الاصطناعي يواجه تحديات الدقة.. روبوتات المحادثة تخطئ عند الإيجاز

كشفت دراسة حديثة قامت بها شركة “Giskard” الفرنسية، المتخصصة في اختبار أنظمة الذكاء الاصطناعي، نتائج مثيرة حول تأثير طلب الإجابات القصيرة من روبوتات الدردشة مثل ChatGPT على دقة المعلومات المولدة. تبين أن الإيجاز في الإجابة يمكن أن يزيد احتمالات توليد معلومات غير صحيحة أو مختلقة، مما يطرح تحديات جديدة في هذا المجال، وفقًا لتقرير نشره موقع “TechCrunch”.

تأثير طلب الإجابات القصيرة على دقة ChatGPT

أوضحت الدراسة أن طلب إجابات موجزة باستخدام عبارات مثل “كن موجزًا” قد يؤدي إلى ميل روبوتات الذكاء الاصطناعي لتقديم معلومات غير دقيقة، حيث تؤثر هذه التعليمات على طريقة استجابات الذكاء الاصطناعي. يُعزى ذلك إلى حاجة النماذج النصية إلى مساحة نصية كافية لتحليل الأسئلة بشكل أعمق وتصحيح الافتراضات الخاطئة التي قد ترد في الاستفسارات، وتبين أن الإيجاز يأتي على حساب الدقة في معظم الحالات.

كما أشارت الدراسة أن هذه الظاهرة تبرز بشكل خاص عند طرح استفسارات تتضمن مغالطات أو معلومات غامضة، فالنماذج تفشل في تفنيد هذه النقاط عندما تُطلب منها الإجابات الموجزة. النقطة الأبرز التي أثارتها الدراسة هي أن هذا التأثير لا يقتصر فقط على ChatGPT من OpenAI، بل يشمل أيضًا نماذج مثل GPT-4o، وClaude من Anthropic، وMistral Large، والتي أظهرت انخفاضًا مشتركًا في موثوقية الإجابات.

كيف تؤثر الطلبات الموجزة على تجربة الذكاء الاصطناعي؟

أكد الباحثون أن التوجيه المباشر للنموذج الخاص بالذكاء الاصطناعي للتركيز على الإيجاز يؤثر سلبًا على دقته، مما يعكس وجود تناقض بين تحسين تجربة المستخدم وسلامة المحتوى المعلوماتي. المشكلة تكمن في تفضيل النماذج للإيجاز لتقليل استهلاك البيانات وتسريع الأداء، وهو ما يُفضله المستخدمون في العادة، إلا أن ذلك يؤدي إلى تدهور الجودة المعلوماتية.

أحد الأمثلة المهمة التي ناقشتها الدراسة يتعلق بمدى ثقة روبوتات المحادثة في معالجة الاستفسارات التي تحمل مغالطات. فعندما تكون الأسئلة مثيرة للجدل وتُطرح بثقة مبالغ فيها، تجد النماذج صعوبة أكبر في تفنيدها، مما يُفضي إلى نشر معلومات غير صحيحة أو سطحية.

نماذج الذكاء الاصطناعي الأكثر تأثرًا

النماذج الأكثر تأثرًا بهذه الظاهرة تضمنت ChatGPT المعتمد على تقنية GPT-4o، إضافة إلى نماذج مثل Mistral وClaude، التي تمتلك حاليًا حصة جيدة من السوق. بالرغم من إمكانيات هذه النماذج المتقدمة، إلا أن النتائج تبين بوضوح أن القدرة على توفير إجابات دقيقة تتأثر سلبًا عند طلب إجابات موجزة.

تشير هذه النتائج إلى ضرورة تبني منهجيات جديدة عند استخدام أنظمة الذكاء الاصطناعي، لتوازن بين توفير تجربة مستخدم مميزة والمحافظة على مستوى عالٍ من المصداقية في الإجابات. كما يحتاج المطورون إلى تحديد حدود استخدام الإيجاز داخل تطبيقاتهم لضمان تقديم معلومات دقيقة وموثوقة.