لماذا تُصدّق إجابة الذكاء الاصطناعي بمجرد أن تبدو واثقة

تفتح محادثة مع نموذج ذكاء اصطناعي، تطرح سؤالاً تقنياً أو قانونياً أو مالياً، فتصلك إجابة منظّمة بفقرات مرتّبة ولغة واثقة لا تتردّد ولا تتلعثم. تنسخها مباشرة إلى تقريرك أو رسالتك أو قرارك. بعد أسابيع يكتشف أحدهم أن رقماً فيها غير دقيق، أو أن مرجعاً لم يكن موجوداً أصلاً. لم تكذب الإجابة عليك بقدر ما بدت لك صحيحة، وهذا الفرق تحديداً هو ما يستحق التوقف عنده.

الطلاقة ليست دليل صحة

يميل الذهن البشري إلى معاملة النص السلس السهل القراءة كأنه نص صادق، بصرف النظر عن مضمونه — وهذا ما يُعرف في علم النفس المعرفي بـ"تأثير الطلاقة المعرفية" (processing fluency): كلما قرأنا جملة بسهولة أكبر، زادت ثقتنا في صحتها، حتى لو لم نتحقق من مصدرها. النماذج اللغوية مبنية أصلاً لتنتج نصاً بالغ الطلاقة — فقرات متماسكة، وانتقالات منطقية، ونبرة متزنة — لأن هذا هو ما تدرّبت عليه: إنتاج النص الأكثر احتمالاً لغوياً، لا الأكثر دقة واقعياً. النتيجة أن أكثر النماذج طلاقة قد تكون أيضاً الأكثر قدرة على إقناعك بمعلومة خاطئة.

حين تكون أنت السائل والحكم في آنٍ واحد

في محادثة عادية مع الذكاء الاصطناعي، أنت من يطرح السؤال وأنت وحدك من يحكم على الجواب — بلا طرف ثالث، بلا خطوة تحقق منفصلة، بلا معيار خارجي تقيس عليه. حين يبدو الجواب متماسكاً ومنظّماً، يسهل أن يمر الحكم دون تدقيق فعلي، لأن الشكل النهائي يوحي بالجهد والدقة. أغلب من يستخدم الذكاء الاصطناعي يستثمر وقته في تحسين طريقة السؤال، وهي خطوة مهمة فعلاً، لكنها تعالج نصف المشكلة فقط؛ النصف الآخر — كيف تتحقق مما وصلك — يبقى دون أداة أو عادة واضحة.

كل نموذج يُخطئ بطريقته الخاصة

لا تتشابه نماذج الذكاء الاصطناعي في نقاط ضعفها: بعضها يميل لاختلاق مراجع تبدو أكاديمية، وبعضها يفرط في الثقة عند الأرقام والحسابات، وبعضها يتجاهل تفاصيل السياق المحلي حين لا يُطلب منه ذلك صراحة. برومبت واحد عام لا يراعي هذا التفاوت، بينما يحتاج التحقق الفعّال إلى معرفة مسبقة بميول كل نموذج تحديداً — لا بوصفه ذكاءً اصطناعياً عاماً، بل بوصفه نظاماً له نقاط انحراف معروفة يمكن الاحتراس منها قبل الوثوق بمخرجه. معرفة هذا التفاوت مسبقاً توفّر وقت المراجعة اللاحقة كله، فتحصر التحقق في النقطة التي يُرجَّح أن ينزلق عندها ذلك النموذج تحديداً، لا في النص كله من أوله لآخره.

برومبت يطلب وبرومبت يتحقّق — في خطوة واحدة

زينها برومبت يبني من سؤالك عبر شجرة استجواب ديناميكية وقاعدة معرفة خاصة بكل نموذج من أقوى ثمانية نماذج ذكاء اصطناعي، ثلاثة مخرجات معاً: البرومبت الرئيسي الذي يطرح طلبك بأفضل صياغة ممكنة لذلك النموذج تحديداً، وضمانات الجودة التي تحدّ من انحرافه المعروف، وبرومبت التحقّق المرافق الذي تستخدمه — على النموذج نفسه أو غيره — لمراجعة الإجابة قبل أن تثق بها. التحقق هنا ليس خطوة إضافية تتذكّرها أحياناً، بل جزء من طلبك منذ اللحظة الأولى. حين يصبح التحقق جزءاً من طريقة الطلب لا خطوة لاحقة نتذكّرها أحياناً، تتغيّر علاقتك بكل إجابة تصلك — من التصديق السريع إلى الثقة المبنية على دليل.