الهلوسة الرقمية.. عندما يقدم لك الذكاء الاصطناعي معلومات غير صحيحة وكأنها حقيقة
بقلم: محمد الورياغليأصبح الذكاء الاصطناعي حاضرا في تفاصيل كثيرة من حياتنا اليومية، نسأله عن المعلومات، ونستخدمه للبحث والكتابة والتعلم، ونستعين به أحيانا لاتخاذ قرارات مختلفة، لكن رغم قدرته الكبيرة على تقديم إجابات مفيدة، فإنه ليس معصوما من الخطأ.
ومن بين الظواهر التي أصبحت مرتبطة باستخدام أدوات الذكاء الاصطناعي ما يُعرف باسم “الهلوسة الرقمية” أو “هلوسة الذكاء الاصطناعي“. فما المقصود بهذا المصطلح؟
ببساطة، تحدث الهلوسة الرقمية عندما يقدم الذكاء الاصطناعي معلومة غير صحيحة أو مختلقة، لكنه يعرضها للمستخدم بطريقة تبدو وكأنها معلومة حقيقية.
قد يسأل المستخدم عن شخص أو كتاب أو دراسة أو حدث، فيحصل على إجابة تحتوي على أسماء وتواريخَ وتفاصيلَ دقيقة ظاهريا، ثم يكتشف لاحقا أن بعض هذه المعلومات غير موجود أصلا.
الأمر شبيه إلى حدّ ما بشخص تحت تأثير المخدِّر عند طبيب الأسنان، يقول أشياء بنبرة ثابتة وبكلّ ثقة، لكن كلّ ما يقوله غير صحيح أو غير دقيق بالمرّة.
وهنا تكمن إحدى أهم مشكلات هذه الظاهرة: الخطأ ليس دائما واضحا.
فالذكاء الاصطناعي قد لا يقول للمستخدم شيئا يبدو غريبا أو غير منطقي، وإنما يمكن أن يقدم إجابة مرتبة وواضحة وبأسلوب واثق، وهو ما قد يجعل اكتشاف المعلومة الخاطئة أكثر صعوبة، خصوصا بالنسبة إلى شخص لا يملك معرفة سابقة بالموضوع الذي يسأل عنه.
لماذا تحدث الهلوسة الرقمية؟
عندما نتحدث مع الذكاء الاصطناعي، قد يبدو لنا أحيانا وكأننا نتعامل مع شخص يعرف الإجابة عن كل سؤال، لكن هذا التصور غير دقيق.
فالذكاء الاصطناعي يمكن أن يملك قدرة كبيرة على التَّعامل مع المعلومات وصياغة الإجابات، لكنه قد لا يملك في كل حالة معلومة صحيحة أو مؤكدة تجيبه عن السؤال الذي طرحه المستخدم.
وفي بعض الحالات، بدل أن يتوقف ويقول “لا أعرف”، قد يقدم إجابة تبدو مناسبة للسؤال، لكنها تحتوي على معلومات غير صحيحة.
ليست كل الأخطاء خطيرة بالدرجة نفسها
قد تكون بعض حالات الهلوسة الرقمية بسيطة جدا.
فإذا أخطأ الذكاء الاصطناعي في تاريخ حدث تاريخي، أو أخطأ في رقم لا يؤثر على قرار مهم، يمكن تصحيح الخطأ بسهولة.
لكن المشكلة تصبح أكثر خطورة عندما تكون الإجابة مرتبطة بموضوع يمكن أن يؤثر مباشرة في حياة الإنسان أو أمواله.
تخيل مثلًا أن شخصا يسأل الذكاء الاصطناعي عن أعراض صحية، ثم يعتمد على إجابة غير صحيحة ويؤخر طلب المساعدة الطبية.
أو أن شخصا يسأل عن استثمار مالي، ثم يتخذ قرارا بشراء أصل أو بيع استثمار بناء على معلومات قدمها الذكاء الاصطناعي وكانت غير صحيحة.
في هذه الحالات، لم تعد المسألة مجرد إجابة خاطئة على شاشة الكمبيوتر، وإنما يمكن أن تتحول المعلومة الخاطئة إلى قرار له نتائج حقيقية.
عندما تصل الهلوسة الرقمية إلى الطب والمال
توجد بالفعل أمثلة منشورة توضح أن الاعتماد غير الحذر على إجابات الذكاء الاصطناعي يمكن أن يكون له عواقب خطيرة.
في المجال الطبي، وثقت أبحاث وحالات منشورة مخاطر استخدام روبوتات المحادثة في تقديم معلومات صحية غير دقيقة، خصوصا عندما يتعامل المستخدم مع الإجابة على أنها تشخيص أو نصيحة طبية مؤكدة.
أما في المجال المالي، فإن المشكلة قد تكون خسارة أموال حقيقية. فإذا قدم الذكاء الاصطناعي معلومات غير صحيحة عن شركة أو استثمار أو وضع مالي، ثم استخدم شخص تلك المعلومات لاتخاذ قرار، فقد يدفع ثمن الخطأ من أمواله.
ولا تقتصر المشكلة على المستخدمين العاديين.
فقد شهدت الولايات المتحدة قضية شهيرة استخدم فيها محامون معلومات قدمها ChatGPT في وثيقة قانونية، قبل أن يتبين أن بعض القضايا والمراجع التي ذكرها النظام لم تكن موجودة أصلا. ولم يتوقف الأمر عند اكتشاف الخطأ، إذ واجه المحامون إجراءات وعقوبات بسبب تقديم هذه المراجع غير الصحيحة إلى المحكمة.
هذه الحالة توضح شيئا مهمّا: يمكن لمعلومة مختلقة من الذكاء الاصطناعي أن تبدو مقنعة إلى درجة تجعل الإنسان يتعامل معها على أنها حقيقة، حتى في سياق مهني وقانوني.
لهذا يجب الحذر ثم الحذر من استخدام معلومات الذّكاء الاصطناعي لغرض حسّاس، خصوصا إذا كان له علاقة بالصّحّة أو المال أو بشكل عام، الحالات المعروفة بـ”أموالك أو حياتك”، لا أحد سيتحمّل المسؤولية غيرك جرّاء اتّخاذ إجراءات مبنية على معلومات ذكاء اصطناعي عبارة عن “هلوسة رقمية”.
