في ظل الانتشار السريع لتطبيقات الذكاء الاصطناعي التوليدي، كشفت دراسة أكاديمية حديثة عن مخاطر متزايدة لما يُعرف بـ «هلوسة الذكاء الاصطناعي».

 وأشارت الدراسة إلى أن النماذج الذكية باتت تولّد معلومات غير صحيحة أو خيالية وتصوغها بأسلوب متماسك يبدو دقيقاً وموثوقاً، مما يحوّل هذه الأخطاء التقنية إلى أزمة ذات أبعاد أخلاقية ومعرفية تؤثر بشكل مباشر على المجتمع.

وأعد الدراسة الدكتور حسين ربيع، أستاذ الصحافة الرقمية بكلية الإعلام وتكنولوجيا الاتصال بجامعة السويس، تحت عنوان «هلوسة الخوارزميات: مخاطر الانحراف المعلوماتي في الأنظمة التوليدية وآليات الحماية في إطار محو أمية الذكاء الاصطناعي».

ما المقصود بـ«هلوسة الذكاء الاصطناعي»؟

أوضحت الدراسة أن هلوسة الذكاء الاصطناعي تشير إلى قدرة بعض النماذج التوليدية على إنتاج محتوى يبدو متماسكًا ومقنعًا، لكنه قد يتضمن معلومات غير دقيقة أو مختلقة.

وأكدت الدراسة أن المشكلة لم تعد مجرد خطأ تقني محدود، خاصة مع دخول أدوات الذكاء الاصطناعي في مجالات متعددة، إذ يمكن للمعلومات غير الصحيحة أن تؤثر على قرارات الأفراد والمؤسسات، فضلًا عن تأثيرها على مستوى الثقة في المحتوى الرقمي والتقنيات الحديثة.

وتناولت الدراسة الظاهرة عبر خمسة محاور رئيسية، شملت التأصيل النظري لمفهوم الهلوسة وأنواعها، وتحليل مخاطرها المعرفية والمجتمعية، وعلاقتها بالتضليل المعلوماتي، إلى جانب استعراض آليات اكتشاف المحتوى المُهلوس والحد من آثاره.

الدراسة تدعو إلى تعزيز «محو أمية الذكاء الاصطناعي»

شددت الدراسة على أن التعامل مع مخاطر الهلوسة لا يمكن أن يعتمد على الحلول التقنية وحدها، وإنما يتطلب رفع مستوى وعي المستخدمين بقدرات النماذج التوليدية وحدودها.

وأكدت أهمية تنمية مهارات التفكير النقدي والتحقق من المعلومات قبل الاعتماد على مخرجات الذكاء الاصطناعي، خصوصًا عند استخدامه للحصول على معلومات يمكن أن تؤثر في القرارات أو تشكيل الرأي العام.

وطرحت الدراسة مفهوم محو أمية الذكاء الاصطناعي (AI Literacy) باعتباره أحد المسارات المهمة للتعامل مع هذه التحديات، من خلال مساعدة الأفراد على فهم طبيعة الأنظمة الذكية وتقييم المعلومات التي تنتجها بصورة أكثر وعيًا.

توصيات لتقليل مخاطر المعلومات المضللة

دعت الدراسة إلى دمج مفاهيم محو أمية الذكاء الاصطناعي في المناهج التعليمية وبرامج التربية الإعلامية الرقمية، بما يساعد الطلاب والجمهور على التمييز بين المعلومات الموثوقة والمحتوى المضلل الذي قد تنتجه الأنظمة الذكية.

كما أوصت بتعزيز الوعي المجتمعي بمخاطر هلوسة الذكاء الاصطناعي، وتطوير أدوات مفتوحة المصدر تساعد على اكتشاف المحتوى الناتج عن الذكاء الاصطناعي، إلى جانب وضع أطر تنظيمية وأخلاقية تدفع مطوري التطبيقات إلى توضيح حدود دقة المعلومات التي تنتجها أنظمتهم.

وشملت التوصيات أيضًا دعم البحوث العلمية متعددة التخصصات، وتشجيع التعاون بين الجامعات والمؤسسات الإعلامية والتقنية لإطلاق برامج تدريبية تعزز الاستخدام المسؤول والواعي لتقنيات الذكاء الاصطناعي.

وخلصت الدراسة إلى أن الاستفادة الحقيقية من الذكاء الاصطناعي لا ترتبط فقط بتطوير قدراته التقنية، وإنما تحتاج أيضًا إلى بناء وعي مجتمعي قادر على التعامل النقدي مع مخرجاته، بما يسهم في الحد من انتشار المعلومات المضللة والحفاظ على الثقة في البيئة الرقمية.

بوابة الفجر