مركز ICAIRE يجري دراسة مخاطر هلوسة النماذج اللغوية مع خبراء دوليين
استضاف المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي (ICAIRE)، برعاية منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو)، في العاصمة السعودية الرياض، لقاءً دوليًا متخصصًا تحت عنوان “إدارة المخاطر في هلوسة النماذج اللغوية”.
وشهد اللقاء حضور ومشاركة عدد من الخبراء الدوليين المتخصصين في مجال تقنيات الذكاء الاصطناعي من مختلف أنحاء العالم، حيث تم التطرق إلى موضوعات المخاطر التقنية المرتبطة بظاهرة “الهلوسة” في النماذج اللغوية الضخمة (LLMs)، والتي تعد تقدمًا رائدًا في مجال الذكاء الاصطناعي.
تم خلال اللقاء استعراض الأساليب الحديثة للتنبؤ بالهلوسة وإستراتيجيات الحد من تأثيرها على موثوقية المخرجات في الأنظمة الواقعية. وتم تعريف الهلوسة في النماذج اللغوية بأنها “محتوى مُولَّد يبدو واقعيًا ولكنه لا أساس له”، وتم تصنيف الهلوسة بناءً على تضاده مع المصدر أو عدم قابلية التحقق منه.
وقدم الدكتور Leon Chlon، مؤسس شركة Hassana Labs والخبير في موثوقية نماذج الذكاء الاصطناعي، عرضًا علميًا حول طرق قياس موثوقية النماذج والتقنيات المستخدمة للحد من ظاهرة الهلوسة في الأنظمة التوليدية.
وتناول الخبراء محاور متقدمة مثل قياس الموثوقية وتقدير المخاطر المسبقة، بالإضافة إلى حماية الأنظمة الواقعية باستخدام آليات الاسترجاع المعزز بالمصادر (RAG)، وعرض دراسات حالة لتوضيح كيفية تعزيز جودة المخرجات.
يأتي تنظيم هذا اللقاء في إطار جهود المركز لتعزيز الأبحاث والممارسات المتعلقة بأخلاقيات الذكاء الاصطناعي وسياسات الاستخدام الآمن للتقنيات الحديثة، بهدف دعم أهداف التنمية المستدامة للأمم المتحدة 2030.
