بوليصات تغطّي الهلوسة.. التأمين يدخل عصر الذكاء الاصطناعي
سكاي نيوز عربية - أبوظبي 17:10 - 18 مايو 2025
لماذا يهلوس الذكاء الاصطناعي؟
وكانت مستشارة الذكاء الاصطناعي المعتمدة من أوكسفورد هيلدا معلوف، قد كشفت في حديث سابق لموقع “اقتصاد سكاي نيوز عربية”، أن “هلوسة الذكاء الاصطناعي” ترجع إلى الطريقة التي تعمل بها هذه البرامج، التي لا “تفهم” المعلومات كما يفعل البشر، بل تختار الكلمات أو الإجابات بناءً على ما يبدو لها أنه صحيح، وليس بناءً على ما هو حقيقي فعلاً، وهذه الطبيعة “الاحتمالية” لنماذج الذكاء الاصطناعي ناتجة عن أنماط التدريب التي خضعت لها، لافتة إلى أن ظاهرة “هلوسة الذكاء الاصطناعي” تثير قلقاً كبيراً، ويمكن أن تُؤدي إلى عواقب وخيمة في المجالات عالية المخاطر مثل الرعاية الصحية والقانون والتعليم.
وبحسب معلوف فإن “هلوسة الذكاء الاصطناعي” تحدث لعدة أسباب، منها أن هذه الأنظمة تُدرَّب أحياناً على بيانات غير دقيقة أو متناقضة، كما أنها تعتمد بشكل كبير على “الارتباطات الإحصائية”، أي على الربط بين الكلمات بدلاً من فهم الحقيقة، إضافة إلى ذلك هناك بعض القيود التي يتم وضعها على طريقة عمل برامج الذكاء الاصطناعي، والتي تجعلها أكثر عرضة للأخطاء، مشيرة إلى أنه رغم أن شركات الذكاء الاصطناعي تستخدم تقنيات متقدمة، مثل “التعلم من ملاحظات البشر”، لمحاولة تقليل هذه الأخطاء، إلا أن النتائج لا تكون دائماً مضمونة، في حين أن انعدام قدرة المهندسين على فهم عمليات صنع القرار في برامج الذكاء الاصطناعي، يُعقّد مسار اكتشاف الهلوسة وتصحيحها.
انقر على الرابط لقراءة المقال كاملًا. https://lnkd.in/djxSnCKm
Why AI Hallucinates: Oxford Expert Explains the Risks
Oxford certified AI consultant Hilda Maalouf says the growing phenomenon of “AI hallucination” is rooted in how large language models operate. Speaking to Sky News Arabia – Economy, Maalouf explained that AI systems do not understand information the way humans do; instead, they predict words based on statistical probability—often producing answers that appear credible but are factually incorrect.
She warned that hallucinations are especially dangerous in highrisk fields such as healthcare, law, and education. According to Maalouf, inaccuracies arise from flawed or inconsistent training data, the model’s reliance on correlations rather than comprehension, and inherent technical limitations. Despite advanced safeguards like human feedback training, she says eliminating errors entirely remains unlikely, as even engineers cannot fully interpret how AI systems make decisions.
Click the link to read the full article. https://lnkd.in/djxSnCKm