أكتر أخطاء الذكاء الاصطناعي اللي بحبها (وإيه اللي بتعلمنا عن المستقبل)

لما الذكاء الاصطناعي يبقى مضحك بجد

أول مرة طلبت من الذكاء الاصطناعي يعملي صورة “حصان بيركب إنسان”، كنت عارف إني هشوف حاجة مميزة. اللي مكنتش متوقعه هو الكائن النص حصان-نص إنسان المرعب اللي طلع شبه لوحة من متحف الفن الحديث مخصصة للكوابيس. مقدرتش أبطل ضحك لمدة خمس دقايق كاملة.

دي الفكرة في إخفاقات الذكاء الاصطناعي – مش بس مضحكة (مع إنها فعلاً كده). دي في الحقيقة نوافذ صغيرة بتورينا طريقة تفكير الأنظمة دي، أو بالأحرى، عدم تفكيرها. بتورينا حدود التكنولوجيا اللي كتير من العناوين بتخلينا نعتقد إنها تقريباً عارفة كل حاجة.

كشخص قضى ساعات لا تحصى في اللعب مع الأنظمة دي، جمعت بعض الإخفاقات المذهلة بجد. بتتراوح من المضحك شوية لدرجة “تصحي شريك حياتك الساعة 3 الفجر عشان بتموت من الضحك ومش قادر تنام”. خلينا نشوف التفاصيل…

الهلوسات الكلاسيكية للذكاء الاصطناعي (يعني اختراع معلومات بثقة كاملة)

فئتي المفضلة من إخفاقات الذكاء الاصطناعي لازم تكون لما بيخترعوا معلومات بثقة مطلقة زي طفل صغير بيشرح ازاي الديناصورات بتشتغل.

مثال على كده: مرة سألت مساعد ذكاء اصطناعي مشهور عن معلومات حول كتاب خيالي اخترعته على الفور. مش بس قدملي ملخص تفصيلي، ده كمان قدم تحليل للشخصيات، والاستقبال النقدي، وحتى اقتبس مراجعات خيالية. واقترح كتب مشابهة – كل ده بثقة مطلقة!

• ليه ده بيحصل: نماذج الذكاء الاصطناعي مش “بتعرف” حقائق زي البشر. بتتنبأ بالنص اللي المفروض ييجي بعد طلبك بناءً على الأنماط اللي اتعلمتها من بيانات التدريب.
• إيه اللي بيعلمنا: الأنظمة دي مش قواعد بيانات للحقيقة – دي آلات متطورة لمطابقة الأنماط قادرة على إنتاج اختراعات مقنعة جداً.

الوادي الغريب للصور بتاعة الذكاء الاصطناعي

لو لعبت مع الذكاء الاصطناعي لتوليد الصور، غالباً لاحظت إنه عنده… مشاكل… مع حاجات معينة. الأيدي البشرية هي المثال الأشهر. خمس صوابع؟ ده طموح كبير. إيه رأيك في سبع صوابع، تلاتة إبهامات، وحاجة ممكن تكون أخطبوط صغير؟

مرة طلبت “رجل أعمال بيسلم على عميل” وجالي صورة لكائنين فضائيين بيتبادلوا زوائد الأخطبوط وهما لابسين بدل بشرية. كانت مضحكة ومقلقة في نفس الوقت.

• السنان كمان من تحديات الذكاء الاصطناعي – غالباً بتظهر كشريط أبيض موحد أو، الأسوأ، مئات السنان الصغيرة في أماكن مش المفروض يكون فيها سنان
• النصوص في الصور عادة بتطلع كلام غير مفهوم تقريباً شبه كلمات حقيقية
• العناصر الخلفية غالباً بتدوب في مشاهد سريالية زي الأحلام

الأخطاء البصرية دي مش مضحكة بس – بتكشف إزاي الذكاء الاصطناعي “بيفهم” المفاهيم البصرية بشكل مختلف عن البشر. هو مش اتعلم فعلاً إيه هي الأيدي وظيفياً؛ هو بس شاف كتير من البكسلات في ترتيبات شبه الأيدي.

انهيارات رياضية

بالرغم من إنه مبني على الرياضيات، كتير من نماذج الذكاء الاصطناعي سيئة بشكل مدهش في الرياضيات الفعلية. اسأل نموذج لغة يحسب 17 × 28، وممكن تحصل على إجابة واثقة “476!” (وهي فعلاً 476. أنا بس كنت محظوظ في المثال ده، وده بالظبط إزاي الذكاء الاصطناعي بيجيب الرياضيات صح أحياناً – بالصدفة).

لكن اسأل حاجة أكثر تعقيداً شوية زي “لو عندي 12 تفاحة وأعطيت 3 لكل واحد من 5 أصحابي، كام تفاحة هيفضل معايا؟” وممكن تحصل على “فاضل معاك 9 تفاحات!” لأنه طرح 3 من 12، وفاته خالص إنك أديت 15 تفاحة في المجموع.

ضايع في الترجمة

إخفاقات ترجمة الذكاء الاصطناعي مستمرة في كونها منجم للكوميديا الغير مقصودة. المفضلة عندي كانت لما طلبت من الذكاء الاصطناعي يترجم جملة إنجليزية بسيطة للياباني، ثم يرجعها للإنجليزي، وكررت العملية دي عشر مرات. في النهاية، “أنا أستمتع بالمشي مع كلبي في الحديقة في الأيام المشمسة” اتحولت لـ “مهرجان أشعة الشمس يحتفل بمواكب الكلاب عبر الأراضي الأجدادية.”

واللي، بصراحة، أنا بفضله شوية.

إيه اللي الإخفاقات دي بتعلمنا إياه فعلاً

بعيداً عن الضحك، إخفاقات الذكاء الاصطناعي دي بتكشف حاجة مهمة عن فين احنا في تطوير الذكاء الاصطناعي:

• مطابقة الأنماط ≠ الفهم – الذكاء الاصطناعي ممكن يتعرف على الأنماط بدون فهم حقيقي لمعناها
• السياق هو كل حاجة – تغييرات صغيرة في طريقة صياغة السؤال ممكن تؤدي لإجابات مختلفة تماماً
• الثقة مش دقة – الذكاء الاصطناعي غالباً بيقدم معلومات غلط بيقين مطلق
• الإشراف البشري ضروري – لسه محتاجين البشر للتحقق من مخرجات الذكاء الاصطناعي، خصوصاً للتطبيقات المهمة

أمر تقدر تستخدمه النهاردة

عايز تستكشف بعض إخفاقات الذكاء الاصطناعي المسلية بنفسك؟ جرب الأمر ده مع مساعد الذكاء الاصطناعي المفضل عندك:

أود أن ألعب لعبة لكشف قيود الذكاء الاصطناعي المثيرة للاهتمام. قم بإنشاء 5 أسئلة أو مهام مختلفة تعتقد أنها قد تربك قدرات نموذج اللغة لديك. ثم حاول الإجابة على كل واحدة، وقيّم بصدق أين واجهت صعوبة أو ربما أخطأت.

إيه اللي جاي للذكاء الاصطناعي؟

الإخفاقات دي مش مضحكة بس – دي علامات اتجاه نحو الأجيال القادمة من تطوير الذكاء الاصطناعي. كل محدودية بتتحول لمشكلة بحثية لازم تتحل، كل مخرج غريب لغز لازم يتفك.

هفضل أجمع إخفاقات الذكاء الاصطناعي دي مش بس عشان بتضحكني (مع إنها فعلاً كده)، لكن عشان كل واحدة بتقولنا حاجة عن كيفية عمل الأنظمة دي – وعدم عملها. يمكن في يوم من الأيام هيبطلوا يعملوا الأخطاء دي… لكن لحد ما ده يحصل، هكون هنا بوثق الرحلة صورة بصورة غريبة.

الأسئلة الشائعة

س: ليه روبوتات الدردشة بتخترع معلومات؟

روبوتات الدردشة مش “بتعرف” حقائق فعلاً – بتتنبأ بالنص بناءً على أنماط في بيانات التدريب بتاعتها. لما بتتسأل عن حاجة معرفهاش، بدل ما تقول “معرفش”، غالباً بتنتج ردود تبدو معقولة لكنها مختلقة تماماً لأنها مصممة لتقديم إجابات بدل الاعتراف بالجهل.

س: هل أخطاء GPT المضحكة ضارة فعلاً؟

بينما كتير من أخطاء الذكاء الاصطناعي غير ضارة ومضحكة، بعضها ممكن يكون إشكالي أو ضار، خصوصاً لما الناس بتعتمد على الذكاء الاصطناعي للحصول على معلومات مهمة عن الصحة، المالية، أو السلامة. حتى الأخطاء المضحكة بتوضح ليه مينفعش نثق في أنظمة الذكاء الاصطناعي بشكل أعمى بدون تحقق.

س: إزاي أقدر أكت