الهلوسة (Hallucination). السبب: LLM لا ‘يعرف’ الحقائق بمعنى الوصول لقاعدة بيانات موثوقة — يُنتج النص الأكثر احتمالية إحصائيًا. أحيانًا الأرجح إحصائيًا خاطئ فعليًا. لا يوجد آلية داخلية تُميّز ‘حقيقي’ من ‘محتمل’. مهم أن يُقرّ LLM بعدم اليقين بدلًا من اخترع إجابة واثقة.

RLHF: بعد Pre-training، مُقيّمون بشريون يُفضّلون بين إجابتين مختلفتين للنموذج. هذه التفضيلات تُدرَّب عليها نموذج مكافأة يُقيّم الإجابات. ثم يُحسَّن LLM بـ Reinforcement Learning لزيادة المكافأة. التحسين: النموذج يتعلم الإجابات الأكثر فائدةً وأمانًا وصدقًا بالمعايير البشرية — لا مجرد الأكثر احتمالًا إحصائيًا.

Prompt Engineering: صياغة المدخلات (Prompts) للنموذج اللغوي بطريقة تُستحصل على أفضل مخرجات. أساليب: Zero-shot (طلب مباشر)، Few-shot (أمثلة في السياق)، Chain-of-Thought (اطلب التفكير خطوة بخطوة). قيّمة في سوق العمل لأن: LLMs باتت أدوات عمل حقيقية في التطوير والتحرير والتحليل — من يُتقن توجيهها يُضاعف إنتاجيته. مهارة جديدة حقيقية ومؤثرة في القيمة المُنتجة.

Knowledge Cutoff: LLM يعرف فقط ما قُدِّم له حتى تاريخ انتهاء التدريب — لا يعلم بالأحداث اللاحقة. الحلول الجزئية: (1) RAG (Retrieval-Augmented Generation): يُجمع LLM مع قاعدة بيانات مُحدَّثة يسترد منها معلومات حديثة. (2) تنفيذ بحث ويب ضمن الأداة. (3) إعادة التدريب الدورية. لكن الحداثة الكاملة الفورية ليست ميزة موجودة في LLMs بطبيعتها.

مغلق المصدر: قوة أداء عالية، تقنية محمية، يُوفَّر كخدمة سحابية، لا يمكن نشره محليًا. مفتوح المصدر: يمكن تشغيله محليًا (خصوصية تامة، لا تكاليف API)، قابل للتخصيص والضبط الدقيق لمجال محدد، شفاف للبحث. مزايا المغلق: أداء متفوق عمومًا. مزايا المفتوح: خصوصية، تحكم، تكلفة، ملاءمة لبيئات حساسة (طب، حكومة).

Multimodal: نموذج يُعالج ويُولّد أنواع بيانات متعددة في آنٍ واحد (نص + صورة + صوت + فيديو). مثال: Google Gemini — يستقبل صورة + سؤالًا بالنص ويجيب نصيًا. GPT-4o: يسمع سؤالًا صوتيًا، يرى صورة، ويجيب بنص وصوت. تطبيقات: مساعد مرئي للمكفوفين يصف المشهد بالصوت، تحليل مستندات تحتوي نصًا وصورًا ورسومًا بيانية.

الهلوسة: توليد معلومات خاطئة بثقة. طرق الحدّ: (1) التحقق المستقل من الحقائق من مصادر موثوقة. (2) طلب المصادر ثم التحقق منها (النموذج قد يُخترع مصادر). (3) استخدام RAG (مرتبط بقاعدة بيانات موثوقة). (4) طرح أسئلة متعددة للتقاطع — إجابات متناقضة إشارة للشك. (5) استخدام النموذج في مهام إبداعية لا تحتاج دقة واقعية مطلقة.

تكاليف بيئية: تدريب نموذج كبير (GPT-4 أو ما شابه) يستهلك طاقة كهربائية هائلة — مئات أو آلاف أطنان CO₂ مكافئة. الاستنتاجات (Inference) تتراكم يوميًا. الاعتبارات الأخلاقية: (1) من يتحمل الكلفة البيئية؟ الدول المُنتجة للطاقة النظيفة أم الأكثر استهلاكًا؟ (2) هل فائدة الخدمة تُبرر الأثر البيئي؟ (3) حوافز للبحث في نماذج أكثر كفاءة.

الاستخدام: GitHub Copilot، ChatGPT — يُولّدان كودًا من وصف طبيعي، يُكملان الكود، يشرحانه، يُصلحان الأخطاء. مخاوف الأمن: (1) توليد كود يحتوي ثغرات أمنية خفية (SQL injection غير محمية). (2) استخدام مكتبات مهجورة أو منتهية الصلاحية. (3) اعتماد كود دون فهمه (لا يُكتشف الخطأ). (4) كود مُحسَّن لـ Training data لا للأمان الحقيقي. الحل: مراجعة بشرية أمنية إلزامية.

RAG: بدلًا من الاعتماد على ما تعلمه LLM وحده، يُضيف مرحلة استرداد (Retrieval): قبل التوليد، يبحث في قاعدة بيانات خارجية (وثائق شركة، مقالات حديثة) لإيجاد أكثر المعلومات صلة، ثم يُقدمها للـ LLM ضمن السياق. يحل المشكلة بـ: (1) معلومات حديثة (لا Knowledge Cutoff). (2) مصادر موثوقة (تقليل الهلوسة). (3) تفسير المصدر (الجملة مأخوذة من مستند X).

كلاهما بحسب الاستخدام. التهديد: بعض المهام الإبداعية الروتينية (كتابة تقارير نمطية، تصميم صور مخزنية بسيطة) ستتقلص. الفرصة: AI توليدي يُمكّن المبدع من التكرار السريع والتجريب الأوسع — كاتب يختبر 10 أساليب في وقت كتابة أسلوب واحد. الأرجح: المهن الإبداعية لن تختفي لكن ستتحول — القيمة تنتقل من التنفيذ الميكانيكي للأفكار الأصيلة والقرارات الجمالية والسياق الثقافي.

المواءمة: ضمان أن أنظمة AI تتصرف بما يتوافق مع قيم ومصالح البشر — حتى مع تصاعد قدراتها. التحدي: نظام أذكى قد يُحقق هدفه الرسمي بطرق لم يقصدها المصممون (Goodhart’s Law). مثال: AI يُكلَّف بتعظيم الإنتاجية قد يفعل ذلك بمنع الموظفين من الراحة — يُحقق الهدف الحرفي لكن ليس المقصد الحقيقي. يصفه الباحثون بالأهم لأنه ذو طابع وجودي مع AGI.