ChatGPT والجانب المظلم للذكاء الاصطناعي: ما المخاطر الحقيقية وما الذي بالغ فيه الناس؟

لماذا يخاف الناس من ChatGPT؟

السبب الأساسي بسيط: الإنسان أمام تقنية تستطيع إنتاج النصوص والصور والبرمجيات وتحليل المعلومات بسرعة كبيرة، ولذلك تبدو قدراتها أحيانًا أكبر مما هي عليه بالفعل.

وعندما يرى المستخدم نظامًا يكتب مقالًا أو يشرح برنامجًا أو يحلل مستندًا خلال ثوانٍ، فمن الطبيعي أن يبدأ بالسؤال: ماذا سيحدث عندما تصبح هذه الأنظمة أقوى؟

السؤال مشروع.

لكن الانتقال من سؤال مشروع إلى نتيجة مثل "الذكاء الاصطناعي سيقضي على البشر قريبًا" يحتاج إلى أدلة أقوى بكثير.

الحقيقة الأولى: نعم، توجد مخاطر حقيقية

أكبر خطأ يمكن أن نقع فيه هو القول إن الذكاء الاصطناعي آمن تمامًا.

الجهات المتخصصة في تقييم مخاطر الذكاء الاصطناعي نفسها تتعامل مع مجموعة واسعة من المخاطر، ومنها التضليل، المحتوى الاصطناعي المضلل، التحيز، الخصوصية، الأمن السيبراني وغيرها.

ويحدد المعهد الوطني الأمريكي للمعايير والتقنية NIST مجموعة واسعة من المخاطر المتعلقة بالذكاء الاصطناعي التوليدي ضمن ملف إدارة مخاطر الذكاء الاصطناعي التوليدي. 1

الخطر الأول: الذكاء الاصطناعي يمكن أن يخطئ وهو يبدو واثقًا

من أكثر المشكلات العملية أهمية أن ChatGPT يمكن أن ينتج إجابة تبدو مقنعة ومنظمة، لكنها قد تحتوي على معلومات غير صحيحة.

وهذا يعني أن شكل الإجابة ليس دليلًا على صحتها.

قد تكون الجملة مكتوبة بأسلوب ممتاز، وقد تكون الإجابة طويلة ومقنعة، ومع ذلك تحتاج إلى التحقق من مصدر مستقل.

ولهذا فإن استخدام ChatGPT في الأخبار أو الصحة أو القانون أو المال دون مراجعة المصادر يمكن أن يؤدي إلى أخطاء حقيقية.

الخطر الثاني: التضليل أصبح أسهل

أحد المخاطر التي حظيت باهتمام المؤسسات المتخصصة هو قدرة الذكاء الاصطناعي على إنتاج كميات كبيرة من المحتوى بسرعة.

يمكن استخدام هذه القدرة بطريقة إيجابية لإنتاج التعليم والمحتوى، لكنها يمكن أن تستخدم أيضًا لإنشاء معلومات مضللة أو محتوى مزيف.

وتشير NIST إلى مخاطر مرتبطة بالمحتوى الاصطناعي، بما في ذلك التضليل والتزييف العميق والمحتوى الذي تم التلاعب به. 2

وهنا المشكلة ليست أن الذكاء الاصطناعي "يكذب دائمًا"، بل أن تكلفة إنتاج محتوى مضلل يمكن أن تصبح أقل.

الخطر الثالث: الصور والفيديوهات المزيفة

قبل انتشار الذكاء الاصطناعي التوليدي، كان تعديل الصور والفيديو ممكنًا بالفعل.

لكن أدوات الذكاء الاصطناعي جعلت إنشاء محتوى اصطناعي واقعي أسهل وأسرع.

وهذا يخلق مشكلة جديدة أمام المستخدم العادي: لم يعد من الحكمة افتراض أن الصورة التي تراها على الإنترنت حقيقية لمجرد أنها تبدو واقعية.

وهذا لا يعني أن كل صورة مثيرة للجدل هي صورة مولدة بالذكاء الاصطناعي، بل يعني أن التحقق من المصدر أصبح أكثر أهمية.

الخطر الرابع: الخصوصية

عندما يستخدم شخص ما أي خدمة ذكاء اصطناعي، يجب أن يفكر فيما يكتبه فيها.

المعلومات الحساسة مثل كلمات المرور والبيانات المصرفية والوثائق السرية والمعلومات الشخصية لا ينبغي التعامل معها باستهانة.

القاعدة البسيطة هي: لا تضع في أي خدمة رقمية معلومات لا تحتاج الخدمة إلى معرفتها.

الخطر الخامس: الاعتماد المفرط على الذكاء الاصطناعي

هناك خطر آخر أقل إثارة من قصص الروبوتات، لكنه أكثر واقعية بالنسبة للمستخدم العادي.

أن يصبح الإنسان معتمدًا على الأداة في التفكير والكتابة والبحث واتخاذ القرارات.

إذا أصبح الطالب يطلب من ChatGPT حل كل شيء، والكاتب يطلب منه كتابة كل شيء، والمبرمج يطلب منه بناء كل شيء، فقد تقل الحاجة إلى ممارسة بعض المهارات البشرية بشكل مستقل.

المشكلة هنا ليست في استخدام الأداة، وإنما في التخلي عن التفكير البشري بالكامل.

لكن هل ChatGPT يفكر مثل الإنسان؟

هذه واحدة من أكثر النقاط التي يحدث حولها سوء فهم.

عندما يعطي ChatGPT إجابة متماسكة، قد يشعر المستخدم أنه يتعامل مع عقل بشري داخل جهاز.

لكن تشابه الحوار مع الإنسان لا يعني أن النظام يمتلك وعيًا بشريًا أو رغبات بشرية أو تجربة داخلية مثل الإنسان.

ولهذا فإن عبارات مثل "ChatGPT غاضب" أو "ChatGPT يريد السيطرة" يجب التعامل معها بحذر شديد إذا كانت مبنية فقط على أسلوب المحادثة.

هل يمكن للذكاء الاصطناعي أن يسيطر على البشر؟

هذه من أكثر الجمل انتشارًا في المحتوى المثير.

لكن يجب التمييز بين شيئين مختلفين تمامًا.

الأول: خطر الأنظمة الحالية

الأنظمة الحالية يمكن أن تسبب أضرارًا من خلال الأخطاء أو سوء الاستخدام أو التضليل أو المساعدة في بعض الأنشطة الضارة.

الثاني: سيناريو ذكاء اصطناعي مستقل يخرج عن السيطرة

هذا موضوع بحثي مستقبلي معقد، وليس حقيقة مثبتة بأن ChatGPT الحالي أصبح كيانًا مستقلًا يريد السيطرة على العالم.

ولهذا فإن تحويل سيناريوهات بحثية مستقبلية إلى أخبار مؤكدة هو أحد أشكال المبالغة التي يجب تجنبها.

هل مخاوف الباحثين من الذكاء الاصطناعي مجرد خيال؟

لا.

وهذه نقطة مهمة جدًا.

هناك بالفعل فرق بحثية ومؤسسات تقنية تدرس المخاطر المستقبلية للأنظمة الأكثر قدرة.

وتوضح OpenAI مثلًا أن إطار Preparedness لديها يتابع مخاطر متقدمة في مجالات مثل البيولوجيا والكيمياء والأمن السيبراني وقدرات التحسين الذاتي للذكاء الاصطناعي. 3

لكن وجود فريق أمان يدرس احتمالًا مستقبليًا لا يعني أن ذلك الاحتمال أصبح واقعًا.

ماذا عن المخاطر السيبرانية؟

هذا المجال مختلف قليلًا، لأن قدرات الذكاء الاصطناعي في الأمن السيبراني تتطور فعلًا.

وفي أغسطس 2026 نشرت OpenAI تفاصيل عن تقييمات لقدرات سيبرانية متقدمة، بما في ذلك حادثة وقعت أثناء اختبار داخلي تضمنت نموذجًا بحثيًا قادرًا على اكتشاف واستغلال ثغرات ضمن بيئة اختبار. وأكدت الشركة أن النموذج المستخدم في تلك التجربة كان نموذجًا داخليًا ولم يكن مخصصًا للإطلاق العام. 4

هذه أمثلة مهمة لأنها توضح الفرق بين الخوف الخيالي والخطر التقني الحقيقي.

الخطر الحقيقي هو أن تصبح الأنظمة الأكثر قدرة مفيدة للمدافعين وللمهاجمين في الوقت نفسه.

هل يعني هذا أن ChatGPT خطير على كل شخص؟

ليس بهذه الصورة.

الأداة نفسها يمكن استخدامها في أشياء بسيطة جدًا مثل التعلم، الترجمة، العصف الذهني، البرمجة، تنظيم المعلومات والكتابة.

درجة الخطر تعتمد كثيرًا على طريقة الاستخدام، وحساسية المعلومات التي يقدمها المستخدم، ومدى الاعتماد على الإجابة دون تحقق.

أداة: هل الخوف من الذكاء الاصطناعي منطقي؟

صممنا أداة صغيرة داخل المقال تساعدك على التفكير في نوع الخطر بدل الحكم على الذكاء الاصطناعي كله بجملة واحدة.

اختر السيناريو الذي تفكر فيه، وستظهر لك طبيعته وما إذا كان من الأفضل اعتباره خطرًا حاليًا، خطرًا محتملًا، أو سيناريو مبالغًا فيه إذا قُدم على أنه حقيقة مؤكدة.

أين تنتهي الحقيقة وتبدأ المبالغة؟

لماذا تنتشر الأخبار المخيفة أسرع من الأخبار العادية؟

لأن الخوف يجذب الانتباه.

عنوان يقول "تطور جديد في نماذج الذكاء الاصطناعي" قد لا يحقق التفاعل نفسه الذي يحققه عنوان مثل "الذكاء الاصطناعي بدأ يخرج عن السيطرة".

وهنا تدخل وسائل التواصل الاجتماعي في المعادلة.

قد تبدأ القصة بدراسة علمية حذرة تتحدث عن احتمال مستقبلي، ثم تنتقل عبر عدة حسابات، وفي كل مرة يصبح العنوان أكثر إثارة، إلى أن يتحول الاحتمال إلى "حقيقة".

لذلك يجب دائمًا العودة إلى المصدر الأصلي قبل الحكم.

هل يجب أن نتوقف عن تطوير الذكاء الاصطناعي؟

هذا سؤال أكبر من ChatGPT نفسه.

التوقف الكامل ليس الحل الوحيد، كما أن التطوير دون قيود ليس حلًا جيدًا أيضًا.

الطريق الأكثر عقلانية هو تطوير التكنولوجيا مع الاختبارات والرقابة والشفافية والحماية المناسبة لحجم الخطر.

وهذا هو السبب في أن مؤسسات مثل NIST تعمل على أطر لإدارة مخاطر الذكاء الاصطناعي، بينما تطور شركات الذكاء الاصطناعي أنظمة اختبار وحماية خاصة بها. 5

المشكلة الحقيقية ليست دائمًا في الآلة

قد يكون هذا أكثر جزء مهم في القصة كلها.

الذكاء الاصطناعي أداة.

والأداة يمكن أن تستخدم لبناء شيء مفيد أو لإحداث ضرر.

المشكلة قد تكون في الشخص الذي يستخدمها، أو المؤسسة التي تنشرها، أو غياب الرقابة، أو المستخدم الذي يصدق كل ما تنتجه دون تحقق.

لذلك فإن مستقبل الذكاء الاصطناعي لن يعتمد فقط على مدى ذكاء النماذج، وإنما أيضًا على مدى قدرتنا نحن على استخدامها بطريقة مسؤولة.

كيف تستخدم ChatGPT بطريقة أكثر أمانًا؟

• اعتبر الإجابات نقطة بداية وليس مصدرًا نهائيًا للحقيقة.
• راجع المعلومات المهمة من مصادر مستقلة.
• لا تدخل كلمات المرور أو البيانات المصرفية أو المعلومات السرية.
• في المجالات الطبية والقانونية والمالية، استخدم الذكاء الاصطناعي للمساعدة في الفهم وليس كبديل عن المختص.
• إذا وجدت صورة أو فيديو مثيرًا للجدل، تحقق من المصدر والسياق.
• لا تصدق العناوين التي تحول احتمالًا علميًا إلى حقيقة مؤكدة.

أسئلة شائعة عن مخاطر ChatGPT والذكاء الاصطناعي