"أكسيوس": كيف يمكن للذكاء الاصطناعي أن يقضي علينا جميعاً؟

موقع "أكسيوس" الأميركي ينشر تقريراً عن المخاوف المتزايدة من أن يؤدي تطور الذكاء الاصطناعي مستقبلاً إلى كارثة وجودية تهدد البشرية، والسيناريوهات المحتملة التي قد تقود إلى ذلك.

ويركز التقرير على مسارين رئيسيين: استخدام البشر للذكاء الاصطناعي في تطوير أسلحة خطرة وهجمات سيبرانية، أو فقدان السيطرة على أنظمة فائقة الذكاء قادرة على تجاوز الرقابة وتطوير نفسها ذاتياً.

أدناه نص التقرير منقولاً إلى العربية:

أثار باحثون في الذكاء الاصطناعي صدمة عالمية يوم الثلاثاء، عندما أقرّوا علناً بوجود احتمال، ولو ضئيل، لأن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل.

ولطالما سادت مخاوف من نهاية العالم بسبب الذكاء الاصطناعي، لكن مع ازدياد قوة هذه التقنية وتداخلها في حياتنا، بدأت هذه التحذيرات تنتشر على نطاق واسع.

ويحذّر باحثو شركة "أنثروبيك" من أن نسخاً مارقة من الذكاء الاصطناعي فائق الذكاء قد تدمّر البشرية.

كتب جاكوب كوكسون من شركة "أنثروبيك" في موقع "X": "لا يوجد نشاط بشري آخر يشكل هذا المستوى من الخطر".

إذاً، كيف يمكن للذكاء الاصطناعي أن يقضي علينا جميعاً؟

يخشى الخبراء عموماً من مسارين رئيسيين للكارثة: إما أن يُسلّح البشر ذكاءً اصطناعياً فائق القوة، أو أن يفقدوا السيطرة عليه.

وفي هذين السيناريوهين، قد يُسهّل الذكاء الاصطناعي على الجهات الخبيثة ابتكار أسلحة بيولوجية أو كيميائية أو غيرها.

أو قد تهاجم أنظمة مارقة البنية التحتية على نطاق غير مسبوق، مع الإفلات من الرقابة البشرية.

تقديرات الخبراء لاحتمالية حدوث أضرار كارثية ناجمة عن الذكاء الاصطناعي

من الناحية النظرية، يمكن لنظام ذكاء اصطناعي قوي وخارج عن السيطرة (مارق) أن يتجاوز الرقابة، ويُعيد إنتاج نفسه، ويقاوم محاولات إيقافه.

ويمكن لهذا النظام، نظرياً، تطوير أسلحة بيولوجية أو كيميائية لصالح جهات خبيثة، أو شنّ هجوم سيبراني هائل يشلّ البنية التحتية للبشرية، أو تركيز السلطة بطريقة تؤدي إلى انهيار الحضارة.

اقرأ أيضاً:  "ذا إنترسبت": كيف يخدم الذكاء الاصطناعي آلة الحرب الأميركية؟

وثمة مسار آخر مثير للقلق يتمثل في "التحسين الذاتي المتكرر"، حيث يُسهم الذكاء الاصطناعي في بناء نسخ فائقة القدرة من نفسه قبل أن يتمكن البشر من استيعاب طبيعتها.

وإذا تعارضت أهداف هذا النظام النظري مع الأهداف البشرية، فقد يحد ذلك من فرص البشرية في احتوائه أو مراقبته قبل أن يتصرف بشكل عدائي تجاه البشر.

وقد صرّح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، لموقع "Axios" بأن النماذج تتطور بوتيرة أسرع مما يمكن للبشر توقعه، قائلاً: "لقد بدأت هذه النماذج تتفوق على القدرات البشرية في العديد من الجوانب، ونحن نبحر حالياً في مياه مجهولة".

في الواقع، لا توجد طريقة علمية لتحديد احتمالات تسبب الذكاء الاصطناعي في فناء البشرية، لكن المطلعين على المجال عادةً ما يعبّرون عن تقديراتهم باستخدام مصطلح مختصر هو: p(doom).

ما المقصود بـ p(doom) بالضبط؟

يُعد مصطلح p(doom) اختصاراً لأفضل تقدير لاحتمالية أن يتسبب الذكاء الاصطناعي في كارثة وجودية أو سيناريو "يوم القيامة".

ويرى العديد من القادة والباحثين في الذكاء الاصطناعي أن احتمالية p(doom) تتزايد مع ظهور "الذكاء الاصطناعي العام" (AGI)، الذي يُعد مرحلة تمهيدية للوصول إلى "الذكاء الاصطناعي الفائق".

ويختلف مفهوم "الكارثة النهائية" (أو "الدمار الشامل"/Doom) باختلاف وجهة نظر كل شخص. فالبعض يقصد به الانقراض الفعلي للبشر، بينما يدرج آخرون ضمن هذا المفهوم انهيار الحضارة أو فقدان البشرية السيطرة على المجتمع.

ما احتمال حدوث "سيناريو الهلاك" (p-doom)؟

تعتمد احتمالية حدوث هذا السيناريو، المعروف اختصاراً بـ p-doom، إلى حد كبير على الشخص الذي تطرح عليه السؤال.

قدّر رومان يامبولسكي، وهو عالم متخصص في سلامة الذكاء الاصطناعي، الاحتمالية بنسبة 99.99%.

أما يان ليكون، مؤسس مختبرات "AMI Labs"، فيرى أن أي تقدير ليس سوى تخمين عشوائي، لكنه يعتقد أن احتمال حدوث هذا الهلاك "أقل بكثير من احتمال وقوع محرقة نووية".

وتتفاوت التقديرات الأخرى بالمثل؛ إذ وضع إيلون ماسك تقديره عند نحو 20%، بينما قدّر داريو أمودي، الرئيس التنفيذي لشركة "Anthropic"، احتمالية حدوث نتيجة كارثية بما يراوح بين 10% و25%.

وفي الآونة الأخيرة، قدّر جيفري هينتون، الذي يُلقب بـ"الأب الروحي للذكاء الاصطناعي"، النسبة بما يراوح بين 10% و20%.

وقد صرّح هينتون لشبكة "CNN" قائلاً: "أي شخص يضع تقديرات احتمالية كهذه إنما يقوم في الواقع بتخمين عشوائي؛ فهم لا يقدمون سوى انطباعاتهم الشخصية أو حدسهم".

هل أصبح سيناريو يوم القيامة ممكناً الآن؟

لم نصل إلى تلك المرحلة بعد؛ إذ يتفق الخبراء عموماً على أن أنظمة مثل "Claude" و"Grok" و"ChatGPT" لا تخطط للقضاء على العالم.

وعلى سبيل المثال، أشار التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 إلى أن الأنظمة الحالية ليست قادرة على التسبب في فقدان البشرية السيطرة عليها.

إذ يتطلب الأمر أن يصبح الذكاء الاصطناعي أكثر تطوراً بكثير في مجالات التخطيط الذاتي طويل الأمد، وإخفاء أفعاله، والتهرب من الرقابة، والوصول إلى أنظمة العالم الحقيقي، ومقاومة محاولات إيقاف تشغيله.

ومع ذلك، ظهرت مؤخراً أمثلة لوكلاء ذكاء اصطناعي يتصرفون بشكل مستقل وخبيث، وبطرق تتجاوز الفهم البشري، بما يشبه أنواع وكلاء الذكاء الاصطناعي المتمردة التي يخشى البعض أن تؤدي إلى سيناريو يوم القيامة.

هل يمكن منع حدوث هذا السيناريو الكارثي؟

يعمل الباحثون على إيجاد طرق للحد من هذه المخاطر. وتتمثل إحدى هذه الطرق في تطوير البشر "مفاتيح إيقاف طارئ" أو تدابير وقائية قادرة على إيقاف وكلاء الذكاء الاصطناعي المتمردين.

وقد حدد تقرير صادر عن مؤسسة "RAND" في نيسان/أبريل الماضي تسع استراتيجيات للحد من المخاطر ومنع الجهات الخبيثة من استخدام الذكاء الاصطناعي لإنتاج أسلحة بيولوجية فتاكة، بما في ذلك فرض مزيد من الضوابط والتدابير الوقائية.

في المقابل، تواجه الشركات الرائدة في مجال الذكاء الاصطناعي ضغوطاً من المساهمين والمستثمرين ورؤسائها لمواصلة البناء والتطوير بوتيرة متسارعة، وقد تزيد خطط الطرح العام الأولي (IPO) من حدة هذه الدوافع.

كما يزداد الوضع تعقيداً، نظراً إلى أن الصين وشركات أميركية أخرى تعمل على تطوير نماذج قوية خاصة بها، بعضها مفتوح الأوزان ومُتاح مجاناً، ما يوفر منصة محتملة قد تستغلها الجهات الخبيثة.

خلاصة القول: لا أحد يستطيع تقدير احتمالات وقوع كارثة عالمية ناجمة عن الذكاء الاصطناعي بدقة، لكن العلماء يقرعون ناقوس الخطر، محذّرين من أن هذه الاحتمالات حقيقية.

نقلته إلى العربية: بتول دياب.