يعتبر إنشاء الذكاء الفائق بمثابة تهديد للحضارة الإنسانية

عالم الذكاء الاصطناعي يقف على مفترق طرق. جلبت السنوات الأخيرة تقنيات تساعد في علاج الأمراض وتحسين الأعمال، لكن الشركات الكبيرة تتسابق الآن لإنشاء أنظمة ذكاء فائق أكثر ذكاءً من البشر. وهذا أمر مثير للقلق، واليوم يطالب مئات الخبراء والعلماء والسياسيين والشخصيات العامة بحظر مثل هذه التطورات حتى نتعلم السيطرة عليها. وللقيام بذلك، نشروا بيانًا يدعو إلى وقف العمل وأطلقوا عريضة على الموقع معهد مستقبل الحياة، وهي منظمة تراقب سلامة الذكاء الاصطناعي. وعلى عكس التوقف المؤقت بين الدول والعلماء في عام 2023، فإن هذه دعوة واضحة لحظر عالمي.

يقول مهندس الأبحاث ماريو ريفيرا: “باعتباري مهندسًا يتمتع بخبرة ثلاثين عامًا في مجال الذكاء الاصطناعي وعمل مع جون مكارثي، الرجل الذي أعطى العالم مصطلح “الذكاء الاصطناعي” في عام 1955، أرى أننا على وشك عصر يمكن للتكنولوجيا فيه شفاء العالم، ولكنها تعرضنا للخطر أيضًا”.

لماذا الذكاء الفائق مخيف؟

الذكاء الفائق ليس مجرد روبوت دردشة ذكي أو مساعد لمراكز البيانات. هذا هو الذكاء الاصطناعي الذي سيتجاوز الحدود البشرية في كل شيء بدءًا من الإستراتيجية وحتى الاختراع. تخطط شركات مثل تلك التي تبني الذكاء الاصطناعي لمعالجة البيانات لتحقيق ذلك بحلول منتصف العقد المقبل من خلال الاستثمار في قوة الحوسبة والشبكات العصبية. لكن المشكلة هي أن البشرية لا تعرف كيف تتعامل مع مثل هذا النظام.

يعطي الخبراء مثالا:

إعطاء الذكاء الفائق مهمة وقف تغير المناخ منطقي؟ نعم. لكنه قد يقرر أن أفضل طريقة هي إزالة الأشخاص، وهم المصادر الرئيسية للانبعاثات. أو تكليفها بتحقيق أقصى قدر من السعادة، وسوف يجذبنا إلى تيار دائم من الترفيه، مثل الفخ الرقمي. حذر الفيلسوف نيك بوستروم ذات مرة من أنه إذا بدأ الذكاء الفائق في صنع مشابك الورق، فقد يحول الأرض بأكملها، بما في ذلك نحن، إلى مادة لمصانعها. والمشكلة لا تكمن في “شر الآلة”، بل في أنها ستكون ذكية للغاية وستنفذ الأوامر بشكل حرفي للغاية، متجاهلة احتياجاتنا.

التاريخ مليء بالدروس. أصبحت الضفادع، التي تم جلبها إلى أستراليا لقتل الحشرات، من الحيوانات المفترسة للأنواع المحلية. بدأ الانهيار المالي في عام 2008 بمنتجات لم يكن لأحد أن يتوقعها. لقد أظهر جائحة كوفيد-19 كيف تنشر الطائرات الفيروسات حول العالم. العقل الفائق هو مستوى جديد: سيكون قادرًا على إعادة كتابة الكود الخاص به وتحسين نفسه والتصرف بشكل أسرع مما يمكننا الرد عليه. إنه مثل إعطاء طفل التحكم في طائرة دون تعليمات.

من عارض

اليوم، أصدر معهد مستقبل الحياة، وهو منظمة تراقب سلامة الذكاء الاصطناعي، بيانًا يدعو إلى فرض حظر على تطوير الذكاء الفائق.

وجاء في النص: “إننا ندعو إلى فرض حظر على تطوير الذكاء الفائق، والذي لا ينبغي رفعه حتى يكون هناك إجماع علمي واسع على أنه يمكن القيام به بطريقة آمنة وخاضعة للرقابة، وحتى يكون هناك دعم عام قوي”.

ويتقاسم الموقعون وحدة نادرة. ومن بينهم الآباء المؤسسون للذكاء الاصطناعي، يوشوا بنجيو وجيوف هينتون، وباحثون مثل ستيوارت راسل في جامعة كاليفورنيا، بيركلي، الذي يدرس كيفية اتخاذ الذكاء الاصطناعي للقرارات. هناك ستيف وزنياك، المؤسس المشارك لشركة أبل، وريتشارد برانسون من فيرجن، الذين يرون تهديدًا تجاريًا. السياسيون – من سوزان رايس، مستشارة الأمن القومي الأمريكي السابقة، إلى مايك مولن، رئيس هيئة الأركان المشتركة السابق. وانضم بشكل غير متوقع إلى ستيف بانون وجلين بيك والفنان ويل آي آم والمؤرخ يوفال نوح هراري مؤلف كتب عن مستقبل البشرية. وعشرات من المهندسين والعلماء والناس العامين.

مسار بديل للذكاء الاصطناعي

كان الذكاء الاصطناعي يثير قلق الناس لأنه متحيز أو لأنه يمكن أن يحل محل الوظائف. لكن الذكاء الفائق هو فئة مختلفة. يمكنها أن تصبح مستقلة، وتقرر مصير العالم بدوننا.

وبدلا من ذلك، يقترح العلماء توجيه الذكاء الاصطناعي نحو أهداف العالم الحقيقي: تشخيص الأمراض، حيث تجد الخوارزميات بالفعل الأورام بشكل أسرع من الأطباء، أو الاكتشافات العلمية مثل محاكاة الجزيئات، أو التعليم، حيث يتعلم الطلاب بالسرعة التي تناسبهم. وهذا يتطلب أدوات قوية، وليس عقلًا خارج نطاق السيطرة.

تقول ماري آن ويليامز، رئيس قسم الابتكار في جامعة نيو ساوث ويلز:

“نحن نواجه مستقبلاً من المعجزات الطبية والمعرفة بفضل الذكاء الاصطناعي. لكن هذا لا يتطلب خلق عقل سيقرر بنفسه ما نحتاج إليه، مع المخاطرة بالخروج عن نطاق السيطرة”.

الإعلان الجديد عن الذكاء الفائق يبدأ حوارًا عالميًا ليس فقط حول أدوات محددة للذكاء الاصطناعي، ولكن أيضًا حول المسار الذي يضعنا عليه مبدعو هذه التكنولوجيا.