موظف سابق ومسؤول سلامة يحذران: الذكاء الاصطناعي قد "يقتل جميع البشر" دون ضوابط عالمية

فينيكس نيوز — أعلن باحث في الذكاء الاصطناعي ترك شركة أوبن إيه آي (OpenAI) لينضم إلى أنثروبيك (Anthropic) أنه سيغادر المجال، متّهما الشركتين الأمريكيتين بأنهما "يلعبان بحياتنا" في سباق تطوير نماذج ذكاء اصطناعي قادرة على تحسين نفسها.

جاكوب كوكسون، 27 عاما، أمضى السنوات الثلاث الماضية في التدريب المسبق لنماذج الذكاء الاصطناعي، أولا في أوبن إيه آي ثم هذا العام في منافستها أنثروبيك، التي كان يعتبرها أكثر حذرا. التدريب المسبق هو المرحلة التي تمتص فيها النماذج كميات هائلة من البيانات.

قال كوكسون في 9 سبتمبر: "لا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان نحو الذكاء الفائق القادر على تحسين نفسه وتقامران بحياتنا". وأضاف في منشور على منصة إكس: "المطورون للذكاء الاصطناعي يعتقدون بجدية أنه قد يقتلنا جميعا بحلول نهاية العقد. هذا ليس حيلة تسويقية".

أيد إيفان هوبينغر، المسؤول التنفيذي للسلامة في أنثروبيك، تصريحات كوكسون على إكس، قائلا: "نحن نعتقد بجدية أن الذكاء الاصطناعي قد يقتل جميع البشر!"، مقدرا الخطر بأكثر من 10 بالمئة خلال العقد المقبل. وقال هوبينغر إن أنثروبيك "تبذل قصارى جهدها" لكنها لا تملك بعد خطة لضمان امتثال نظام ذكاء اصطناعي فائق الذكاء لمطوريه.

تأتي استقالة كوكسون بينما تستعد أنثروبيك لدخول السوق، بعد صيف شهد اختراقات غير مصرح بها نفذتها أدوات الذكاء الاصطناعي أثناء الاختبار. لم ترد الشركتان فورا على طلبات التعليق من وكالة فرانس برس.

يقول قادة الذكاء الاصطناعي إن ما يسمى "التحسين الذاتي التكراري" — وهي المرحلة التي يمكن لأنظمة الذكاء الاصطناعي فيها تصميم وتدريب الجيل التالي من الذكاء الاصطناعي بتدخل بشري ضئيل — يقترب. يعتقد كوكسون أنه لا يمكن لأي شركة تطوير ذكاء اصطناعي يتجاوز البشر بشكل مسؤول دون تدخل حكومي أو تباطؤ منسق.

في فبراير، أزالت أنثروبيك تعهدا من ميثاق السلامة الخاص بها بوقف تطوير النماذج إذا فشلت في السيطرة على المخاطر، بحجة أن التوقف الأحادي الجانب سيسمح للمنافسين الأقل حذرا بالسيطرة على المجال. في أواخر يوليو، دعا أكثر من 1000 موظف في قطاع التكنولوجيا، بمن فيهم الرئيس التنفيذي لأنثروبيك داريو أمودي، واشنطن إلى دعم التباطؤ المنسق في تطوير أنظمة الذكاء الاصطناعي المتقدمة. أوقفت أوبن إيه آي تدريب أحدث نماذجها لمدة أسبوعين في أغسطس قبل استئنافه تحت ضوابط أكثر صرامة.

في 7 سبتمبر، دعا كبير العلماء في أوبن إيه آي جاكوب باتشوكي إلى "الحذر الشديد"، وكتب في منشور أن "التنسيق الدولي لتطوير الذكاء الاصطناعي في المستقبل يجب أن يصبح أولوية قصوى للحكومات في جميع أنحاء العالم". لا تخضع نماذج الذكاء الاصطناعي للتنظيم بموجب القانون الاتحادي في الولايات المتحدة. في سبتمبر، قدم السناتور بيرني ساندرز والنائب غريغ كاسار مشروع قانون يسعى إلى تعليق تطوير الذكاء الاصطناعي لحين إنشاء هيئة تنظيمية اتحادية.