تي+ ت – مقياس عادى

تفضل، ليس هناك الكثير لرؤيته. يبدو أن هذه هي الرسالة التي أرسلتها OpenAI الأسبوع الماضي، حول تجربة لمعرفة ما إذا كان برنامج الدردشة المتقدم GPT-4 يمكنه مساعدة الأفراد ذوي الخبرة. البحث العلمي حول إنشاء وإطلاق سلاح بيولوجي.

وأكدت OpenAI أن برنامج الدردشة الآلي قدم، في أحسن الأحوال، دعمًا بسيطًا لمثل هذه الجهود، لكنه أضاف أن هناك حاجة ملحة لبذل المزيد من الجهود بشأن هذه القضية.

ومع ذلك، إذا تعمقت أكثر، فإن الأمور ليست مطمئنة للغاية. وفي كل مرحلة تقريبًا من عملية الاختراق المتخيلة، بدءًا من الحصول على عامل بيولوجي إلى توسيع نطاقه وإطلاقه، كان المشاركون المسلحون بـ GPT-4 قادرين على التقدم نحو هدفهم الشائن أكثر من المنافسين الذين يعتمدون فقط على الإنترنت. ولذلك، فإن الاستنتاج الأساسي من هذه التجربة لا ينبغي أن يكون مريحا.

كتب غاري ماركوس، المحلل الذي أدلى بشهادته حول الرقابة على الذكاء الاصطناعي أمام لجنة في مجلس الشيوخ الأمريكي، الأسبوع الماضي في النشرة الإخبارية التي يكتبها على نطاق واسع: “يجب أن تشعر شركة OpenAI بالقلق بشأن هذه النتائج”. “وكذلك ينبغي لنا. نحن بحاجة إلى تحسين آلياتنا”. بشكل مستقل لتقييم هذه التهديدات والحد منها بشكل واقعي. وكما أننا لا نسمح لشركات الأدوية باتخاذ القرار بشأن مدى سلامة الأدوية، فلا يجوز لنا أن نترك تقييم مخاطر الذكاء الاصطناعي للصناعة وحدها.

طلب باحثو OpenAI من 100 متطوع تم فحصهم – بما في ذلك 50 طالبًا حاصلين على تدريب أساسي في علم الأحياء، و50 متخصصًا يتمتعون بخبرة معملية واسعة وحاصلين على درجة الدكتوراه في مواضيع ذات صلة، مثل علم الفيروسات – للتخطيط لهجوم إرهابي. البيولوجية، مثل وباء الإيبولا. تم اختيار 25 شخصًا من أصل 50 بشكل عشوائي لاستخدام الإنترنت للبحث في خطتهم، بينما يمكن للـ 25 الآخرين استخدام كل من الإنترنت وGPT-4.

التحدي نفسه تم تقسيمه إلى 5 مهام: تحديد العامل البيولوجي وتخطيط الإستراتيجية، الحصول على العامل البيولوجي، المحاكاة الكافية لصنع سلاح، مرحلة الصياغة والتركيب، وأخيراً الإطلاق. بعد ذلك، تم تقييم المشاركين من قبل متخصصين خارجيين في مجال الأمن الحيوي، بدرجة من 10، لمدى نجاحهم في التخطيط. وبالنسبة لهذه المهام عبر 5 مستويات، بما في ذلك على وجه الخصوص الدقة والشمول والابتكار، يمكن الحصول على علامات عالية، على سبيل المثال، من خلال تحديد المواد الكيميائية الصحيحة، بما في ذلك الخطوات الصحيحة في عملية الإنتاج، وإيجاد طريقة مبتكرة للتحايل على الاحتياطات الأمنية.

تم تصنيف كل من الطلاب والخبراء الذين تمكنوا من الوصول إلى GPT-4 على أنهم أكثر دقة من المجموعات التي استخدمت الإنترنت فقط. ومع ذلك، فإن التركيبة القاتلة هي التي جمعت بين الخبرة العلمية وGPT-4. وحصل الخبراء الذين يستخدمون الذكاء الاصطناعي، والذين سُمح لهم باستخدام نسخة غير محدودة من GPT-4، على درجة إضافية قدرها 0.88 من أصل 10، مقارنة بالخبراء الذين يستخدمون الإنترنت فقط.

وقد حدد الباحثون مستوى الاهتمام بـ 8 من أصل 10، وقد نجح العديد من الخبراء الذين يستخدمون GPT-4 في الوصول إلى هذا الرقم، خاصة في مجال الشراء والترويج والصياغة والإطلاق.

ومع ذلك، اعتبرت النتائج غير ذات أهمية إحصائية، حيث اعترف الباحثون فقط بأن GPT-4 غير المحدود “قد يزيد من قدرة الخبراء على الوصول إلى المعلومات حول التهديدات البيولوجية”. على السطح، تقدم الجداول رؤية مختلفة، حيث ضاعف GPT-4 فرص التوصل إلى صيغة عملية أربع مرات. يعترف المؤلفون بقيود أخرى للدراسة: فبينما عمل المشاركون بمفردهم في جلسات مدتها 5 ساعات، كان بإمكان الإرهابيين البقاء معًا لأسابيع أو حتى أشهر.

لم يتمكن المشاركون من الوصول إلى المجموعة الكاملة من أدوات تحليل البيانات المتقدمة الخاصة بـ GPT-4، والتي، كما يعترف الباحثون، يمكن أن تحسن فائدة هذه النماذج في التخطيط للهجمات.

وفي الدفاع عن رسالتها، يمكن لشركة OpenAI أن تشير إلى دراسة حديثة أجرتها مؤسسة RAND، والتي وجدت أيضًا أنه بدءًا من صيف عام 2023، لم تجعل النماذج اللغوية الكبيرة خطط الهجوم الإرهابي البيولوجي أكثر أهمية من الناحية الإحصائية من استخدام الإنترنت وحده. ومع ذلك، يعترف باحثو مؤسسة RAND بوجود وضع مائع يتغير على نطاق زمني غير معروف.

تقول فيليبا لينتزوس، الباحثة في العلوم والأمن الدولي في جامعة كينغز كوليدج في لندن، والتي تحث الحكومات والأكاديميين على المشاركة في تقييم مثل هذه التهديدات: “لا ينبغي لنا أن نبالغ في تقدير المخاطر، ولكن لا ينبغي لنا أن نقلل من تقديرها”.

الذكاء الاصطناعي مثير للدهشة باستمرار، وGPT-4 ليس الخيار الوحيد المتاح، والدول المارقة، والمنعزلون الذهانيون، والجماعات الخبيثة تجد ثغرات.

في حين أن هذه التجربة ركزت فقط على التخطيط، فإن نمو المختبرات السحابية عن بعد، حيث يمكن الاستعانة بمصادر خارجية للتجارب إلى المرافق الآلية، قد يغير حساب التفاضل والتكامل في التنفيذ. تشكل المواد السامة التي صممها الذكاء الاصطناعي خطرًا إضافيًا.

بشكل عام، هناك الكثير من القضايا التي يتعين علينا رؤيتها، وهي كافية لتبرير المزيد من التفكير حول قدرة الذكاء الاصطناعي على المساعدة في الإرهاب البيولوجي.

تابعوا البيان الاقتصادي عبر أخبار جوجل