أعلنت شركة (أوبن أي آي) OpenAI أنها شكّلت فريقًا جديدًا لتقييم نماذج الذكاء الاصطناعي والتحقيق فيها، وذلك بهدف الحماية مما تصفه بـ”المخاطر الكارثية“.
وسيقود الفريق، المسمّى (الاستعداد) Preparedness، (ألكسندر مادري)، وهو مدير مركز تقنية (التعلم الآلي القابل للنشر) بمعهد MIT. وكان مادري قد انضم إلى (أوبن أي آي) في شهر أيار الماضي بصفته «رئيس قسم الاستعداد»، على وفق ما تُظهر صفحته في موقع (لينكدإن) LinkedIn.
وستكون المسؤوليات الرئيسة لفريق (الاستعداد) هي تتبع مخاطر أنظمة الذكاء الاصطناعي المستقبلية والتنبؤ بها والحماية منها، وذلك بدءًا من قدرتها على إقناع البشر وخداعهم؛ كما هو الحال في هجمات التصيد الاحتيالي، إلى قدراتها على توليد التعليمات البرمجية الضارة.
وتبدو بعض فئات المخاطر التي سوف يقيمها فريق (الاستعداد) مستبعدة مقارنةً بغيرها، فعلى سبيل المثال، أدرج منشور (أوبن أي آي) التهديدات «الكيميائية والبيولوجية والإشعاعية والنووية» بوصفها مجالات مثيرة للقلق عندما يتعلق الأمر بنماذج الذكاء الاصطناعي.
