أصدر المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) التابع لوزارة التجارة الأمريكية طلباً للحصول على معلومات لدعم واجباته الموضحة في أحدث أمر تنفيذي رئاسي يتعلق بالتطوير الآمن والمسؤول للذكاء الاصطناعي (AI) واستخدامه.
أعلنت المنظمة أنَّها تدعو الجمهور إلى تقديم مدخلات حتى 2 فبراير 2024، لجمع الملاحظات الأساسية لإجراء الاختبارات لضمان سلامة أنظمة الذكاء الاصطناعي.
فيما صرَّحت وزيرة التجارة الأمريكية، جينا ريموندو، أنَّ المبادرة مستوحاة من الأمر التنفيذي الذي أصدره الرئيس جو بايدن في أكتوبر، والذي يوعز إلى المعهد الوطني للمعايير والتكنولوجيا بوضع مبادئ توجيهية، بما في ذلك التقييم وتشكيل الفِرق الحمراء، وتعزيز المعايير القائمة على الإجماع، وإنشاء بيئات اختبار لتقييم نظام الذكاء الاصطناعي. يهدف هذا الإطار إلى دعم مجتمع الذكاء الاصطناعي في تطوير الذكاء الاصطناعي بأمان وموثوقية ومسؤولية.
يسعى طلب المعهد الوطني للمعايير والتكنولوجيا للحصول على معلومات إلى الحصول على مدخلات من شركات الذكاء الاصطناعي والجمهور حول إدارة مخاطر الذكاء الاصطناعي التوليدي وتقليل مخاطر المعلومات الخاطئة الناتجة عن الذكاء الاصطناعي.
لقد أثار الذكاء الاصطناعي التوليدي، القادر على توليد النصوص والصور ومقاطع الفيديو بناءً على مطالبات مفتوحة، الحماس والمخاوف. ثمَّة مخاوف بشأن النزوح الوظيفي والاضطرابات الانتخابية وإمكانية تجاوز التكنولوجيا للقدرات البشرية مع عواقب كارثية محتملة.
لذا يسعى طلب المعهد الوطني للمعايير والتكنولوجيا أيضاً إلى الحصول على تفاصيل حول تحديد المجالات الأكثر فعالية لـ "الفِرق الحمراء" في تقييم مخاطر الذكاء الاصطناعي ووضع أفضل الممارسات. والجدير بالذكر أنَّ الفريق الأحمر هو ممارسة من محاكاة الحرب الباردة تشير إلى تقنية تقوم فيها مجموعة من الأفراد، والمعروفة باسم الفريق الأحمر، بمحاكاة سيناريوهات أو هجمات عدائية محتملة لتقييم نقاط الضعف في نظام أو عملية أو منظمة. علماً بأنَّ هذه الطريقة استُخدمت منذ مدة طويلة في الأمن السيبراني للكشف عن مخاطر جديدة.
مقالات ذات صلة: سياسي أمريكي يستخدم متصل الذكاء الاصطناعي في حملته قبل انتخابات 2024: تقرير
في أغسطس، حدث التقييم العام الأمريكي الافتتاحي للفريق الأحمر في مؤتمر الأمن السيبراني الذي نسقته ’إيه آي فيليج‘ (AI Village) و ’سيد إيه آس‘ (SeedAI) و’هيومين إنتيليجينس‘ (Humane Intelligence).
في نوفمبر، أعلن المعهد الوطني للمعايير والتكنولوجيا عن تشكيل اتحاد الذكاء الاصطناعي الجديد، جنباً إلى جنب مع إشعار رسمي يعبِّر عن طلب المكتب للمتقدمين الذين يحملون أوراق الاعتماد ذات الصلة. يهدف الاتحاد إلى إنشاء وتنفيذ سياسات وقياسات محددة لضمان اتباع المشرعين الأمريكيين نهجاً يركز على الإنسان لسلامة الذكاء الاصطناعي وحوكمته.
مقالات ذات صلة: ’أوراكل‘ تطلق مبادرات لتدريب 50 ألف مواطن سعودي على الذكاء الاصطناعي وإنترنت الأشياء
Translated by Albayan Gherra
ترجمة البيان غره