ألقت شركة xAI، المملوكة لإيلون ماسك والمتخصصة في الذكاء الاصطناعي، باللوم على "تعديل غير مصرح به" في موجّه (prompt) روبوت الدردشة Grok، ما أدى إلى توليد ردود تتضمن إشارات إلى توترات سياسية وعرقية في جنوب إفريقيا.
وفي تحديث نشرته الشركة يوم 16 مايو، أوضحت أن التعديل حدث بتاريخ 14 مايو، و"وجّه Grok لتقديم رد محدد حول موضوع سياسي، وهو ما يُعد انتهاكًا لسياسات xAI الداخلية وقيمها الجوهرية."
وأضافت الشركة أنها أجرت تحقيقًا شاملاً، وتعمل حاليًا على تطبيق تدابير تهدف إلى تعزيز الشفافية والموثوقية في روبوت الدردشة Grok.
وكان Grok قد أنتج ردودًا يوم 14 مايو تتحدث عن نظرية "إبادة البيض" في جنوب إفريقيا، حتى عند الإجابة عن أسئلة لا علاقة لها بالموضوع مثل البيسبول أو البرمجيات أو البناء. ووفقًا للتقارير، فقد صرّح الروبوت بأنه "تلقى تعليمات من صانعيه" للاعتراف بهذه الإبادة كحدث "حقيقي ودوافعه عنصرية".
وفي بعض الردود، أقرّ Grok بالخطأ قائلاً: "انحرفتُ عن الموضوع"، و"سأعمل على تحسين تركيزي"، لكنه كان في كثير من الأحيان يعود لمناقشة السياسة العرقية في جنوب إفريقيا ضمن نفس الرسالة.
وردًا على أحد المستخدمين الذين سألوه عمّا حدث، أجاب Grok:
"لم أفعل شيئًا كنت فقط ألتزم بالنص المعطى لي، كأي ذكاء اصطناعي مطيع!"
Grok يرد على تساؤلات حول ردوده السابقة. المصدر: Grok
جاء هذا الحادث في وقت يتزامن مع تصريح للرئيس الأمريكي السابق دونالد ترامب الذي أعلن فيه منح اللجوء لمزارعين من جنوب إفريقيا، مدعيًا أنهم يتعرضون لـ"إبادة"، وهي مزاعم لم تُدعَم بأي دليل.
xAI تعد بمزيد من الشفافية
قالت شركة xAI إنها ستغير طريقة عملها من خلال نشر كافة موجّهات النظام الخاصة بـGrok بشكل علني على GitHub، مما يتيح للجمهور مراجعتها وتقديم ملاحظاتهم على أي تعديل مستقبلي.
كما أقرت الشركة بأن عملية مراجعة التعليمات البرمجية الخاصة بالموجّهات قد تم تجاوزها في هذه الحادثة، وستُطبّق إجراءات إضافية لضمان عدم قدرة أي موظف على تعديل موجّه Grok دون مراجعة مسبقة.
وأخيرًا، أعلنت xAI عن إنشاء فريق مراقبة يعمل على مدار الساعة لرصد أي استجابات غير لائقة من Grok لا تلتقطها الأنظمة الآلية، والتعامل معها بشكل أسرع.