تتمتع الألعاب بالقدرة على ربط الأشخاص حول العالم بالمرح والعمل الجماعي، ولكنها يمكنها أيضًا خلق مساحة مناسبة للخطاب السام والكراهية. الدردشة الصوتية المباشرة في Call of Duty.
وفقًا لموقع The Verge، يحاول نظام الذكاء الاصطناعي الخاص بـ Modulate، والمسمى ToxMod، تحديد التهديدات مثل خطاب الكراهية والتطرف وإيذاء النفس في الوقت الفعلي.
تدعي أنها تعمل في ثلاث خطوات: الفرز والتحليل والتصعيد. يستمع ToxMod إلى جميع الدردشات الصوتية والنقاط الدقيقة التي تتطلب المزيد من البحث. يتم تخزين هذه البيانات التي تم وضع علامة عليها في خوادمهم، بينما ستتم معالجة جميع البيانات الأخرى مباشرة على الجهاز الأولي.
وتقول الشركة إنها تقوم بعد ذلك بتقييم كل شيء بدءًا من النبرة وحتى العاطفة، ولا تحلل فقط “ما يقال، ولكن أيضًا كيف يقال وكيف يستجيب اللاعبون الآخرون له”. وأخيرًا، يحاول تنبيه المشرفين بشأن أخطر الحوادث ويترك الأمر لهم لاتخاذ الإجراءات اللازمة، كما يزعم. تسميها الشركة “الحل الوحيد الأصلي للتحكم في الصوت” المتاح حاليًا، والذي يحمي “عشرات الملايين من اللاعبين”.
وقال مايكل فانس، كبير مسؤولي التكنولوجيا في Activision، في بيان، إن تكامل ToxMod يمكن أن يساعد في منع الاستجابات السامة ككل، والعمل جنبًا إلى جنب مع الأنظمة الحالية التي تركز على النص وإعداد التقارير. “من خلال هذا التعاون، نقدم الآن أحدث تقنيات التعلم الآلي من Modulate والتي يمكن توسيع نطاقها في الوقت الفعلي لتنفيذها على مستوى عالمي.
هذه خطوة حاسمة للأمام لإنشاء والحفاظ على تجربة ممتعة وعادلة ومرحبة لجميع اللاعبين. في العام الماضي، بدأت Activision في السماح لفرق الإشراف على اللعبة بكتم صوت اللاعبين الذين يستخدمون لغة سامة في المحادثات الصوتية والنصية.
يتوفر ToxMod الآن كإصدار تجريبي باللغة الإنجليزية في أمريكا الشمالية للعبتي Call of Duty: Modern Warfare II وCall of Duty: Warzone، وسيتم إصداره عالميًا – باستثناء آسيا – عند إطلاق Call of Duty: Modern Warfare III في 10 نوفمبر.