Video oyun devi Activision, Call of Duty oyununda çevrimiçi olarak gerçekleşen maçlarda nefret söylemi ve ayrımcılığı engellemek için yapay zeka tabanlı moderasyon aracını kullanmaya başladı. Bu yeni moderasyon aracı, ayrımcı dil ve tacizi gerçek zamanlı olarak tespit edebiliyor.

Makine tahsili teknolojisinin kullanıldığı bu moderasyon aracı, yapay zekanın insan müdahalesi olmadan öğrenme ve uyarlanma yeteneği sayesinde çalışıyor. Algoritmaları ve öğrenilen bilgileri kullanarak kalıpları tanıyan yapay zeka, oyuncular ortasındaki irtibatı denetliyor.

Bu moderasyon aracı “ToxMod” ismini taşıyor ve Modulate isimli bir şirket tarafından geliştirildi. ToxMod, Call of Duty‘de toksik davranışları tespit ederek bu cins davranışların önlenmesine katkı sağlıyor.

Çevrimiçi oyun dünyasında, bilhassa bayanlar ve farklı kümelere mensup oyuncular, sıklıkla zehirli ve önyargılı lisanla karşılaşıyorlar. Uzun müddettir bu çeşit istismarın gayesi olan oyuncular, bu probleme tahlil bulunmasını talep ediyorlar.

DAHA EVVEL 350 BİN KİŞİNİN HESABI BANLANMIŞTI

Activision, Mayıs 2021’de Call of Duty‘deki nefret telaffuzunu kısıtlama adımları atmış ve ırkçılık ile zehirli davranışlara karşı 350 bin hesabı yasaklamıştı. Yayıncı, oyunculara daha âlâ bir oyun tecrübesi sunmayı amaçlayan toksisite aykırısı bir yaklaşım benimsiyor.

Activision’ın baş teknoloji sorumlusu Michael Vance, ToxMod’un oyunu daha eğlenceli, adil ve sıcak bir tecrübeye dönüştüreceğini belirtti. ToxMod, toksik davranışları ciddiyet derecesine nazaran sınıflandırarak moderasyon uğraşlarını artırıyor ve insan müdahalesine imkan tanıyor.

Oyuncular, ToxMod’u devre dışı bırakmak için oyun içi sesli sohbeti devre dışı bırakma seçeneğine sahipler.