Önemli Bilgiler
- Boston merkezli Modulate şirketi tarafından geliştirilen ToxMod, rahatsız edici konuşmaları gerçek zamanlı olarak otomatik olarak algıladığını ve bunlara karşı harekete geçtiğini iddia ediyor.
- Basit bir dille sınırlandırılmak yerine ToxMod, duygu, hacim ve ritim gibi soyut unsurları bulmak için makine öğrenimini kullanır.
- ToxMod şu anda oyun içi sohbet odaları ile kullanılmak üzere tasarlanmıştır, ancak Twitch kanalınıza gelmemesi için hiçbir neden yok.
Boston merkezli bir şirket, söylenenlerle ne anlama geldiği arasındaki farkı anlayabilen, dünyanın ilk sesli yerel denetleme hizmeti olarak fatura ettiği şeyi oluşturmak için makine öğrenimini kullanıyor.
ToxMod, İnternet'teki herhangi bir açık alanı denetleme paradoksunu çözme girişimidir; talebe ayak uyduracak yeterli insan yok, ancak algoritmalar, filtreler ve bir rapor sistemi nüansları anlamıyor.
ToxMod'un veritabanıyla, oyuncuların konuşmalarındaki duygu ve ses gibi faktörleri izleyebilir ve bu da anlık bir gecikme ile bir davranış kalıbı arasında ayrım yapmasına yardımcı olur. Yakın zamanda, şu anda Steam Erken Erişim'de olan 7v7 Amerikan futbolu oyunu Gridiron'a ek olarak duyuruldu.
"Sesli sohbette ve oyunlarda taciz, nefret söylemi ve zehirliliğin büyük bir sorun olduğunu herkes biliyor. Bu, genel olarak anlaşılır," dedi Modulate'in baş teknoloji sorumlusu ve kurucu ortağı Carter Huffman, Google ile yaptığı bir toplantıda. can teli. "Bu çeşitli makine öğrenimi sistemlerinden çıkardığımız özellikleri alabilir ve bunları topluluktan öğrendiğimiz tüm bu uzman bilgisini hesaba katan bir sistemde birleştirebiliriz."
Yeni Robot Moderatörlerimizi Selamlayın
Modulate, geçen sonbahardan beri ToxMod üzerinde çalışıyor ve bunu şirketin üç temel hizmetinden biri olarak dahil etti. Ayrıca, makine öğrenimi tarafından desteklenen bir ses maskeleyici olan VoiceWear ve kullanıcıların topluluklarındaki insanların ne tartıştığını öğrenmelerini sağlayan bir toplayıcı hizmet olan VoiceVibe'ı sunar.
ToxMod bir sohbette çalışırken, Modulate'in yönetici paneli aracılığıyla uyarı vermek, oyuncuları sessize almak veya sesi bireysel olarak ayarlamak gibi çeşitli otomatik eylemleri gerçekleştirmek üzere programlanabilir.
Onay için Modulate sunucularını kontrol etmeden önce, yerel örneğinin harekete geçen ilk kişi olduğu bir önceliklendirme sistemi kullanır. Sonra nihayet insan müdahalesini gerektirebilecek noktaya tırmanıyor. Modulate'in "triyaj kapıları" olarak adlandırdığı her kontrolü sırayla yürüterek, fikir, ToxMod'un küçük bir moderatör ekibine çok daha büyük bir topluluğu etkin bir şekilde denetlemek için araçlar sağlamasıdır.
"Üzücü gerçek şu ki, herkes, hangi platformda olursanız olun sesli sohbeti kullanmaya çalışma ve bunun kötü bir fikir olduğunu keşfetme deneyimine sahipti," dedi Modulate CEO'su Mike Pappas. Lifewire ile görüntülü görüşme. "İçeri girip 'Burası Vahşi Batı değil. Kurallar var' diyebilmek. Bence bu gerçekten önemli."
Sistemi Kırmak
Doğal olarak, ToxMod hakkında sorulacak ikinci veya üçüncü soru onu nasıl kıracağınızdır.
Twitter'ı yöneten algoritmalar gibi birçok otomatik denetleme sistemiyle, onları sevmediğiniz kişilere karşı oynamak kolaydır. Sadece birkaç kukla hesapla hedefinizi toplu olarak bildirin ve güvenli bir şekilde ban yemelerini sağlayın.
"Temel düzeyde, ToxMod'un bu ek oyuncu raporlarına güvenmesine gerek yok," dedi Pappas. "Hâlâ hangi suçlara dikkat etmemiz gerektiğine dair sağlam tahminler üretebiliyor. Gerçekten oynayacak bir şey olmadığı için sistemi oynamaya çalışan oyuncular hakkında endişelenmenize gerek yok.
Sesli sohbette ve oyun oynarken taciz, nefret söylemi ve zehirliliğin büyük bir sorun olduğunu herkes bilir.
"Oyuncu olarak tüm kontrolünüz kendi sesinizdir," diye devam etti Pappas. "Yapabileceğin en kötü şey, bir insan hakkında daha az kötü olmak, bu yüzden seni kötü bir aktör olarak işaretlemeyelim ki bu da görev başarısına yakın bir şey diyebilirim."
Genel olarak, o zaman, ToxMod'un arkasındaki fikir aktif bir ıslah girişimidir. Bu noktada birçok oyuncu, rastgele hakaretlerden aktif tehditlere kadar açık ses kanallarında rastgele yabancılardan bir tür taciz yaşadı. Sonuç olarak, oyuncular genel olarak sesli sohbetten çekiniyor ve kendi rahatlıkları karşılığında rahatlığından vazgeçmeyi tercih ediyor.
"Kötü oyuncuların bulunup kaldırılmadan önce sesli sohbette çok daha az zaman harcamasını görmeyi bekliyoruz" dedi Pappas."Bunun doğrusal bir etkisinden daha fazlası var. Herkes sesli sohbeti daha güvenli bir yer olarak gördüğünde, daha iyi aktörler sesli sohbete geri dönmeye ve denemeye istekli oluyor. Bence her şey olumlu yönde dönebilir."
