Discord’un moderasyon yanılgısında 8.000+ hesap yasaklandı

0

BEĞENDİM

ABONE OL

News

0

Discord, güvenlik sistemindeki bir yanılgının Mayıs 2026’den bu yana 8.000’den fazla hesabı ezkaza yasaklamasına yol açtığını kabul etti. Yasaklama yapılan kullanıcılar satranç tahtası, Minecraft envanteri, oyun dokularıve spreadsheet üzere büsbütün zararsız grid görselleri paylaşmış bulunuyordu.

Discord kurucularından ve lider teknoloji görevlisinden Stanislav Vishnevskiy, grid gibisi görseller yükleyen yaklaşık 200 kullanıcının yanı sıra öbür zararsız görselleri paylaşan 8.000 kişinin bu yanılgıdan etkilendiğini bildirdi. Kelam konusu tüm hesaplar kaldırılmıştır.

Moderasyon sistemi nasıl yanılgı yaptı?

Discord’un yapay zeka dayanaklı güvenlik sistemi, kullanıcıların yükledikleri içeriği bilinen ziyanlı gereçler veritabanıyla karşılaştırarak işaretleme yapacak formda tasarlandı. Sistem yanlış olumlulara (false positive) sebep olabileceğinden, işaretlenen hesaplar bir hareket alınmadan evvel Trust & Safety takımı tarafından gözden geçirilmesi gerekiyordu. Amaçlanan davranış, inceleme sırasında hesabı süreksiz olarak durdurmak değil, büsbütün yasaklamak olmamalıydı.

Ancak bir kusur, sistemi hesapları anında yasaklamaya yöneltti. İdari takım bu hesapları inceleyip temizlese bile, birebir kusur yasaklamanın otomatik olarak kaldırılmasını engelledi. Discord yazılı açıklamasında “Personelimiz bu hesapları inceledikten sonra, yasaklamayı otomatik olarak kaldırması gereken tıpkı kusur sebebiyle yasaklama yerinde kaldı” dedi.

Kullanıcıların tepkisi

Etkilenen kullanıcılar toplumsal medyada hayal kırıklığını lisana getirdi. Bilhassa Discord’u iş, oyun toplulukları yahut uzun aralıklı toplumsal temaslar için kullanan bireyler, bu türlü bir kusura bağlı kalıcı yasaklamanın önemli sonuçlar doğurabileceğini vurguladı. Birtakım oyun geliştiricileri, hesapları yapay zeka moderasyonundaki bu yanlışa bağlı olarak kilitlenmelerinin iş irtibatlarını kesintiye uğrattığını belirtti.

Discord, bu durumun yaklaşık iki ay boyunca etkin kaldığını ve rezil bir kusur olduğunu kabul ederek, misal meseleleri önlemek için daha düzgün müdafaa düzenekleri üzerinde çalıştığını açıkladı. Şirket, yanlış olumlular sebebiyle yasaklanan tüm hesapların şu anda eski haline getirilme sürecinde olduğunu belirtti.