Facebook terör videolarını tespit etmek için yeni stratejisini duyurdu

Yeni Zelanda’da geçen hafta yaşanan terör saldırısıyla ilgili olarak vahşi katliamın canlı yayınlandığı sosyal ağ Facebook’tan yeni bir açıklama geldi.

Facebook’un ürün yönetiminden sorumlu başkan yardımcısı Guy Rosen, blog yazısıyla Yeni Zelanda’daki saldırıda Facebook olarak neleri yaptıklarını, neleri yapamadıklarını paylaştı.

‘KİMSE ŞİKAYET ETMEDİ, FARKLI PROSEDÜR İŞLEDİ’

Facebook Başkan Yardımcısı Rosen, yazısında, Facebook gibi çevrimiçi platformların terörist saldırıların korkunç videolarını yayınlamak için nasıl kullanıldığını, Yeni Zelanda saldırısında neler yaşadıklarını ve bu alanda ne gibi önlemler alacaklarını açıkladı.

Saldırganın videosunun, Yeni Zelanda polisinin kendilerine ulaşmasından birkaç dakika sonra kaldırdıklarını belirten Guy Rosen, şu bilgileri verdi:

“Aktif soruşturmanın ışığında, polis bizden bazı ayrıntıları paylaşmamamızı istedi. Şimdilik şu bilgileri verebiliyoruz: Video, canlı yayın sırasında 200 kişi tarafından izlendi. Canlı yayın sırasında videoyu hiçbir kullanıcı bildirmedi, şikayet etmedi. Tüm canlı yayın boyunca tek bir kullanıcı raporu alamadık. Bu önemli çünkü bir video canlı yayınlanırken aldığımız raporlarla, hızlandırılmış inceleme için öncelik veriyoruz. Geçen cuma günkü ilk rapor, yayın başladıktan 29 dakika sonra, canlı yayın sona erdikten 12 dakika sonra geldi. Bu rapor da video intihar dışındaki nedenlerden dolayı rapor edildi ve bu nedenle farklı prosedürlere göre işlendi. Bu olaydan öğrendiklerimizle, incelemeyi hızlandırıp, kategorileri genişletmek amacıyla canlı videolar için raporlama mantığımızı ve deneyimlerimizi yeniden inceliyoruz.”

‘SES EŞLEŞTİRMEYİ KULLANDIK’

Guy Rosen, “Canlı yayın sırasındaki görünümler de dahil olmak üzere, video Facebook'tan çıkarılmadan önce toplamda 4 bin kez izlendi. Video bildirilmeden önce, 8chan’daki bir kullanıcı video paylaşımının linkini bir dosya paylaşım sitesinde yayınladı. İlk 24 saat içinde, yükleme sırasında 1.2 milyondan fazla videoyu kaldırdık. Yaklaşık 300 bin ek kopyayı da gönderildikten sonra kaldırdık. Toplamda, 800'ün üzerinde görsel olarak farklı videonun dolaşım halindeki türevlerini bulduk ve engelledik. Bu süreçte görsel olarak otomatik olarak tanıma sistemlerinin yanısıra aynı müzik parçasına sahip olan videoları tespit etmek için geliştirilen ses eşleştirme teknolojisini de kullandık” dedi.

YAPAY ZEKA NEDEN TESPİT EDEMEDİ?

Canlı yayın platformları Facebook Live'da intihar veya zararlı eylemler içerebilecek videoları saptamak için yapay zekayı (AI) kullandıklarını vurgulayan Rosen, “Birçok kişi yapay zekanın neden geçen haftaki saldırının videosunu otomatik olarak algılamadığını sordu. Yapay zeka, yıllar içinde ve birçok alanda büyük ilerleme kaydetti, bu da kaldırdığımız içeriğin büyük çoğunluğunu proaktif olarak tespit etmemizi sağladı. Ama mükemmel değil” dedi.

Yapay zekanın, platformlarındaki terör içeriğine karşı mücadelelerinin en önemli parçası olduğunu ve etkinliği artırmaya devam edeceğini belirten Facebook’un başkan yardımcısı, “Ancak yapay zeka hiçbir zaman mükemmel olmayacak. Bu yüzden geçen yıl yaklaşık 15 bin içerik gözden geçiricisini işe alarak, güvenlik alanında çalışan kişilerin sayısını ikiye katlayıp, 30 binden fazla kişiye çıkardık. İnsanların da rahatsız edici buldukları içerikleri bildirmelerini için teşvik ediyoruz” diye konuştu.

‘OTOMATİK SİSTEMİMİZİ TETİKLEMEDİ’

Rosen, yapay zeka konusunda karşılaşılan zorluğu ise şu sözlerle ifade etti:

“Yapay zeka sistemleri eğitim verilerine dayanmaktadır, bu da belirli metin, görüntü veya video türlerini algılayabilen bir sistemi eğitmek için binlerce içerik örneğine ihtiyaç duyduğunuz anlamına gelir. Bu yaklaşım, çıplaklık, terörist propaganda ve sistemlerimizi eğitmek için kullanabileceğimiz çok sayıda örneğin bulunduğu şiddet içerikleri gibi alanlarda çok işe yaradı. Ancak, bu sefer video otomatik algılama sistemlerimizi tetiklemedi. Bunu başarmak için, sistemimize bu özel içerik türünden büyük miktarda veri sağlamamız gerekecek. Diğer bir zorluk da, bu içeriği görsel olarak benzer, zararsız içerikten otomatik olarak ayırt etmek. Örneğin, canlı yayın yapan video oyunlarından binlerce video sistemlerimiz tarafından işaretlendiyse, eleştirmenlerimiz ilk cevaplayanları uyaran gerçek videoları kaçırabiliyor.”

4 ADIMLIK YENİ YOL HARİTASI

“Yeni Zelanda'da olanlar korkunçtu. Kalplerimiz bu korkunç saldırıdan etkilenen kurbanlar, aileler ve topluluklarla birlikte” diyen Facebook’un başkan yardımcısı Guy Rosen, Facebook olarak bundan sonra benzer olayları daha hızlı tespit edebilmek için şu adımları atacaklarını aktardı:

“Öncelikli olarak eşleştirme teknolojimizi geliştirerek, orijinal olarak nasıl üretildiklerine bakılmaksızın bu nitelikteki viral videoların yayılmasını durdurabiliriz. Örneğin, geçen Cuma günü, videonun çeşitlerini tanımlamak için geliştirdiğimiz deneysel ses tabanlı teknolojiyi uyguladık.

İkinci olarak ise canlı videolarda bu tür içeriğe daha hızlı tepki vermeliyiz. Bunun için yapay zekanın bu durumlarda kullanılıp kullanılamayacağını ve nasıl kullanılabileceğini ve kullanıcı raporlarına nasıl daha hızlı ulaşılabileceğini araştıracağız.

Üçüncüsü ise platformumuzdaki her türlü nefret söylemiyle mücadele etmeye devam edeceğiz. Topluluk standartlarımız, terörist ve her türlü nefret gruplarını yasaklıyor. Buna, proaktif algılama teknolojisi ile içeriğini kaldırdığımız küresel çapta 200'den fazla beyaz ırkın diğer ırklardan daha üstün olduğuna inanan örgüt de dahil.

Dördüncü olarak ise terörle Mücadele için Küresel İnternet Forumu (GIFCT) aracılığıyla sektörel işbirliklerimizi genişleteceğiz. Bu kapsamda URL’leri sadece algoritmalar yerine sistematik olarak paylaşmayı deniyoruz, çevrimiçi çalışan teröristlerin ve şiddet içerikli aşırılık yanlılarının çeşitliliğini ele almak ve bir krizde işbirliği yapma yeteneğimizi geliştirmek için çalışıyoruz.”