Instagram DeepText ile Yapay Zekayı Kullanarak Trollerle Savaşacak


166
250 shares, 166 points

Sosyal medya ne kadar güzel olsa da troller ve nefret söylemlerinden geri durmayan kullanıcılar insanları ziyadesiyle bıktırıyor. Büyük markalardan, şahsi hesaplara kadar herkesin ortak derdi bu spam kullanıcılardan sayfalarını arındırmak. Sosyal medyadaki bütün mecralar da bu sorun için çeşitli çözümler sağlamaya çalışıyor. Şimdi de Instagram atılabilecek en mantıklı adımı atarak yapay zekayı devreye sokuyor.

Kelime Filtresinden Yapay Zekaya

Geçen sene Instagram bahsettiğimiz sorun için bir filtre sunmuştu. Bu filtre hesabınıza yapılan saldırgan yorumları otomatik olarak silmenize olanak sağlıyordu. Filtre, uygunsuz olarak belirtilen kelimeleri sildiği gibi kullanıcıların kendi kelime listelerini de oluşturmasına olanak sağlıyordu.

Ancak ne var ki bu filtre de trollerin önünü kesmekte %100 etkili değildi. Zira saldırgan cümleler, nefret söylemleri kimi zaman hiçbir spesifik kelime olmaksızın da kurulabiliyor. Kullanıcılar yine trollerden kurtulmuş olmuyordu dolayısıyla.

Yapay zekanın kullanımı ile artık Instagram yorumların bağlamını öğrenecek ve spesifik herhangi bir kelimeyi tetiklemese de trollerin yorumlarını silecek. Şu anda bu filtre sadece İngilizce olarak kullanılabiliyor ancak yakında diğer dillere de gelecektir diye tahmin ediyoruz. Bu sayede trollerden uzak bir mecraya adım atabileceğiz gibi duruyor.

 

DeepText Yazının Bağlamını Öğrenecek

Yapay zekanın adı DeepText olacak. DeepText, yorumlardaki kelimelerin hangi amaçla ve anlamla kullanıldığını öğrenecek ve ona göre filtreleme yapacak. Örnekse “beyaz” kelimesi bir renk ifade ederken ya da “Beyaz Saray” gibi bir bağlamda kullanıldığında filtreye takılmayacak ancak ırkçı şekilde “Beyaz Güç” olarak kullanıldığında filtreye takılacak ve yorum silinecek.

Elbette nefret söylemlerini yakalamak her zaman kolay değil ve yanlış filtreleme ihtimali de yüksek. Misal bir nefret söyleminden bir alıntı yapıp bu yoruma katılmadığınızı belirttiğinizde ne olacak? Ya da aynı kelimenin bir anlamı nefret söylemi bir anlamı ise bambaşka bir şeyi tanımlıyorsa o zaman ne olacak?

Yapay zeka kendini geliştiren bir yapıdır. Dolayısıyla bu tarz sorunların zaman içerisinde üstesinden gelecektir. Zaten olur da yorumların filtrelenmesinden memnun kalmazsanız kapatma fırsatınız olacak.


Paylaşmak ister misiniz?

166
250 shares, 166 points

0 Comments

Yorum Yazın