Meta, Instagram'da genç kullanıcıların güvenliğini artırmaya yönelik yeni bir uygulamayı hayata geçiriyor. Şirketin duyurduğu yeni özellikle birlikte, yapay zekâ tarafından analiz edilen sohbetlerde kendine zarar verme ya da intihar riski taşıdığı değerlendirilen ifadeler tespit edilirse, durum doğrulama sürecinin ardından ebeveynlere bildirilecek. İlk aşamada belirli ülkelerde devreye alınan sistemin yıl sonuna kadar daha geniş bir kullanıcı kitlesine sunulması planlanıyor. Yeni uygulama, ebeveyn denetimi açık hesaplarda geçerli olacak. Meta, genç kullanıcıların çevrim içi güvenliğini artırmayı amaçlayan bu sistemde yapay zekâ analizlerinin ardından insan incelemesine de yer verileceğini açıkladı. Şirket, yalnızca belirli risk işaretlerinin doğrulanması halinde ailelere bildirim gönderileceğini belirtti. Yeni özellik, sosyal medya platformlarında gençlerin ruh sağlığının korunmasına yönelik geliştirilen araçlar arasına eklendi.
Yapay Zekâ Şüpheli Sohbetleri İnceleyecek
Meta'nın paylaştığı bilgilere göre Instagram'da genç kullanıcıların sohbetleri Meta AI tarafından analiz edilecek. Yapay zekâ, kendine zarar verme veya intihar riski taşıdığı düşünülen ifadeleri tespit ettiğinde bu içerikler güvenlik ekiplerinin incelemesine gönderilecek.
İnceleme sonucunda riskin doğrulanması halinde ebeveyn denetimi aktif hesaplarda ailelere bildirim iletilecek. Böylece ailelerin olası risklerden daha erken haberdar olması hedefleniyor.
İlk Olarak Dört Ülkede Kullanıma Sunuldu
Yeni özellik ilk etapta ABD, İngiltere, Avustralya ve Kanada'da ebeveyn kontrolü açık Instagram hesaplarında kullanılmaya başlandı. Meta, uygulamanın yıl sonuna kadar küresel olarak erişime açılacağını duyurdu.
Şirket ayrıca gelecekte, ciddi risk taşıdığı değerlendirilen durumlarda ilgili acil yardım birimlerine bilgi verilmesini sağlayacak yeni bir sistem üzerinde de çalıştığını açıkladı.
