TikTok, yapay zeka ile oluşturulan sahte videoların yaygınlaşmasıyla birlikte içerik üreticilerini korumaya yönelik yeni bir özelliği test etmeye başladı. Platform, yapay zeka kullanılarak oluşturulan veya bir kişinin yüzünün dijital olarak değiştirildiği videoları tespit etmeyi amaçlayan benzerlik algılama sistemi üzerinde çalışıyor. Test aşamasındaki özellik sayesinde içerik üreticileri, kendi yüzlerini izinsiz kullanan yapay zeka içeriklerini daha kolay tespit edebilecek ve doğrudan platforma bildirebilecek. Son yıllarda hızla artan deepfake içerikler, sosyal medya platformları için önemli başlıklardan biri haline gelirken, TikTok da bu alandaki çalışmalarını hızlandırdı. Yeni sistemin başarılı olması halinde daha geniş kullanıcı kitlesine sunulması planlanıyor. Böylece içerik üreticileri, kimliklerini doğruladıktan sonra kendilerini taklit eden yapay zeka videolarını daha hızlı şekilde raporlayabilecek.
Kimlik Doğrulayan Kullanıcılar Deepfake İçerikleri Bildirebilecek
TikTok'un test ettiği sistemden yararlanmak isteyen içerik üreticilerinin kimlik doğrulama işlemini tamamlaması gerekiyor. Platform bunun için gerçek zamanlı çekilen bir selfie ile kimlik doğrulama sürecini kullanıyor.
Şirket, doğrulama işlemlerinde üçüncü taraf bir hizmetten faydalanıldığını ve kimlik belgelerinin saklanmadığını belirtiyor. Doğrulama tamamlandıktan sonra kullanıcılar, yüzlerinin yapay zeka ile değiştirilerek oluşturulduğu içerikleri tespit edip inceleyebilecek ve platforma bildirebilecek.
Deepfake İçeriklerle Mücadele Hız Kazanıyor
Yapay zeka teknolojilerinin gelişmesiyle birlikte deepfake videoların gerçeğe daha yakın hale gelmesi, dijital platformlarda yeni güvenlik önlemlerini gündeme getiriyor.
TikTok bu alanda adım atan tek platform değil. YouTube da daha önce benzer bir yüz tanıma tabanlı sistemi kullanıma sunarak içerik üreticilerinin yapay zeka ile oluşturulan videoları tespit etmesine imkan sağlamıştı.