Microsoft, gün geçtikçe yaygınlaşmakta olan yapay zeka (AI) teknolojisinin doğurduğu deepfake içeriklerini tespit edebilen bir araç geliştirdi.
İlginizi çekebilir: Hamilelik sürecindeki riskleri tespit edebilen yapay zeka geliştirildi
Günümüz dünyasında hayatımızın vazgeçilmez bir parçası haline gelen yapay zeka teknolojisi, artık fotoğraf ve videolarda da kendini öne çıkarmaya başladı. Yalnız yapay zekanın görüntülerde giderek daha yaygın kullanılması, beraberinde “deepfake” adı verilen içerikleri de hayatımıza getiriyor.
İlk defa duyanlar için deepfake; bir kişinin, yapay sinir ağları kullanılarak başka bir görüntüye entegre edilmesini sağlayan bir manipülasyon türü. Aslında bu içeriklerin çoğu eğlence amaçlı yapılıyor olsa da, potansiyel olarak kötü emellere alet edilme riskinin hayli fazla olduğu unutulmamalı.
İçindekiler
Microsoft, deepfake ile mücadele etmekte kararlı
İşte Microsoft da bu risk nedeniyle, deepfake’in sahte görüntüleri kötü amaçlarla yayma aracı olarak kullanılmasıyla mücadele etmek maksatlı bir sistem geliştirdi. Microsoft’un geliştirdiği sistem, yapay zeka tarafından üretilmiş görüntüleri ve videoları tespit edebiliyor. Video Authenticator (Video Kimlik Doğrulayıcı) adlı bu araç, aynı zamanda görüntüleri analiz etmekle beraber kendi içerisinde “güven puanı” adı verilen puanlama yöntemine dayanarak onların yapay veya gerçek olduğuna karar verebiliyor.
Microsoft yetkilileri, geliştirdikleri aracı şu ifadelerle duyurdu: “Bugün, Microsoft Video Authenticator’ı duyuruyoruz. Video Authenticator, medyanın yapay olarak manipüle edildiğine dair bir yüzde şans veya güven puanı sağlamak için hareketsiz bir fotoğrafı veya videoyu analiz edebilir.”
Yapay zeka ile manipüle edilmiş görüntüleri tespit etmek her ne kadar zor gibi görünse de, şirket; “Authenticator, deepfake içeriklerinde insan gözü tarafından tespit edilemeyen küçük solma veya gri tonlamalı unsurları tespit ederek çalışır.” açıklamasında bunu başarabildiklerini ifade etti.
Microsoft, bu aracı geliştirirken FaceForensics++ adlı herkese açık bir veri kümesinden faydalandığını belirtti. Akabinde bu aracın DeepFake Algılama Veri Kümesi üzerinde test ettiğinin de altını çizen şirket, bu sistemlerin deepfake algılama teknolojileri arasında önde gelen modeller olduğunu açıkladı.
Ek olarak Microsoft, aracı dağıtmak için San Francisco’daki bir AI Vakfı ile işbirliği yapıyor. Şirket, bu aracın devreye girmesiyle özellikle ABD seçimleri öncesinde yanlış bilgilerin yayılmasını önlemeyi hedefliyor. Bu nedenle sistem, başlangıçta ağırlıklı olarak seçim kampanyası yürüten ve siyasi haberleri içeren medya kuruluşlarına dağıtılacak. Sonrasında ise daha fazla yaygınlaşması bekleniyor.
tarafından verilmektedir.