Google, yapay zeka ile oluşturulan içeriğin tespitinde kullanılabilecek yeni aracı SynthID’i herkesin kullanımına açtığını duyurdu.
Özellikle deepfake ve daha birçok içerik yapay zeka ile gerçekçi oluştururken, bu alanda büyük bir açık söz konusuydu. Google, yapay zekaya yönelik adımlar atarken, SynthID adını verdiği tespit aracını herkesin kullanımına açtı. Bu gelişme, Google’ın resmi X hesabından duyuru olarak yayınlandı.
YAPAY ZEKA İLE OLUŞTURULAN İÇERİKLERE FLİGRAN EKLEYECEK
Digitaltrends.com’un derlediği habere göre X’te paylaşımda bulunan Google, kullanmak isteyenler için SynthID’i aracını herkese açık olarak sundu.
Yapay zeka tarafından oluşturulan içerik için kimlik doğrulama sistemi, oluşturulan görüntülere, videolara ve metinlere algılanamayan filigranlar yerleştirerek kullanıcıların bir içerik parçasının insanlar tarafından mı yoksa makineler tarafından mı yapıldığını doğrulamasında önemli bir role sahip.
Google, paylaşımında , “SynthID Metin filigranlama aracımızı açık kaynaklı hale getiriyoruz. Geliştiriciler ve işletmeler için ücretsiz olarak kullanılabilir, yapay zeka tarafından oluşturulan içeriklerini tanımlamalarına yardımcı olacak.’’ açıklamalarına yer verdi.
Bilmeyenler için SynthID, 2023 yılında yapay zeka tarafından üretilen görüntü, ses ve videolara filigran ekleme aracı olarak piyasaya sürüldü. Başlangıçta Imagen’e entegre edildi ve şirket daha sonra geçtiğimiz Mayıs ayında I/O 2024’te Gemini sohbet botuna dahil edildiğini duyurdu.
SynthID, modelin kelime seçimlerini “düzeltilmiş olasılık puanları” ile birlikte filigranlı ve filigransız metin için beklenen puan modeliyle karşılaştırarak, bu cümleyi bir yapay zekanın yazıp yazmadığını tespit edebilecek. Özellikle yazılan yazılar, AI ile oluşturulan görüntüler bu aracın radarında olacak.
Maryland Üniversitesi’nde doçent olan Soheil Feizi, MIT Technology Review’a verdiği demeçte, “Yapay zeka tarafından üretilen metnin güvenilir ve algılanamaz filigranını elde etmek, özellikle de [büyük dil modeli] çıktılarının gerçeklere dayalı sorular veya kod oluşturma görevleri gibi neredeyse deterministik olduğu senaryolarda temelde zordur” dedi ve açık kaynak niteliğinin “topluluğun bu dedektörleri test etmesine ve farklı ortamlarda sağlamlıklarını değerlendirmesine olanak tanıyarak bu tekniklerin sınırlarını daha iyi anlamaya yardımcı olduğunu” belirtti.
Google’ın SynthID aracını herkese açık hale getirmesi, yapay zeka ile üretilen içeriklerin güvenilirliği konusunda önemli bir adım olsa da, bu teknoloji henüz mükemmel derecede değil. Zira gelecekte, yapay zeka ve güvenlik alanındaki gelişmeler doğrultusunda SynthID gibi araçların daha da güçlenmesi ve yeni tehditlere karşı daha etkili hale gelmesi bekleniyor.
Kaynak: X
