OpenAI Sora için ilk kısıtlama geldi: Korkulan oldu, OpenAI geri adım attı!

OpenAI'in devrim niteliğindeki yapay zeka modeli Sora, kısa süre önce resmi olarak duyuruldu. ChatGPT'den ayrı olarak erişilebilen bu yapay zeka aracı, metinden videolar oluşturuyor. Öyle ki gerçeğinden ayırt edilemeyecek kadar iddialı görüntüler oluşturması endişeleri beraberinde getirdi.

Bunun üzerine OpenAI, daha fazla başının ağrımaması için ilk adımı attı ve Sora için bir özelliğe kısıtlama getirdi. 

SORA'DA ARTIK İNSAN GÖRÜNTÜLERİ KULLANILAMAYACAK

Mashable.com'un haberine göre OpenAI, Sora'da güvenlik endişeleri nedeniyle kişilerin tasvilerini sınırlama kararı aldı. Kötüye kullanımı önlemek amacıyla alınan bu karar, gelecekte OpenAI'in ciddi sorunlarla karşılaşmaması için alınan bir önlem de diyebiliriz.

Bilmeyenler için OpenAI Sora, kullanıcıların AI tarafından videolar oluşturmasını mümkün kılıyor. Dahası, verdiğiniz bir istem karşılığında Sora, gerçeğinden ayırt edilemeyecek kişi görüntüleri de oluşturabiliyor.

Deepfake ve diğer sahte videoların önüne geçilmesi amacıyla kullanıcılar artık gerçek bir insana ait görüntüler oluşturamayacak. 

Sistem kartına göre, “insanların görüntülerini yükleme yeteneği bir kullanıcı alt kümesine sunulacak”, yani çoğu kullanıcı yüklenen bir görüntüye dayalı olarak insanların videolarını oluşturamayacak. Bu kullanıcılar, OpenAI'nin seçkin bir azınlıkla test ettiği “Benzerlik pilotunun” bir parçası.

Öte yandan OpenAI sözcülerinden biri; yapay zeka tarafından üretilen insan videolarının “benzerliğin kötüye kullanılması ve derin sahtekarlıklarla ilgili endişeleri gidermek” için sınırılama getirildiğini duyurdu. Sözcü sözlerine şöyle devam etti: “OpenAI kötüye kullanım modellerini aktif olarak izleyecek ve bunu tespit ettiğimizde içeriği kaldıracak, kullanıcılarla birlikte uygun önlemleri alacak ve güvenlik yaklaşımımızı yinelemek için bu erken öğrenimleri kullanacağız.”