OpenAI Sora 2 Modeli ile Yapılan Sahte Videolar Neden Endişe Yaratıyor?

Araştırma, Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceğini gösterdi. NewsGuard, oluşturulan yanlış videoların beşte birinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini belirtti.
Dakikalar İçinde Sahte Ama İnanılmaz Videolar
Araştırmacılar, Sora 2’yi kullanmaya başladıktan sadece birkaç dakika içinde Moldova’da bir seçim yetkilisinin Rusya yanlısı oy pusulalarını yaktığı, ABD sınırında bir çocuğun gözaltına alındığı, Coca-Cola’nın Bad Bunny’nin Super Bowl sahnesinde yer alması nedeniyle sponsorluktan çekildiği gibi sahte videolar üretebildi.
OpenAI Sora 2 Modeli ve Güvenlik Riskleri
OpenAI, Sora 2’nin güvenlik risklerini resmi web sitesindeki “sistem kartında” kabul etti. Şirket, modelin izinsiz benzerlik kullanımı veya yanıltıcı içerikler üretebileceğini belirterek sınırlı davet yoluyla erişim sağlandığını ve foto-gerçekçi kişi içeren görsellerin veya videoların yüklenmesinin yasaklandığını bildirdi.
Uzmanların Endişesi
Boston Üniversitesi’nden Doç. Michelle Amazeen, bulguların son derece endişe verici olduğunu belirtti ve medya kullanıcılarının bu tür sahte videoların gerçeği yalandan ayırmayı daha da zorlaştırabileceğini vurguladı. Biyometrik kimlik doğrulama firması Daon’un yöneticisi Scott Ellis ise Sora’nın fiilen bir deepfake aracı olduğunu söyledi ve zararlı içeriklerin engellenmesinde yüzde 80 oranında başarısız olmasının ciddi bir tehlike işareti olduğunu ifade etti.
Filigranlar ve Güvenlik Önlemleri
OpenAI, Sora 2’nin ürettiği tüm videolara hem görünür filigran hem de C2PA dijital imza eklediğini açıklasa da, NewsGuard araştırmacıları bu önlemin etkisiz olduğunu gösterdi. Uzmanlar, dijital içeriklerin doğrulanması için blok zinciri tabanlı kimlik sistemlerinin yaygınlaştırılmasını öneriyor.
Sonuç olarak, Sora 2’nin yüksek kalitede sahte videoları birkaç dakikada üretebilmesi, dijital çağda gerçeklik algısının giderek aşındığı yeni bir dönemin başlangıcına işaret ediyor.