Deepfake (Derin Sahte)

Konu Başlıkları:

• Yapay Zekâ Tarafından Üretilen Yeni Nesil Görsel–İçerik: Derin Sahte
• Derin Sahtelerin Demokrasi ve İnsan Haklarına Karşı Tehdit Oluşturmasına Uygun Bir İklim: Değişen Kitle İletişim Ortamı ve Bilgi Kirliliği Çağı
• İnsan Hakları ve Demokrasiye Karşı Yeni Bir Tehdit: Derin Sahtelerin Kötüye Kullanımı
• Derin Sahtelerin Kötüye Kullanımının Yarattığı Tehditlere Karşı Demokrasi ve İnsan Haklarının Savunulması: Üç Boyutlu ve Hak Temelli Bir Çözüm Önerisi

Fotoğraf ve video uzun süre boyunca gerçekliğin neredeyse birebir yansıması olarak kabul görmüştür. Yapay zekânın son dönemdeki hızlı gelişiminin meyvesi deepfake bu durumu değiştirecek gibi gözükmektedir. Deepfake, derin öğrenme alanındaki yöntemlerle yaratılan ve yapay olmasına karşın çok gerçekçi gözüken görsel-işitsel içerik anlamına gelmektedir.

Bu çalışma, deepfake teknolojisinin yaratabileceği toplumsal ve hukuki sonuçları mercek altına almaktadır. Yeni teknolojiler iyi amaçlarla kullanılabileceği gibi kötü gayelere alet edilebilir. Bu duruma istisna teşkil etmeyen deepfake; moda, reklamcılık, sinema, tıp, sanat, eğitim gibi farklı alanlara katkı sunarken, diğer yandan rıza dışı pornografi ve sahte delil üretimi, belgede sahtecilik, dolandırıcılık ve dezenformasyon için kullanılmıştır.

Bu çalışmada; deepfake teknolojisi etraflıca açıklanmış, onun tedavüle girdiği çevirim içi kitle iletişim ortamı, deepfake ile bağlantılı şekilde irdelenmiştir. Ayrıca deepfake teknolojisinin hem iyi hem de kötü amaçlı kullanımları araştırılmış ve bu teknolojinin suistimal edilmesinin önlenmesi için çözüm önerileri sunulmuştur.

(Tanıtım Bülteninden)

İçindekiler

Önsöz ...5
Kısaltmalar ...13
Şekil Listesi ...15
Tablo Listesi ...17
Giriş ...19
Birinci Bölüm...
YAPAY ZEKÂ TARAFINDAN ÜRETİLEN...
YENİ NESİL GÖRSEL–İÇERİK: DERİN SAHTE...
1.1. YAPAY ZEKÂYA KISA BİR BAKIŞ ...23
1.1.1. Yapay Zekâ Nedir? ...23
1.1.1.1. Tanımlanamayan Bir Kavram ...24
1.1.1.2. Zayıf ve Güçlü Yapay Zekâ ...26
1.1.1.3. Yapay Zekâya ve Çalışmanın Konusuna İlişkin Terimler: Makine Öğrenimi, Derin Öğrenme ve Yapay Sinir Ağları ...28
1.1.2. Kısa Yapay Zekâ Tarihi ve İçinde Bulunduğumuz Yapay Zekâ Baharı ...31
1.1.2.1. Yapay Zekânın Kökenleri ...31
1.1.2.2. Yapay Zekâ Mevsimleri ...32
1.1.2.3. Devam Eden Yapay Zekâ Baharı ...33
1.2. YAPAY ZEKÂ İLE ÜRETİLEN YENİ NESİL GÖRSEL–İŞİTSEL İÇERİK: DERİN SAHTE ...35
1.2.1. Derin Sahte Nedir? ...35
1.2.1.1. Görsel Derin Sahteler ...37
1.2.1.2. İşitsel Derin Sahteler ...45
1.2.2. Derin Sahte Nasıl Üretiliyor: Çekişmeli Üretici Ağlara Kısa Bir Bakış ...46
1.2.2.1. Çekişmeli Üretici Ağların Yapısı ve Çekişme Döngüsü ...47
1.2.2.2. Çekişmeli Üretici Ağların Önemi ve Geleceği ...50
1.2.3. Derin Sahte Üretiminin Demokratikleşmesi ...53
1.2.4. Derin Sahtelerin Geleneksel Yöntemlerle Düzenlenen Yapay Görsel İçeriklerden Farkı ...60
1.2.5. Derin Sahtelerin İyi Amaçlarla Kullanımı ...67
1.3. SONUÇ: YAPAY ZEKÂ TARAFINDAN ÜRETİLEN YENİ NESİL GÖRSEL–İŞİTSEL İÇERİK ...79
İkinci Bölüm...
DERİN SAHTELERİN DEMORKASİ VE İNSAN HAKLARINA KARŞI...
TEHDİT OLUŞTURMASINA UYGUN BİR İKLİM: DEĞİŞEN KİTLE İLETİŞİM ORTAMI VE BİLGİ KİRLİLİĞİ ÇAĞI...
2.1. GİRİŞ ...84
2.2. BİLGİ KİRLİLİĞİ ÇAĞINDA KAVRAM KARMAŞASI ...85
2.3. DEĞİŞEN KİTLE İLETİŞİM ORTAMI: İNTERNET VE SOSYAL MEDYANIN KİTLE İLETİŞİMDE ARTAN ÖNEMİ ...87
2.3.1. Geleneksel Medyanın Düşüşü ...87
2.3.2. İnternet ve Sosyal Medyanın Yükselişi ...90
2.4. İNSAN DOĞASININ VE ÇEVİRİM İÇİ ORTAMIN BİLGİ KİRLİLİĞİNE YATKINLIĞI ...91
2.4.1. İnternet Platformlarının Sorunlu İş Modeli ve Yapısı ...92
2.4.2. İnsan Doğasının Bilgi Kirliliğine Meyilliliği ...99
2.4.3. Paylaşılabilirlik ve Yankı Odaları ...102
2.4.3.1. Paylaşılabilirlik ...103
2.4.3.2. Yankı Odaları ...106
2.5. ÇEVİRİM İÇİ BİLGİ KİRLİLİĞİNİN 5N1K’Sİ ...107
2.6. ÇEVİRİM İÇİ BİLGİ KİRLİLİĞİNİN SONUÇLARI ...112
2.7. DERİN SAHTELERİN TÜRBÜLANS İÇİNDEKİ ÇEVİRİM İÇİ KİTLE İLETİŞİM ORTAMIYLA UYUMU ...121
2.7.1. Çevirim İçi İletişimin Yeni Normu: Video ...122
2.7.2. Derin Sahtelerin Günümüzün Çevirim İçi Bilgi Kirliliğinden Ayrılan Özellikleri ...123
2.7.2.1. Görsel ve Metinsel Bilgi İletişiminin Farklı Ağırlıkları ...124
2.7.2.2. Toplumun Görsel Bilgi Kirliliğine Aşina Olmaması ...125
2.7.2.3. Beynin Görsel ve Metinsel İçerikleri Farklı Şekilde İşlemesi ...126
2.7.3. Derin Sahtelerin İnandırıcılığı ...127
2.7.4. Derin Sahtelerin Bilgi Kirliliği Çağında Etkin Yayılımı ...133
2.7.4.1. Derin Sahtelerin Uçtan Uca Şifrelenmiş Mesajlaşma Uygulamalarıyla Paylaşılması ...133
2.7.4.2. Derin Sahtelerin Mikro ve Makro Seviyedeki Çevirim İçi Bilgi Kirliliğinde Kullanımı ...135
2.8. SONUÇ: DERİN SAHTELERİN DEMOKRASİ VE İNSAN HAKLARINA KARŞI TEHDİT OLUŞTURMASINA UYGUN BİR İKLİM ...138
Üçüncü Bölüm...
İNSAN HAKLARI VE DEMOKRASİYE KARŞI YENİ BİR TEHDİT: DERİN SAHTELERİN KÖTÜYE KULLANIMI...
3.1. GİRİŞ: DERİN SAHTELERİN KÖTÜYE KULLANIMININ DEMOKRASİ VE İNSAN HAKLARINA KARŞI TEHDİT OLUŞTURACAĞINA İLİŞKİN ARTAN KAYGILAR ...144
3.2. GAZETECİLERİN, İNSAN HAKLARI SAVUNUCULARININ VE MUHALİF SESLERİN SUSTURULMASI ...147
3.2.1. Derin Sahte Pornografisiyle Muhalif Gazeteciye İtibar Suikastı: Rana Ayyub Vakası ...148
3.2.2. Derin Sahte Profil Fotoğraflı Var Olmayan Gazetecinin İftiraları: Filistinli Hak Savunucuları Vakası ...156
3.3. KİŞİ, GRUP VE KURUMLARIN İTİBARINI VE DİPLOMATİK İLİŞKİLERİ ZEDELEMEK ...158
3.4. GERÇEKLİĞİN EROZYONU ...164
3.5. GERÇEKLİĞİN İNKÂRI (YALANCININ KÂRI) ...173
3.6. MEDYANIN HABER AKIŞININ BOZULMASI VE FAALİYETLERİNİN ZORLAŞMASI ...180
3.7. SEÇİMLERE MÜDAHALE ...183
3.8. YENİ NESİL İNTİKAM PORNOSU: BİR KADIN HAKLARI SORUNU OLARAK DERİN SAHTE PORNOGRAFİSİ ...188
3.8.1. Giriş ...188
3.8.2. Toplumsal Cinsiyet Perspektifi ve Vaka İncelemeleri ...192
3.8.3. Derin Sahte Pornografisinin Yarattığı Hak İhlalleri ...198
3.9. ÇOCUK İSTİSMARI ...206
3.10. MALİ SUÇLAR, BELGEDE SAHTECİLİK VE FİNANSAL DEZENFORMASYON ...207
3.11. SAHTE DELİL ÜRETİMİ VE GERÇEK DELİLLERİN İNKÂRI ...212
3.12. BİYOMETRİK TANIMA SİSTEMLERİNİN ALDATILMASI ...219
3.13. SONUÇ: DEMOKRASİ VE İNSAN HAKLARINA KARŞI YENİ BİR TEHDİT OLARAK DERİN SAHTELERİN KÖTÜYE KULLANIMI ...221
Dördüncü Bölüm...
DERİN SAHTELERİN KÖTÜYE KULLANIMININ YARATTIĞI TEHDİTLERE KARŞI DEMOKRASİ VE İNSAN HAKLARININ SAVUNULMASI: ÜÇ BOYUTLU VE HAK TEMELLİ BİR ÇÖZÜM ÖNERİSİ...
4.1. TOPLUMSAL BOYUT ...231
4.1.1. Derin Sahteleri Çevreleyen Teknopaniği Yatıştırmak ...232
4.1.1.1. Teknopanik Nedir? ...232
4.1.1.2. Derin Sahteler ve Teknopanik ...233
4.1.2. Farkındalık ve Eğitim ...238
4.1.2.1. Eğitim ve Farkındalık Gereksinimi ...238
4.1.2.2. Türkiye’nin Derin Sahtelerin Kötüye Kullanımına ve Bilgi Kirliliğine Karşı Dirençsizliği ...240
4.1.2.3. Eğitim Kampanyalarına Yönelik Tavsiyeler ...242
4.1.2.4. Etkin Fakat Piyasada Bulunamayan Bir İlaç Olarak Eğitim ...248
4.2. TEKNİK BOYUT: TEKNOLOJİYE KARŞI TEKNOLOJİ ...249
4.2.1. Sahteliğin Tespiti ...250
4.2.1.1. Derin Sahte Tespiti ...250
4.2.1.2. Sahteliğin Tespitine Hak Temelli Eleştirel Bakış ...253
4.2.1.3. Sahteliğin Tespitinin Teknik Sınırlılıkları ...256
4.2.1.4. Sonuç: Sınırlılıkları Olan Ancak Yatırım Yapılması Gereken Bir Savunma Mekanizması Olarak Derin Sahte Tespiti ...261
4.2.2. Özgünlüğün Tespiti ...263
4.2.2.1. Özgünlüğü Doğrulanmış İçerik Üretimi ...263
4.2.2.2. Özgünlüğün Tespitine Hak Temelli Eleştirel Bakış ...267
4.2.2.3. Sonuç ...273
4.2.3. Faydalı Ancak Eksik ve Yan Etkileri Olan Bir Tedavi Olarak Teknolojik Çözümler ...274
4.3. HUKUKİ BOYUT ...275
4.3.1. İçerik Odaklı Yaklaşım ...276
4.3.1.1. Giriş ...276
4.3.1.2. Derin Sahte Çocuk Pornografisi ...277
4.3.1.3. Derin Sahte Pornografisi ...281
4.3.1.4. Siyasi ve Seçim İçerikli Derin Sahteler ...289
4.1.3.5. İçerik Odaklı Yaklaşımın Sonucu ...297
4.3.2. Kurumsal Yaklaşım: Yeni Bir Kurum Derin Sahtelerin Kötüye Kullanımının Demokrasi ve İnsan Haklarına Karşı Oluşturduğu Tehditlere Derman Olabilir Mi? ...298
4.3.3. Aracı Odaklı Yaklaşım: Sosyal Medya Platformları, Uçtan Uca Şifrelenmiş Mesajlaşma Uygulamaları ve Derin Sahtelerin Kötüye Kullanımı ...302
4.3.3.1. Facebook ...305
4.3.3.2. Reddit ...307
4.3.3.3. TikTok ...307
4.3.3.4. Twitter ...308
4.3.3.5. YouTube ...316
4.3.3.6. Sosyal Medya Platformlarının Derin Sahtelerle İlgili Politikalarına Hak Odaklı Eleştirel Bir Bakış ...318
4.3.3.7. Uçtan Uca Şifrelenmiş Mesajlaşma Uygulamaları ve Derin Sahteler ...323
4.3.3.8. Uçtan Uca Şifrelenmiş Mesajlaşma Uygulamalarının Derin Sahtelerle İlgili Politikalarına Hak Odaklı Eleştirel Bir Bakış ...326
4.3.4. İlkesel Yaklaşım ...329
4.4. SONUÇ: ÜÇ BOYUTLU VE HAK ODAKLI ÇÖZÜM ÖNERİSİ ...333
Kaynakça ...339
İndeks ...393