Bir zamanlar "Görmek inanmaktır." sözü, büyük ölçüde doğru kabul edilirdi. Bir fotoğraf ya da video, bir olayın gerçekten yaşandığının güçlü bir kanıtı sayılırdı. Fotoğraflar üzerinde oynama yapmak elbette mümkündü ve tarih boyunca siyasi amaçlarla rötuşlanmış pek çok fotoğraf bulunur. Ancak ikna edici bir sahte görüntü ya da video üretmek, uzmanlık, zaman ve pahalı ekipman gerektiriyordu. Yapay zekâ teknolojilerindeki gelişmeler, bu durumu hızla değiştirmektedir.

Bugün yapay zekâ araçları, gerçekte hiç var olmamış insanların son derece gerçekçi fotoğraflarını oluşturabilir. Bir kişinin yüzünü bir videoda başka birinin yüzüyle değiştirebilir. Birkaç dakikalık bir ses kaydından yola çıkarak bir kişinin sesini taklit edebilir ve ona hiç söylemediği sözleri söyletebilir. Bu tür sahte içeriklere, İngilizcede "derin öğrenme" ve "sahte" anlamına gelen sözcüklerin birleşiminden türetilen "deepfake" adı verilir. Türkçede bunlar için "derin sahte" ifadesi de kullanılmaktadır.

Bu teknolojilerin yaratıcı ve zararsız kullanımları da vardır. Sinema endüstrisinde, oyuncuların gençleştirilmesi ya da tehlikeli sahnelerin çekilmesi için kullanılabilir. Eğitim alanında, tarihî kişilikleri canlandıran etkileşimli içerikler oluşturulabilir. Sesini hastalık nedeniyle kaybeden kişilerin, kendi seslerine benzer yapay seslerle iletişim kurması sağlanabilir.

Ancak bu teknolojilerin kötüye kullanılma potansiyeli ciddi kaygılara yol açmaktadır. Sahte videolar, siyasi liderlerin hiç söylemedikleri sözleri söylüyormuş gibi gösterilmesi için kullanılabilir ve seçim süreçlerini etkileyebilir. Dolandırıcılar, bir aile üyesinin ya da bir şirket yöneticisinin sesini taklit ederek insanları para göndermeye ikna edebilir. Kişilerin rızası olmadan onları utandırıcı sahte görüntülerde göstermek, ciddi kişisel zararlara yol açabilir.

Sahte içeriklerin yarattığı belki de en derin sorun, genel bir güvensizlik ortamıdır. İnsanlar, sahte görüntülerin ne kadar inandırıcı olabileceğini öğrendikçe, gerçek görüntülere de şüpheyle yaklaşmaya başlayabilir. Bu durum, ilginç ve tehlikeli bir olguya yol açar: Gerçekten yaşanmış bir olayın görüntüleriyle karşılaşan biri, bunların sahte olduğunu iddia ederek sorumluluktan kaçmaya çalışabilir. Araştırmacılar bu duruma "yalancının kazancı" adını verir. Sahtenin mümkün olduğu bir dünyada, gerçeği inkâr etmek de kolaylaşır.

Bu soruna karşı çeşitli çözümler geliştirilmektedir. Araştırmacılar, sahte görüntüleri tespit eden yapay zekâ araçları geliştirmektedir. Ancak bu, sürekli bir yarıştır; tespit yöntemleri geliştikçe sahte içerik üretme yöntemleri de gelişmektedir. Bazı şirketler, yapay zekâ ile üretilen içeriklere görünmez dijital işaretler eklemeyi ya da fotoğrafların ve videoların kaynağını ve geçirdiği değişiklikleri kaydeden doğrulama sistemleri kullanmayı önermektedir. Bazı ülkeler, zararlı sahte içeriklerin üretilmesini ve yayılmasını düzenleyen yasalar çıkarmaktadır.

Ancak uzmanlar, en önemli savunmanın bilinçli ve eleştirel bir medya okuryazarlığı olduğunu vurgular. Özellikle güçlü duygular uyandıran, şaşırtıcı ya da öfkelendirici içeriklerle karşılaştığımızda, onları paylaşmadan önce durup düşünmek gerekir. İçeriğin kaynağı nedir? Güvenilir haber kuruluşları bu olayı doğruluyor mu? Görüntüde tuhaf ayrıntılar var mı? Bu basit sorular, sahte içeriklerin yayılmasını önlemede önemli bir rol oynayabilir.