Deepfake hakkında merak edilen soruları bir bilene sorduk

Tam Boyutta Gör

Yapay zeka ve görüntü işleme teknolojilerinin yaygınlaşmasıyla sayısı giderek artan deepfake videolar, hepimiz için büyük tehdit içeriyor. Yapay zeka kullanılarak kolayca bir kişinin konuşması taklit edilebiliyor ve gerçekçi bir video hazırlanabiliyor. Kişi, kendi ağzıyla söylüyormuş gibi sahte konuşma videoları yaratılıyor. Konuşmanın yanı sıra hareketli görüntüdeki bir kişinin yüzü, başka bir kişinin yüzüyle değiştirilebiliyor.

Deepfake videoların yaygınlaşmasıyla birlikte gerçek videolar ile sahte videoları ayırt eden bazı yazılımlar geliştirildi. Yerli siber güvenlik şirketi Zemana'nın geliştirdiği Deepware ismindeki yazılım bunlardan biri.

Deepfake videolar ve Deepware yazılımı hakkında daha fazla bilgi edinmek için Zemana CEO’su Orhan Akyürek’e ulaştık ve merak ettiğimiz soruları sorduk.

Tam Boyutta Gör

Zemana CEO’su Orhan Akyürek’e sorduğumuz sorular ve aldığımız yanıtlar şöyle:

1. Deepfake teknolojisi nedir?

Deepfake, derin öğrenme ve makine öğrenimi gibi yapay zekâ algoritmalarıyla, orijinal görüntü, ses ya da yazılı metin türündeki içeriklerin, inandırıcı biçimde manipüle edilmesi ya da gerçekte var olmayan bu türden medya içeriklerinin, gerçekmiş gibi sentetik olarak üretilmesine olanak sağlayan; bir dijital teknolojidir.

2. Günümüzde eğlence amaçlı kullanılan teknolojinin gelecekte bize zararları neler olacak?

Deepfake teknolojisi, günümüzde sadece eğlence amaçlı kullanılmıyor. Kişilere, şirketlere, toplumsal barış ve demokrasiye zarar vermeyi hedefleyen deepfake saldırıları, deepfake’in yaklaşık 3,5 yıllık kısa tarihçesinde, daha ilk günden itibaren ortaya çıkmaya başladı. Bugüne kadar deepfake kullanılan siber saldırı girişimlerinin, gelecekte daha da hızla yayılarak, insanlığın gerçeklik algısını tehdit edecek düzeyde bir kaosa yol açmasından endişe ediliyor. University College London 2020 raporuna göre deepfake; yol açacağı zarar, siber saldırganlara sağlayabileceği kar potansiyeli, kullanım ve üretim kolaylığı gibi kriterler açısından, AI’nin suç amaçlı 20 kullanım yöntemi arasında, artık ilk sırada yer alıyor. Yani kapıdaki tehlike çok büyük.

2017 yılı sonlarında Reddit.com’da yayınlanan ilk deepfake örneğinde olduğu gibi, haberi ve rızası olmayan insanların, sosyal medya hesaplarından yüzleri çalınarak üretilen yetişkin medya içerikleri, bugün çevrimiçi dolaşımdaki deepfakelerin %95’ini oluşturuyor. Deepfake sahte medya içerikleri ile kişilere, şirketlere, kurumlara, ekonomi, demokrasi, barış ve adalet sistemine verilebilecek zararın boyutları, sadece deepfake’i hazırlayan siber saldırganların, kimi kurban seçtikleri, kötü niyetleri, hayal güçleri ve bu teknolojiyi kullanabilme yetenekleriyle sınırlı. Deepfake ile sahte algıya yayarak, bir kişinin itibarını yok etmek, bir şirketi dolandırmak ya da belki dünya savaşına yol açabilecek bir uluslararası krizi tetiklemek mümkün. Tehlikenin ucu çok açık.

3. Deepfake videoları nasıl tespit edebiliriz?

Günümüzde her gün milyarlarca resim ve video bilhassa sosyal medya platformları aracılığı ile internette yayınlanıyor. Medya içeriklerinin yayıcısı sosyal medya şirketleri deepfake videoların platformları aracılığı ile yayınlanmaması için deepfake engelleme ve tespit etme çalışmaları yürütüyorlar. Bu doğrultuda, bu çalışmalarda yer alması için akademi, teknoloji dünyası ve inisiyatif almak isteyen tüm ticari veya olmayan paydaşlara çağrılar yapıp çözümün parçası olmasını istiyorlar. 

Facebook 2020 yılı içerisinde DFDC adlı 1 milyon ödüllü deepfake tespit etme yarışması düzenledi, yarışma sonucu hala bu konuda çok fazla yol kat etmemiz gerektiğini gösterdi.

Kısacası, deepfake siber güvenlik tarihinin en büyük problemlerinden birisi bu problem için konu ile ilgilenen tüm paydaşların güç birliği yapması problemin çözümünde hızlı ve etkili çözüm üretilmesi için elzemdir.

Zemana olarak, yapay zeka girişimimiz Deepware AI’yi de bu amaçla yapılandırdık. Deepware, AI mühendislerinden oluşan ar-ge ekibiyle, iki yılı aşan çalışmalar sonucu deepfake tarama ve algılama teknolojimiz olan Deepware Scanner’ı geliştirdi. Deepware yapılanmamız, Deepware Scanner’ı, kusursuz bir deepfake algılama kapasitesine ulaştırmak çalışmalarını büyük bir inanç ve aşkla sürdürüyor. Her platformda dile getirdiğimiz üzere, ülkemizdeki akademi, teknoloji dünyası ve problemin çözümüne katkı bulunmak isteyen her kesim ile iş birliğine açık olduğumuzu yineliyoruz.

4. Deepfake videolar en çok hangi sektörleri/kimleri tehdit ediyor?

Deepfake medya içerikleri, genel manada siber saldırgan tarafından herhangi bir nedenle hedef seçilen her tür kişi, kurum, şirket ve sektör için tehdit niteliği taşır. Ancak, bugün itibariyle deepfake tehlikesi ile her an karşılaşma olasılığı yüksek öncelikli risk gruplarından söz edilebilir.

Bireysel hedefler arasında, özellikle siyasi lider, politikacı, bürokrat, diplomat, gazeteci, yazar, aktivist, kanaat önderi, iş insanı, üst düzey yönetici, sanatçı ve sporcular gibi, etki ve güç sahibi tanınmış kişiler, dezenformasyon ve itibar cellatlığından, finansal saldırılara kadar birçok farklı deepfake girişimi konusunda, daha yüksek risk taşırlar. Bu konumdaki kadınlar ise, deepfake siber saldırılarına yoğun biçimde hedef oluyorlar. Saldırılara birkaç örnek vermek gerekirse;

İntikam pornosu ile hayatı altüst edilen Hintli Müslüman muhalif kadın araştırmacı-gazeteci Rana Ayyup, yavaşlatılmış biçimde oynatılan videosu ile bir TV programında sarhoş gibi gösterilen ABD Temsilciler Meclisi Başkanı Pelosi ve Mynmar’da darbeci askerler tarafından hapse atılıp, sahte itiraf videosu basına servis edilen Yangon Eyalet Başbakanı Phyo Min Thein, bunlar arasında en bilinen güncel sadece birkaç örnek. The Guardian geçtiğimiz günlerde, Avrupa Birliği’nden milletvekillerinin kandırılarak, Rus muhalif lider Alexei Navalny‘nin ekibinde yer alan Leonid Volkov’un deepfake’i ile Zoom’dan görüşme yaptıklarını duyurdu. Rus muhalif Volkov‘un deepfake‘inin, muhalif lider Navalny ve ekibini itibarsızlaştırmak amacıyla, Rusya yönetimine hizmet eden siber saldırganlarca gerçekleştirilmiş olabileceği öne sürüldü.

Deepfake siber saldırıları, faaliyet alanı ve sektör farkı gözetmeden, tüm şirketleri ve kurumları da yoğun olarak hedef alabiliyor. Örneğin İngiltere’deki bir enerji şirketinin CEO’sunun sesi kullanılarak bir şirket çalışanının kandırılması ile gerçekleştirilen sahte banka havalesi talimatı nedeniyle, şirketin 243.000 bin doları çalınmış ve bu adli kayıtlara geçen bu alandaki ilk deepfake olayı olmuştu. Deepfake kullanılarak gerçekleştirilen dezenformasyon saldırıları, demokrasi, ulusal güvenlik, toplumsal barış ve toplum sağlığını hedef alabileceği gibi, şirketlerin marka ve hisse değerlerini manipüle etmeye yönelik finansal saldırılara da dönüşebilir. Hatta, ekonomik sistemi tahrip edecek finans, borsa ve piyasa manipülasyonları, finansal verilere yönelik kamuoyunu yanıltan sahte medya içerikleri ve sosyal medya bootları ile sahte kamuoyu baskısı oluşturmaya kadar, öngörülebilir birçok tehdit sıralayabiliriz.

Kuşkusuz bankalar başta olmak üzere, finans sektörü deepfake konusunda riskli sektörlerin başında geliyor. Özellikle pandemi nedeniyle dünyada ve ülkemizde bankacılık sisteminin, büyük ölçüde çevrimiçi faaliyet gösterir bir aşamaya gelmiş olması, müşteri işlemlerinin uzaktan erişim ve video görüşmeleri yoluyla gerçekleştirilmesine dair mevzuatın uygulamaya girmesi, finans sektörü için deepfake siber tehdidini ön plana çıkarıyor. Derin sesler ve gerçek zamanlı deepfake teknolojileri ile ilgili yaşanan örnekler, telekomünikasyon sektörünün de kullanıcılarını deepfake sahtekarlıklarından korumak için teknolojik önlemler arasına deepfake yakalama algoritmalarına sahip yazılımları da alması gereğini ortaya koyuyor.

5. Gelecekte bizi bekleyen siber tehlikeler nelerdir?

Yukarıda da açıklamaya çalıştığımız gibi, dijital çağın siber tehlikelerinin AI temelli olacağı, artık çok net görülüyor. Pandemi nedeniyle tüm dünyada ve her alanda dijital dönüşüm hızlanırken, hayatın giderek daha fazla mesafeli ve çevrimiçi hale gelmesi sürecinde, AI’nin yaşamın her alanındaki kullanımı yaygınlaşıyor. Bu doğrultuda geliştirilen AI algoritmaları, bir yandan ürün ve hizmetleri mükemmelleştirerek, yaşam kalitesini artırmayı vaat ediyor. Diğer yandan kontrolsüz gelişen ve yayılan AI teknolojileri, kötü niyetli sosyal mühendislik senaryolarının, en tehlikeli siber saldırı silahına dönüşüyor. Gelecekte, AI kullanılarak geliştirilecek yeni ve farklı siber saldırı yöntemleri, bugünden öngörülmesi zor siber güvenlik problemlerine yol açacak. Kesin olan şu ki, biz ve bizim gibi uluslararası siber güvenlik geliştiricilerinin, yeni nesil deepfake tarama ve algılama teknolojileriyle deepfake’i kontrol altına almak konusunda elde edeceğimiz sonuçlar, bu aşamada çok kritik bir önem taşıyor. Deepfake tehdidi karşısında elde edilecek başarı, siber korsanlarla hiçbir zaman son bulmayacak siber güvenlik mücadelesinin, geleceğini belirleyecek çok önemli bir adım olacak.

6. Deepware hakkında hakkında bilgi verebilir misiniz?

Deepware, sentetik medya yazarlılarına kısaca deepfake zararlılarına çözüm geliştirmek için Türk siber güvenlik geliştiricisi olan Zemana’nın başlattığı girişimdir. Deepware, deepfake tarama ve algılama teknolojisini çevrimiçi bireysel kullanıcılara dünyada ilk sunan şirkettir. 

Deepware AI ekibimiz, iki yılı aşan ar-ge sürecinde, güçlü algılama algoritmalarına odaklanarak, çift katmanlı bir algılama motoru geliştirdi. Beta sürümü, çevrimiçi olarak ücretsiz sunulan Deepware Scanner, kullanıcıların gerçekliğinden emin olmak için videolarla ilgili deepfake taraması yapabilmelerine olanak tanıyor. Çevrimiçi kullanıcılar, bir videodaki yüzlerin deepfake olup olmadığını anlamak için, deepware.ai internet adresinden, dijital içeriğin linkini ekleyerek ya da medya içerik dosyasını yükleyerek  taratabiliyorlar. Deepware Scanner, taratılan videonun deepfake olma olasılığını birkaç saniye içinde rapor halinde sunarak, kullanıcıların sahte video içerikleriyle aldatılmalarını önlüyor.

Deepware Scanner ürünümüzü, geliştiriciler için açık kaynak kodlu olarak yayınladık ve bu teknolojiyi aynı zamanda API ve SDK formlarında da kullanıma sunduk. Ürünümüzü en yüksek tespit oranına ulaştırmak için çalışmalarımızı ilk günkü heyacanla devam ettiriyoruz.

Diğer taraftan, Deepfake'lerin, özellikle oltalama saldırıları gibi yıkıcı kullanımının çok yakında gerçekleşmesini bekliyoruz. Bu tür saldırılarda yıkıcı etkinin sahte videodan çok ses klonlanmanın başarılması ile sahte ses yolu ile olacağını düşünüyoruz. Örneğin; insanlar tanıdık kişilerin (eş, çocuk, anne, baba, ünlü vb.) sesleri ile aldatılacaktır. Bu doğrultuda deepvoice (sahte ses veya ses klonlanması) koruması için Ar-Ge faaliyetleri yürütmekteyiz.

7. Dünyada bu teknolojiye yönelik yapılan çalışmalar nelerdir?

ABD’den, İsviçre’den, Estonya’dan, İsrail’den, Hollanda’dan ve dünyanın başka ülkelerinden, Türkiye’den Deepware gibi ticarileşmiş onlarca AI girişimi, deepfake tespit ve algılama teknolojilerini geliştirmek için mühendislik yatırımlarını sürdürüyorlar. Bunlarla birlikte Google, Facebook, Microsoft, Twitter, Deutsche Welle (DW), BBC, Blogger, Medium gibi küresel birçok teknoloji ve medya kuruluşunun içinde yer aldığı konsorsiyum girişimler de, üniversiteler ve AI şirketleri işbirliğiyle sahte sentetik medya tespiti için, yeni teknolojiler geliştirmeye çalışıyorlar. 

Dünyanın dört bir yanındaki teknoloji, siber güvenlik ve AI şirketleri bir yandan deepfake tespit ve algılama modelleri için ar-ge çalışmaları gerçekleştirirlerken, diğer yandan çevrimiçi dünyanın dev şirketleri bu doğrultudaki çalışmaları teşvik ediyorlar. Facebook ve Microsoft liderliğinde büyük beklentilerle 2019 Aralık ayında başlayan ve 6 aydan uzun bir organizasyonla gerçekleştirilen Deepfake Detection Challenge (DFDC), bu alandaki ilk ve en büyük global deepfake tespit modeli geliştirme yarışması oldu. Her kıtadan 2114 ekibin 35.000’den fazla deepfake tespit algoritmasıyla katıldığı mücadelenin final etabında, yarışmayı birinci bitiren model, ancak %65,18’lik bir deepfake tespit performansına ulaşabildi. Bu sonuç, AI temelli siber güvenlik algoritmalarının her tür deepfake’i yakalamak konusunda, henüz yolun en çok üçte ikisini kat edebilmiş durumda olduklarını ortaya koyuyordu. DFDC’ye 1. Sıradan giriş yapmayı başaran Zemana Deepware AI ekibimiz ise, bu alandaki iddiasını kanıtladı.

8. Son olarak neler söylemek istersiniz?

Konvansiyonel siber tehditler hala (virüs, malware, rootkit) çok büyük zararlar veriyor ve vermeye devam edecek. Pazardaki oyuncular, başta ABD, Avrupa olmak üzere Rusya ve Çin menşelidir. Türkiye kurumları bu ülkelerin herhangi birinin ürünlerini kullanmaktadır. Bir anlamda ülke sınırlarımızın paralı yabancı askerlere korutmak gibi bir durum söz konusu. Yerli tank, tüfek, iha, siha vb yerli savunma araçlarına sahip olmak ne kadar önemli ise siber güvenlik yazılımlarımızın da yerli olması gerekmektedir. Savaşlar gerçek meydanların yanı sıra siber sahada da yapılmakta veriler ülke dışı kurumlar ile paylaşılmamalı.

Bu bağlamda SSB’nin hazırlığını yaptığı siber güvenlik altyapısının millileştime çalışmalarını yerinde buluyoruz. Zemana olarak bu projeye 15 yıllık bilgi birikim ve tecrübemizle destek vermekten mutluluk duyacağımızı belirtmek isteriz

Diğer taraftan, sentetik medya deepfake üretimin günden günden artması ve basitleşmesi ki her geçen gün daha basitleşecektir. Dezenformasyon kaynağı deepfake teknolojisi ülkeler arasında en büyük savaş aracı olacaktır. Biz Türkiye olarak, çok geç kalınmış olsa da konvansiyonel siber güvenlik altyapımızı yeni yeni oluşturmaya çalışıyoruz. Ancak, deepfake konusu dünya için de henüz çok yeni iken burada yapacağımız koruma teknolojileri ülkemizi korumak ile beraber bu alanda lider olabilir ve tüm dünyaya bu ürünlerimizi satabiliriz. 

Girişimimiz Deepware ile deepfake detection konusunda önemli yol kat ettik, bu bilgi birikimimizi savunma sanayi kurumları başta olmak üzere akademi, teknoloji dünyası ve alana ilgi duyan tüm taraflarla paylaşmaya ve beraberce çalışmaya açık olduğumuzu ifade ediyoruz.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz: