Birkaç ay evvel, Güney Kore’de yaşayan milyonlarca izleyici, günlük haber bültenini izlemek için MBN kanalını açtı.

Saat başında, sunucu Kim Joo-Ha her akşam olduğu üzere ekrandaydı ve her akşam olduğu üzere sıra ile haberleri aktarmaya başladı. Haberler de 2020 yılına uygun formda, Covid-19 salgını ve yürütülen gayrete ilişkindi.

Ve lakin bu bülten, sıradan olmaktan çok uzaktı zira Kim Joo-Ha o anda ekranda değildi. Yerine ‘deepfake’ teknolojisi ile üretilmiş versiyonu haberleri aktarıyordu. Bilgisayarda üretilen bu ‘sahte’ sunucu, ses, mimik ve hız tabirlerini kusursuz bir formda kopyalamıştı.

İzleyicilere daha evvel bu şovun yapılacağı uyarısı yapılmıştı. Sonrasında yapılan araştırma ise izleyicilerin farklı yorumları olduğunu gösterdi. Kimi bireyler, elde edilen gerçeklik karşısında şaşkınlıklarını lisana getirirken kimileri da gerçek Kim Joo-Ha’nın işini kaybetme tehlikesi içinde olduğunu kaydetti.

MBN kanalı, kimi son dakika haberlerinde deepfake teknolojisini kullanmaya devam edeceklerini açıkladı. Bu teknolojiyi üretebilen şirketlerden Güney Koreli Moneybrain, Çin ve ABD’de yeni iştirak imkanları için temaslar yapıldığını duyurdu.

Birden fazla insanın aklında, deepfake teknolojisi denildiğinde ünlü isimlerle ilgili görüntüler geliyor. Geçen hafta, Tom Cruise’un tıpkısının yer aldığı geçersiz görüntü TikTok uygulamasında yayınlandıktan sonra dünyada manşetlere çıktı.

Genel kullanımda olan deepfake ismi üzerindeki olumsuz çağrışımlara rağmen (insanlar geçersiz sözü ile yan yana gelmek istemiyor), bu teknoloji giderek artan biçimde ticari hedefle kullanılıyor.

‘Bu, içerik üretiminin geleceği’

Sektörel lisanda, ‘yapay zeka ile üretilmiş videolar’ yahut ‘sentetik medya’ ismi ile anılan bu teknoloji, haber, cümbüş ve eğitim alanlarında büyük ilgi görüyor. Bunda, teknolojinin her geçen gün daha fazla geliştirilmesinin de hissesi var.

Londra merkezli Synthesia firması bu teknolojiyi, şirket içi eğitim görüntülerinde kullanılmak üzere pazarlıyor.

Firmanın kurucularından Victor Riparbelli, “Bu, içerik üretiminin geleceği” tabirini kullanıyor.

Synthesia’nın sisteminde, farklı avatar seçenekleri bulunuyor ve bunlara söyletmek istediğiniz bildirisi yazdığınızda karşılığını alabiliyorsunuz.

Riparbelli, global şirketlerin bu sayede, şirket için eğitimlerde kullanılmak üzere farklı lisanlarda görüntüleri çok kolay formda hazırlayabileceğini söylüyor:

“Diyelim ki Kuzey Amerika’da 3 bin depo çalışanınız var. Bunlardan kimileri İngilizce konuşuyor fakat kimileri İspanyolcaya daha hakim. Onlarla bilgi gayeli irtibat kurmak istiyorsanız, dört sayfalık bir pdf dokümanını önlerine koymanız çok faydalı olmayacaktır. 3 dakikalık İngilizce ve İspanyolca bir görüntü daha verimli olacaktır.

“Eğer o görüntülerin her birini çekmek zorunda olsanız bu hem maliyet hem iş yükü açısından zorlayıcı olur. Biz artık bunu, düşük bir masrafla ve metin yazmak için gereken mühlet kadar vakitte yapabiliyoruz. Bu, teknolojinin bugün nasıl kullanıldığını örneklendiriyor.”

Fakat bir yapay zeka teknolojileri firması olan Veritone’un yöneticisi Chad Steelberg, makus gayeli deepfake kullanımı telaşı nedeniyle, legal kullanım maksadıyla yatırım yapacak firmaların da geri çekildiğini kaydediyor.

Deepfake’in sermaye yatırımı kesiminde olumsuz bir çağrışımı olduğunu söyleyen Steelberg, “Bu şirketlerin ve yatırımcıların bu teknolojinin üzerine atlamasını önlemiş olsa da bu algının kırılmaya başladığını görüyoruz” dedi.

Bir diğer yapay zeka teknolojisi firması olan Modulate’in yöneticisi Mike Papas da, deepfake ve etik üzerine büyük tartışmaların yapıldığını ve insanların bunun üzerinde düşündüğünü vurguluyor.

Papas, yatırımcıların inancının, teknolojinin etik kullanımı üzerine yapılan çalışmalarla arttığını söylüyor.

“Deepfake hakkında ne yapmalı?”

Deepfake teknolojisi üzerine uzman olan hukuk profesörü Lilian Edwards ise mevzunun bir diğer kıymetli açısına işaret ediyor; görüntülerin haklarının kimde olduğu…

Edwards tespitini ayrıntılandırıyor:

“Eğer, aktör Steve McQueen yahut rap yıldızı Tupac’ın bu türlü bir görüntüde kullanılması durumunda, ailenin bundan gelir kazanma hakkı olup olmadığına dair bir tartışma sürüyor. Bu şu anda ülkeden ülkeye değişiyor”

Virginia Üniversitesi’nde etik alanında çalışan bir profesör olan Deborah Johnson yakın vakit evvel “Deepfake hakkında ne yapmalı?” İsminde bir kitap kaleme aldı.

Ona nazaran, deepfake, kurumlara ve görsel deneyime olan itimadı azaltan ve daha büyük bir sorun olan ‘yanlış bilgi üretimi’ sıkıntısının bir modülü.

“Artık gördüğümüze ve duyduğumuza güvenmiyoruz” diyen Deborah Johnson, deepfake teknolojisi kullanılan görüntülerin, yayınlanmadan, uydurma olduklarının belirtilmesi gerektiğini söylüyor. Johnson, bu biçimde izleyicilerin korunabileceğini belirtiyor.

Soykırımdan kurtulan biri ve art planda avatarı

Oxford Üniversitesi’nden profesör Sandra Wachter da deepfake teknolojisinin öne geçtiği kanısını lisana getiriyor:

“Eğer geçen haftaki Tom Cruise görüntüsünü izlediyseniz, bu teknolojinin ne kadar ilerlediğini görebilirsiniz. Dört sene evvelki Obama görüntüsünden çok daha gerçekçiydi.

“Bu teknolojiden çok fazla korkmamalıyız ve istikrarlı bir biçimde yaklaşmalıyız. Evet, intikam pornosu üzere makus ve tehlikeli şeylere karşı maddelerimiz olmalı. Lakin örneğin hiciv ya da söz özgürlüğü bağlamında üretilen deepfake görüntülere karşı da kategorik bir yasak getirmemeliyiz. Giderek artan formda ticari olarak kullanılmaları, geleceğe dair umut veriyor.”

Yapay zeka ile üretilen görüntülerin eğitim gayeli kullanıldığı örneklerden biri California Üniversitesi, Soykırım Vakfı tarafından uygulamaya konuldu. Soykırımdan kurtulan 55 binden fazla kişinin tanıklığını barındıran vakıf, deepfake teknolojisi ile ziyaretçilerle ile kurtulanları bir ortaya getiriyor.

Tanıklığın Boyutları isimli proje ile ziyaretçilerin sorduğu sorulara, soykırımdan kurtulan ve daha evvel röportaj yapılmış bireyler tarafından anlık cevaplar verilmesi sağlanıyor.

Veritone’un yöneticisi Chad Steelberg, gelecekte bu teknoloji kullanarak torunların kaybettikleri aile yakınları ile konuşmasının sağlanabileceğini söylüyor ve devam ediyor: “Bu toplum manasında çığır açıcı.”

T24