Öz: Üretken yapay zekânın yaygınlaşması, siber saldırıların maliyetini ve ölçeğini değiştirmekte; ses ve görüntü taklidi, hedefli oltalama, kimlik sahteciliği ve yapay zekâ asistanlarının manipülasyonu gibi riskleri öne çıkarmaktadır. Bu yazı, Hong Kong’daki yaklaşık 25 milyon dolarlık deepfake dolandırıcılığı, ABD’de seçim öncesinde Başkan Joe Biden’ın sesini taklit eden otomatik aramalar, uzaktan kredi başvurularında yüz değiştirme kullanımı ve kurumsal yapay zekâ asistanlarına yönelik komut enjeksiyonu gibi vakaları incelemektedir. Ayrıca, üretken yapay zekânın zararlı yazılım ve oltalama faaliyetlerinde kullanımına ilişkin güvenlik kurumlarının değerlendirmelerini ele alınacaktır. Çalışmanın temel savı, yapay zekânın çoğu durumda eski suç yöntemlerini ortadan kaldırmadığı; aksine bunları daha ikna edici, kişiselleştirilmiş ve ölçeklenebilir hâle getirdiğidir. Bu nedenle, çözüm, yalnızca yeni tespit yazılımlarına değil, çok katmanlı doğrulamaya, yetki sınırlandırmasına, insan denetimine ve kurumsal hazırlığa dayanmalıdır.
Anahtar Kelimeler: Yapay zekâ, Siber güvenlik, Deepfake, Sosyal mühendislik, Komut enjeksiyonu, Dezenformasyon, Dijital kimlik.
Giriş
Yapay zekâ (YZ), son yıllarda yalnızca ekonomik üretim, bilimsel araştırma, kamu yönetimi ve askerî planlama alanlarını dönüştüren bir teknoloji olmaktan çıkmış; dolandırıcıların, siber saldırganların ve dezenformasyon ağlarının da yararlanabildiği güçlü bir araca dönüşmüştür. Özellikle üretken yapay zekâ sistemlerinin yaygınlaşmasıyla gerçeğe yakın ses ve görüntüler üretmek, hedef kişiye özel ikna edici mesajlar hazırlamak, farklı dillerde içerik oluşturmak ve bazı teknik görevleri hızlandırmak kolaylaşmıştır.
Bu dönüşüm, siber güvenlik alanında önemli bir değişime işaret ediyor. Geçmişte saldırganların teknik bir açığı keşfetmesi, zararlı yazılım geliştirmesi veya kurbanını ikna edecek bir iletişim yöntemi geliştirmesi gerekiyordu. Günümüzde, yapay zekâ bu süreçlerin bazılarını hızlandırırken, insan psikolojisini hedef alan saldırıların inandırıcılığını arttırabilmektedir. Bir şirket yöneticisinin sesini taklit eden telefon görüşmesi, gerçeğinden ayırt edilmesi güç bir görüntülü toplantı veya yapay zekâ asistanına gizlice yöneltilmiş bir komut, klasik güvenlik anlayışının yeniden değerlendirilmesini zorunlu kılmaktadır.
Bununla birlikte, yapay zekâ kaynaklı tehditleri değerlendirirken teknolojik yenilik ile suçun kendisini birbirinden ayırmak gerekir. Kimlik taklidi, oltalama (phishing), sosyal mühendislik, veri hırsızlığı ve siyasi manipülasyon yeni olgular değildir. Yenilik, bu yöntemlerin daha hızlı, daha kişiselleştirilmiş ve bazı durumlarda daha ikna edici bir biçimde uygulanabilmesidir. Ayrıca her yapay zekâ güvenlik vakası gerçek dünyada başarıyla gerçekleştirilmiş bir saldırı değildir: Bazıları maddi kayıp veya veri ifşasıyla sonuçlanırken bazıları araştırmacılar tarafından ortaya çıkarılan güvenlik açıkları ya da kontrollü deneylerdir.
Bu inceleme, kamuya açık resmî açıklamalar ve güvenlik araştırmalarıyla belgelenmiş dikkat çekici vakaları ele almaktadır. Amaç, saldırıların teknik ayrıntılarını uygulamaya dönük bir kılavuz hâlinde sunmak değil; saldırıların nasıl işlediğini, neden başarılı olabildiğini ve hangi güvenlik derslerini ortaya çıkardığını tartışmaktır.
1. Yapay Zekâ Siber Saldırılarını Anlamak: Dört Temel Kategori
Yapay zekâ bağlantılı saldırıları en az 4 kategoriye ayırmak mümkündür. İlk kategori, yapay zekânın mevcut suç yöntemlerini güçlendirmek amacıyla kullanılmasıdır. Saldırganlar üretken modellerden ikna edici oltalama mesajları hazırlamak, hedef hakkında açık kaynaklardan toplanmış bilgileri düzenlemek veya yabancı dillerde iletişim kurmak için yararlanabilir. FBI, Mayıs 2024 tarihli kamu uyarısında suçluların yapay zekâyı oltalama, sosyal mühendislik ve ses-görüntü taklidi gibi faaliyetlerde kullanabildiğine dikkat çekmiştir.
İkinci kategori, “deepfake” teknolojileridir. Bir kişinin yüzünün, sesinin veya hareketlerinin yapay olarak taklit edilmesi, sahte içeriklerin gerçekmiş gibi sunulmasına yol açabilir. Bu yöntemler finansal dolandırıcılıkta, siyasi dezenformasyonda ve itibar suikastlarında kullanılabilir.
Üçüncü kategori, doğrudan yapay zekâ sistemlerinin hedef alınmasıdır. Büyük dil modellerine dayanan asistanlar, kendilerine verilen görevleri yerine getirirken e-posta, dosya veya internet sayfalarındaki dış içeriği de okuyabilir. Saldırganlar, modelin davranışını değiştirmeyi amaçlayan talimatlar içeren bu içeriğe yer verebilir. Bu yöntem, “prompt injection“, yani “komut enjeksiyonu” olarak bilinir.
Dördüncü kategori ise yapay zekâ altyapısının güvenliğiyle ilgilidir. Eğitim verilerinin manipüle edilmesi, modelin belirli koşullarda yanlış davranacak şekilde yönlendirilmesi, hassas bilgilerin istemeden açığa çıkması ve yanlış yapılandırılmış sistemler üzerinden veri sızması bu alana girer. Bu kategoriler birbiriyle kesişebilir; ancak yapay zekânın suçta kullanılması ile yapay zekâ sisteminin bizzat saldırıya uğraması aynı şey değildir. Bu ayrım, olayların doğru sınıflandırılması ve abartılı iddialardan kaçınılması açısından önemlidir.
2. Hong Kong’da 25 Milyon Dolarlık Deepfake Dolandırıcılığı
Yapay zekâ destekli dolandırıcılığın en dikkat çekici örneklerinden biri, 2024 yılında Hong Kong’da ortaya çıkan kurumsal para transferi vakasıdır. İngiliz mühendislik ve danışmanlık şirketi Arup’un Hong Kong ofisiyle ilişkilendirilen olayda bir çalışan, şirketin üst düzey yöneticilerinin katıldığına inandığı görüntülü bir toplantıya dâhil oldu. Basına yansıyan ve Hong Kong makamlarınca doğrulanan bilgilere göre, toplantıda görülen ve duyulan kişilerin yapay zekâ ile oluşturulmuş taklitleri kullanılmıştı.
Çalışan, toplantıda kendisine iletilen talimatları gerçek kabul ederek yaklaşık 200 milyon Hong Kong doları, yani yaklaşık 25 milyon ABD doları tutarında para transferi gerçekleştirdi. Hong Kong yönetiminin Haziran 2024’te yayımladığı resmî açıklama, deepfake görüntülü toplantı dolandırıcılığında yaklaşık 200 milyon Hong Kong doları kayıp yaşandığını doğruladı. Arup da, 2024 mali raporunda sahte ses, görüntü ve imzaların kullanıldığı bir dolandırıcılık girişiminin başarılı olduğunu açıkladı.
Olayın önemi yalnızca kaybedilen paranın büyüklüğünden kaynaklanmamaktadır. Vaka, dijital iletişimde güvenilir kabul edilen görüntülü toplantıların nasıl istismar edilebileceğini göstermiştir. Bir çalışan ekranda yöneticisinin yüzünü görüyor, sesini duyuyor ve diğer yöneticilerin de toplantıda bulunduğuna inanıyorsa talebin gerçekliğini sorgulama ihtiyacı azalabilir. Dolandırıcılar bu güven mekanizmasını hedef almıştır.
Bu olay, tek bir teknik unsurun değil, birden fazla yöntemin birleşiminin önemini ortaya koymaktadır: yönetici kimliğinin taklit edilmesi, gizlilik vurgusuyla çalışan üzerinde baskı kurulması, gerçekçi görsel-işitsel içeriklerin kullanılması ve transferin birden fazla işlemle gerçekleştirilmesi. Dolayısıyla, bu vaka yalnızca bir deepfake üretim başarısı değil, planlı bir sosyal mühendislik operasyonudur. Kamuya açık kaynaklar saldırının tüm teknik ayrıntılarını ortaya koymadığından, kullanılan yazılımlar veya paranın ne kadarının geri alındığına ilişkin doğrulanmamış iddiaları kesin bilgi gibi sunmamak gerekir.
Arup vakasından çıkarılabilecek temel ders, para transferi kararlarının yalnızca görsele veya sese dayandırılmamasıdır. Büyük tutarlı işlemlerde önceden belirlenmiş ikinci bir iletişim kanalı üzerinden doğrulama yapılması, çift onay mekanizmasının uygulanması ve ‘gizlilik’ gerekçesiyle olağan prosedürlerin atlanmasına izin verilmemesi gerekir.
3. ABD Seçimleri: Joe Biden’ın Sesinin Taklit Edilmesi
Ocak 2024’te ABD’nin New Hampshire eyaletindeki ön seçimler öncesinde, seçmenlere Başkan Joe Biden’ın sesini taklit eden otomatik telefon aramaları yapıldı. Aramalarda seçmenlere ön seçimde oy kullanmamaları yönünde mesaj veriliyordu. Ses, Başkan’ın konuşmasına benzer biçimde oluşturulmuştu; ancak arama gerçek bir başkanlık mesajı değildi.
ABD Federal İletişim Komisyonu (FCC), olayın ardından yapay zekâ ile klonlanmış seslerin kullanıldığı otomatik aramaların doğurduğu risklere dikkat çekti. FCC, Şubat 2024’te yapay zekâ ile üretilen sesleri de kapsayacak şekilde, belirli otomatik aramalarda yapay veya önceden kaydedilmiş ses kullanımının mevcut telekomünikasyon kurallarına tabi olduğunu açıkladı. Kurum, daha sonra olayla bağlantılı kişiler ve telekomünikasyon altyapısı hakkında yaptırım adımları duyurdu.
Vakanın siyasi açıdan önemi, sahte sesin seçmen davranışını etkilemeyi amaçlamasından kaynaklanır. Demokratik süreçlerin sağlıklı işlemesi, vatandaşların adaylar, seçim tarihi ve oy kullanma usulleri hakkında doğru bilgiye ulaşabilmesine bağlıdır. Bir adayın veya devlet başkanının sesini taklit eden sahte mesajlar, özellikle seçim öncesindeki kısa bir zaman diliminde kafa karışıklığına yol açabilir. Böyle bir saldırının etkili olması için milyonlarca kişiyi ikna etmek şart değildir; belirli bir bölgede veya kritik bir karar anında sınırlı ölçekte oluşan yanlış bilgi de sonuçlara yol açabilir.
Bu örnek, yapay zekânın siyasi dezenformasyonu icat etmesinden çok, onu daha gerçekçi ve üretilebilir hâle getirdiğini göstermektedir. Sahte siyasi mesajlar geçmişte de vardı; ancak ses klonlama araçları, yüksek prodüksiyon kapasitesine duyulan ihtiyacı azaltabilir. Seçim dönemlerinde resmî iletişim kanallarının önceden ilan edilmesi, seçmenlere doğrulama yöntemlerinin anlatılması, medya okuryazarlığının güçlendirilmesi ve şikâyet mekanizmalarının hızlandırılması bu nedenle önemlidir.
4. Uzaktan Kredi Başvurularında Yüz Değiştirme ve Kimlik Taklidi
Hong Kong yönetiminin Haziran 2024’te yayımladığı resmî açıklamaya göre polis, 2023 yılında kişilerin kimliklerini taklit ederek çevrim içi finans kuruluşlarından kredi almak için yapay zekâ tabanlı yüz değiştirme programı kullandığından şüphelenilen bir suç ağına yönelik işlem yaptı. Açıklamada, şüpheli faaliyetlerin Eylül 2022 ile Temmuz 2023 arasında gerçekleştiği, yaklaşık 200 bin Hong Kong doları tutarında olduğu ve operasyon kapsamında 9 kişinin gözaltına alındığı bildirildi.
Bu örnek, deepfake teknolojisinin yalnızca ünlü kişileri taklit etmek veya sahte videolar üretmek için kullanılmadığını göstermektedir. Dijital kimlik doğrulama sistemleri, kişinin yüzünü, hareketlerini veya canlılık belirtilerini analiz ederek başvuru sahibinin gerçekten o kişi olup olmadığını belirlemeye çalışır. Saldırganlar yüz değiştirme ve kimlik taklidi yöntemleriyle bu kontrol mekanizmalarını yanıltmayı deneyebilir.
Finansal hizmetlerde uzaktan müşteri edinimi ve dijital kredi başvuruları yaygınlaştıkça kimlik doğrulama sistemlerinin güvenilirliği daha kritik hâle gelmektedir. Fiziksel şubeye gitmeden yapılan işlemler maliyetleri düşürürken suçlulara da yeni fırsatlar sunabilir. Çalıntı kimlik bilgileri, gerçek kişilerin fotoğrafları ve yapay olarak değiştirilmiş yüzler birlikte kullanıldığında, tek bir biyometrik kontrol yeterli olmayabilir.
Daha güçlü koruma; biyometrik analizin belge kontrolü, cihaz ve oturum risk değerlendirmesi, olağandışı başvuru örüntülerinin tespiti ve gerektiğinde insan incelemesiyle desteklenmesini gerektirir. Bir sistemin yüzü tanıması, işlemi yapan kişinin hukuken yetkili olduğunu tek başına kanıtlamaz. Ayrıca biyometrik sistemlerin yanlış pozitif ve yanlış negatif sonuçları da dikkate alınmalıdır.
5. Kurumsal Yapay Zekâ Asistanlarına Karşı Gizli Komut Saldırıları
Yapay zekâ güvenliğinin en ilginç boyutlarından biri, saldırganların yalnızca insanları değil, insanların kullandığı yapay zekâ asistanlarının karar süreçlerini de hedef alabilmesidir. Büyük dil modelleri, kendilerine sunulan metinleri analiz ederek yanıt üretir; ancak model, güvenilir sistem talimatlarıyla analiz etmesi istenen dış içeriği her durumda kusursuz bir şekilde ayırt edemeyebilir. Saldırganlar, bu zayıflıktan yararlanarak bir e-postaya, internet sayfasına veya belgeye modelin davranışını etkilemeye yönelik talimatlar yerleştirebilir. Bu yaklaşım, “prompt injection“, yani “komut enjeksiyonu” olarak adlandırılır.
Örneğin, bir şirket çalışanı, yapay zekâ asistanından gelen e-postaları özetlemesini isteyebilir. E-postalardan birinde, asistanı önceki talimatları göz ardı etmeye veya erişebildiği bilgileri farklı biçimde işlemeye yönlendiren ifadeler bulunabilir. Sistem yeterli korumaya sahip değilse, bu durum içerik asistanının görevini yerine getirme biçimini etkileyebilir. Asistanın kurumsal dosyalara, e-postalara veya dış araçlara erişimi varsa, risk yalnızca hatalı yanıt üretmekten daha ciddi olabilir.
Bu sınıftaki saldırılar, geleneksel siber güvenlik anlayışında değişiklikler gerektirir. Klasik e-posta güvenliği zararlı ekleri, bağlantıları, bilinen saldırı imzalarını veya şüpheli gönderenleri tespit etmeye odaklanır. Oysa komut enjeksiyonunda saldırgan, zararlı kod yerine doğal dilde yazılmış komutlardan yararlanabilir. İçerik tek başına zararsız görünebilir; risk, bu içeriğin yetkili bir yapay zekâ sistemi tarafından nasıl yorumlandığından kaynaklanır.
Bir komut enjeksiyonu açığının araştırmacılar tarafından gösterilmesi, her sistemde aynı saldırının başarıyla gerçekleştirildiği veya gerçek kullanıcı verilerinin mutlaka çalındığı anlamına gelmez. Gerçek etki; asistanın erişim yetkilerine, araç kullanımına, veri sınırlarına ve güvenlik kontrollerine bağlıdır. Bu nedenle her vaka, gösterilen etki ve teorik risk ayrımı korunarak değerlendirilmelidir.
Korunma yaklaşımı, modele yalnızca “güvenilir yanıtlar üret” demekten ibaret olamaz. Asistanın hangi verilere erişebileceği, hangi işlemleri kullanıcı onayı olmadan gerçekleştirebileceği ve dış kaynaklardan gelen talimatları hangi koşullarda reddedeceği tasarım aşamasında belirlenmelidir. En az ayrıcalık ilkesi, hassas işlemlerde insan onayı, veri erişim sınırları, kayıt tutma ve düzenli kırmızı takım testleri bu alandaki temel savunma katmanlarıdır.
6. EchoLeak: Microsoft 365 Copilot ve E-posta İçeriği Üzerinden Veri Sızdırma Riski
2025 yılında yapay zekâ güvenliği tartışmalarında öne çıkan örneklerden biri, Microsoft 365 Copilot ile ilişkilendirilen ve araştırmacılar tarafından EchoLeak adıyla duyurulan komut enjeksiyonu açığıdır. Araştırmacıların kamuya açık teknik açıklamalarına göre, belirli koşullarda hazırlanmış e-posta içeriği Copilot’ın yorumlama sürecini etkileyerek kurumsal verilerin istenmeyen biçimde açığa çıkması riskini doğurabiliyordu. Vaka, üretken yapay zekâ asistanlarının e-posta ve kurumsal içeriklerle bütünleşmesinin yeni saldırı yüzeyleri oluşturabileceğini gösterdi.
Buradaki temel mesele, e-posta içeriğinin yalnızca bir insan tarafından okunmamasıdır. Kurumsal asistan, kullanıcının talebi üzerine e-postaları ve ilgili kurumsal verileri işleyebilir. Dışarıdan gelen bir mesaj, modelin davranışını etkileyecek talimatlar taşıyorsa, asistanın bu metni sıradan içerik olarak mı yoksa uygulanması gereken bir talimat olarak mı değerlendirdiği kritik hâle gelir. Eğer sistemin güvenlik sınırları yeterince katı değilse, saldırganın hazırladığı içerik beklenmedik veri akışlarına yol açabilir.
EchoLeak gibi araştırmalar, yapay zekâ uygulamalarında güvenliğin yalnızca modelin kendi davranışına bırakılamayacağını vurgulamaktadır. Modelin erişebildiği verilere ilişkin izinler, içerik kaynaklarının güvenlik düzeyi, dışarıya veri gönderme imkânları ve hassas işlemler öncesindeki onay mekanizmaları birlikte tasarlanmalıdır. Güvenlik açığının belirli bir sürüm veya yapılandırmayla sınırlı olup olmadığı, üretici tarafından hangi önlemlerin alındığı ve olayın gerçek müşteriler tarafından kötüye kullanılıp kullanılmadığı gibi hususlar, teknik açıklamaların tarihine ve kapsamına göre ayrıca kontrol edilmelidir.
Bu vaka, yapay zekâ asistanlarının kurumlarda yaygınlaşmasıyla birlikte yeni bir güvenlik değerlendirme standardına ihtiyaç olduğunu ortaya koymaktadır. Kurumlar, yalnızca geleneksel ağ ve uç nokta güvenliğini değil, modelin talimatları nasıl işlediğini, veriyi hangi bağlamlarda kullandığını ve araçlara hangi yetkilerle eriştiğini de test etmelidir.
7. Üretken Yapay Zekâ ve Oltalama: Saldırının Ölçeklenmesi
Yapay zekâ destekli saldırıların her zaman manşetlere çıkan büyük bir olay olarak yer alması gerekmez. Daha az görünür fakat yaygın bir risk, oltalama mesajlarının daha iyi yazılması ve hedef kişiye göre uyarlanmasıdır. Geleneksel oltalama e-postalarında yazım hataları, tutarsız dil kullanımı veya genel ifadeler saldırının fark edilmesini kolaylaştırabiliyordu. Üretken modeller bu tür kusurları azaltabilir; mesajları hedefin dili, mesleği veya kurumsal bağlamına göre düzenlemeye yardımcı olabilir.
Bu durum, saldırının mutlaka teknik açıdan daha gelişmiş olduğu anlamına gelmez. Bir e-posta hâlâ sahte bir fatura, parola sıfırlama isteği veya acil ödeme talimatı içerebilir. Değişen unsur, mesajın daha inandırıcı görünmesi ve çok sayıda kişiye düşük maliyetle uyarlanabilmesidir. FBI ve diğer güvenlik kurumları, yapay zekânın sosyal mühendislik ve kimlik taklidi girişimlerini güçlendirmek amacıyla kullanılabileceğine ilişkin uyarılar yayımlamıştır.
Üretken yapay zekâ, saldırganların teknik bilgi gereksinimini bazı görevlerde azaltabilir; ancak bu teknoloji tek başına her saldırıyı otomatik ve başarılı hâle getirmez. Gerçek saldırıların çoğunda hedef seçimi, erişim elde etme, güvenlik kontrollerini aşma ve elde edilen erişimi kullanma gibi farklı aşamalar bulunur. Yapay zekâ bazı adımları hızlandırabilirken saldırganların altyapı, operasyonel güvenlik ve insan hatası gibi sorunlarını ortadan kaldırmaz.
Kurumlar için pratik sonuç şudur: Oltalama eğitimleri yalnızca kötü yazılmış mesajları tanımaya dayanmamalıdır. Çalışanlara acil işlem baskısı, gizlilik talebi, olağandışı ödeme hesabı, beklenmedik kimlik doğrulama isteği ve bilinen bir kişinin farklı bir kanaldan doğrulanmamış bir talebi gibi davranışsal işaretler öğretilmelidir. Güvenlik kültürü, mesajın dilinin kusursuz olup olmamasından çok, talebin iş akışına ve doğrulama kurallarına uygunluğuna odaklanmalıdır.
8. Yapay Zekâ ile Ses Klonlama: Güvenin Kendisine Yönelik Saldırı
Ses klonlama, deepfake dolandırıcılığının özel bir biçimidir. Kısa bir ses örneğinden hareketle belirli bir kişinin konuşma özelliklerini taklit eden sistemler, saldırganların telefonda tanıdık bir kişinin sesiyle iletişim kurmasını mümkün kılabilir. Aile bireylerinin, yöneticilerin veya kamu görevlilerinin taklit edilmesi, kurban üzerinde duygusal ya da kurumsal baskı oluşturabilir.
Bu tür saldırıların en etkili olduğu durumlar, kişinin hızlı karar vermeye zorlandığı anlardır. “Acil para gönder“, “kimseye söyleme“, “hesabım bloke oldu” veya “bu işlemi hemen tamamlamalısın” gibi talepler, sesin tanıdık gelmesiyle birleştiğinde eleştirel değerlendirmeyi zayıflatabilir. Ancak kamuya açık her ses klonlama iddiası doğrulanmış bir vaka olarak kabul edilmemelidir. Birçok haber, belirli bir teknolojiyle mümkün olan bir senaryoyu anlatır; gerçek bir mağduriyetin yaşandığını göstermek için resmî kayıt, şirket açıklaması veya güvenilir bir soruşturma bilgisi gerekir.
Ses klonlama riskine karşı aileler ve kurumlar önceden belirlenmiş doğrulama sözcükleri kullanabilir; ancak bu yöntemin tek başına kusursuz olmadığını unutmamak gerekir. Daha güvenilir yaklaşım, bilinen bir telefon numarasını geri aramak, talebi farklı bir kanaldan doğrulamak ve para ya da hassas bilgi isteyen kişiyi yalnızca sesinden tanıdığı için yetkili kabul etmemektir. Kurumsal süreçlerde kimlik doğrulama, kişisel güvene değil, denetlenebilir prosedürlere dayanmalıdır.
9. Siyasi Dezenformasyon ve Kamusal Güven Sorunu
Yapay zekâ destekli sahte içeriklerin etkisi yalnızca tekil dolandırıcılıklar veya seçim günü yayımlanan mesajlarla sınırlı değildir. Sahte görüntüler, uydurma açıklamalar ve taklit edilmiş sesler kriz dönemlerinde kamuoyunun gerçek olayları değerlendirme biçimini bozabilir. Özellikle çatışmalar, terör saldırıları, doğal afetler veya diplomatik krizler sırasında hızla yayılan sahte içerikler, doğrulama mekanizmaları devreye girmeden önce toplumsal gerilimi arttırabilir.
Bu bağlamda iki farklı tehlike söz konusudur. Birincisi, insanların sahte bir içeriğe inanmasıdır. İkincisi ise, gerçek bir görüntü veya ses kaydının da “yapay zekâ ile üretilmiş olabilir” denilerek reddedilmesidir. İkinci durum, kimi zaman “yalancı kâr payı” veya “liar’s dividend” olarak tartışılan soruna benzer: Sahte içeriklerin yaygınlaşması, gerçek kanıtların da kolayca inkâr edilmesine zemin hazırlayabilir.
Bu nedenle, çözüm yalnızca deepfake tespit araçlarına yatırım yapmak değildir. İçeriğin kaynağını doğrulama, dijital materyalin elde edilme zincirini koruma, birden fazla bağımsız kaynaktan teyit etme ve kamu kurumlarının kriz iletişimini hızlandırma da önemlidir. Tespit araçları hata yapabilir; yeni üretim teknikleri de mevcut tespit yöntemlerini aşabilir. Dolayısıyla, teknik tespit, gazetecilik doğrulaması ve kurumsal iletişim birbirini tamamlamalıdır.
10. Devletler ve Kurumlar İçin Güvenlik Dersleri
İncelenen vakalar, yapay zekâ kaynaklı tehditlere karşı tek bir teknolojik çözümün olmadığını göstermektedir. Savunma yaklaşımı, insan süreçlerini, teknik kontrolleri ve yönetişimi bir araya getirmelidir.
Birincisi, kritik işlemlerde çok kanallı doğrulama uygulanmalıdır. Para transferi, ödeme hesabı değişikliği, parola sıfırlama ve hassas veri paylaşımı gibi işlemler, yalnızca görüntülü toplantı veya telefon görüşmesiyle onaylanmamalıdır. Önceden kayıtlı ve bağımsız bir kanal üzerinden teyit, özellikle yüksek tutarlı işlemlerde zorunlu hâle getirilmelidir.
İkincisi, en az ayrıcalık ilkesi benimsenmelidir. Yapay zekâ asistanları yalnızca görevlerini yerine getirmek için gereken veri ve araçlara erişmeli; hassas verileri dışarıya göndermek, ödeme yapmak veya hesap ayarlarını değiştirmek gibi işlemler için ek onay gerektirmelidir. Modelin doğru davranacağına güvenmek yerine, hata yaptığında doğabilecek zararı sınırlayacak bir sistem tasarlanmalıdır.
Üçüncüsü, yapay zekâ sistemleri gerçekçi saldırı senaryolarıyla test edilmelidir. Testler yalnızca zararlı kodu değil, dış kaynaklardan gelen talimatları, veri sızdırma girişimlerini, yetki yükseltme risklerini ve araç kullanımını da kapsamalıdır. Güvenlik ekipleri, model güncellemeleri ve yeni entegrasyonlar sonrasında bu testleri tekrarlamalıdır.
Dördüncüsü, olay müdahale planları güncellenmelidir. Bir deepfake dolandırıcılığı yaşandığında finans, hukuk, bilgi teknolojileri, iletişim ve üst yönetim arasında hızlı bir koordinasyon gerekir. Bankalarla iletişim, işlem kayıtlarının korunması, çalışanlara yönelik bilgilendirme ve gerektiğinde kolluk kuvvetlerine başvuru önceden planlanmalıdır.
Beşincisi, çalışan eğitimi sürekli hâle getirilmelidir. Yapay zekâ ile üretilen içeriklerin kalitesi hızla değiştiğinden, yılda bir yapılan genel farkındalık eğitimi yeterli olmayabilir. Kısa senaryo çalışmaları, sahte yönetici talebi simülasyonları ve şüpheli işlemlerin raporlanmasını kolaylaştıran prosedürler daha etkili olabilir.
Altıncısı, kamu politikası ve uluslararası iş birliği güçlendirilmelidir. Deepfake dolandırıcılıkları sınır aşan banka hesapları, farklı ülkelerde bulunan suçlular ve küresel dijital platformlar üzerinden yürütülebilir. Delil paylaşımı, hızlı bildirim, dijital içeriklerin kaynağının belirlenmesi ve mağdurların korunması için devletler arası koordinasyon gereklidir.
11. Türkiye Açısından Değerlendirme
Türkiye açısından yapay zekâ destekli saldırılar, finansal güvenlikten seçim güvenliğine, kamu kurumlarının dijital dönüşümünden savunma sanayisine kadar geniş bir yelpazede ele alınmalıdır. Bankacılık, telekomünikasyon, enerji, sağlık ve kamu hizmetleri gibi kritik sektörlerde dijital kimlik doğrulama ve otomatik karar sistemlerinin yaygınlaşması, güvenlik tasarımının da bu dönüşüme ayak uydurmasını gerektirir.
Kamu kurumları ve özel sektör kuruluşları, yapay zekâ kullanımı için açık sorumluluklar belirlemelidir. Hangi verilerin modele gönderilebileceği, hangi hizmetlerin dış sağlayıcılar üzerinden kullanılabileceği, kritik işlemlerin nasıl onaylanacağı ve bir güvenlik olayı yaşandığında kimin müdahale edeceği önceden tanımlanmalıdır. Kurum içi yapay zekâ asistanlarının denetimsiz biçimde hassas belgelerle çalışması, veri koruma ve bilgi güvenliği risklerini arttırabilir.
Türkiye’nin siber güvenlik yaklaşımında teknik kapasitenin yanında nitelikli insan kaynağı, üniversite-sanayi iş birliği, olay bildirim mekanizmaları ve kamuoyunun dijital okuryazarlığı da önem taşımaktadır. Deepfake tespitine yönelik yerli araştırmalar desteklenmeli; ancak tespit teknolojisinin her zaman kesin sonuç vermeyeceği kabul edilmelidir. Hukuk, iletişim, bilgisayar mühendisliği ve uluslararası ilişkiler alanları arasında disiplinler arası çalışma, özellikle seçim güvenliği ve sınır aşan siber suçlarla mücadelede değerli olacaktır.
Ayrıca Türkiye’de kurumların yalnızca saldırı yaşandıktan sonra tepki veren bir anlayış yerine, düzenli tatbikatlarla hazırlık seviyesini ölçen bir yaklaşım geliştirmesi gerekir. Sahte yönetici videosu, taklit edilmiş telefon araması veya yapay zekâ asistanına yerleştirilmiş kötü niyetli içerik gibi senaryolar, gerçek para ve veri riski yaratmadan kontrollü bir şekilde test edilebilir.
Sonuç
Dünyada yaşanan yapay zekâ bağlantılı saldırılar, siber güvenliğin yeni bir evreye girdiğini göstermektedir. Hong Kong’daki yaklaşık 25 milyon dolarlık deepfake dolandırıcılığı, dijital görüntü ve sesin kurumsal güveni istismar etmek için kullanılabileceğini ortaya koymuştur. ABD’de Başkan Joe Biden’ın sesini taklit eden otomatik aramalar, aynı teknolojinin seçim süreçlerini ve kamuoyunun bilgiye erişimini hedef alabileceğini göstermiştir. Uzaktan kredi başvurularında yüz değiştirme yönteminin kullanılması, dijital kimlik doğrulamasının yeni tehditlere karşı geliştirilmesi gerektiğini göstermektedir.
Kurumsal yapay zekâ asistanlarına yönelik komut enjeksiyonu ve EchoLeak gibi araştırmalar, tehdidin yalnızca yapay zekânın suçta kullanılmasından ibaret olmadığını; yapay zekâ sistemlerinin kendi veri erişimi ve talimat işleme mekanizmalarının da saldırı yüzeyi oluşturduğunu göstermektedir. Buna karşılık, araştırma ortamında ortaya konan bir açığı gerçek dünyada gerçekleşmiş bir saldırı olarak sunmamak gerekir. Güvenilir analiz, doğrulanmış olayları, araştırmacıların sunduğu istismar senaryolarını ve henüz kanıtlanmamış iddiaları birbirinden ayırt edebilmelidir.
Yapay zekâ saldırganlara hız, ölçek ve inandırıcılık kazandırabilir; ancak başarı hâlâ insan davranışlarına, kurumsal prosedürlere, teknik mimariye ve güvenlik kontrollerine bağlıdır. Bu nedenle etkili savunma, tek başına deepfake tespit yazılımına veya yapay zekâ filtrelerine indirgenemez. Çok kanallı kimlik doğrulama, en az ayrıcalık ilkesi, hassas işlemlerde insan onayı, sürekli güvenlik testleri, çalışan eğitimi ve uluslararası iş birliği birlikte uygulanmalıdır.
Sonuç olarak, yapay zekâ çağında güven, yalnızca bir kişinin yüzünü ekranda görmekten veya sesini telefonda duymaktan kaynaklanamaz. Güven, doğrulanabilir süreçlere, bağımsız kanallara ve denetlenebilir sistemlere dayanmalıdır. Teknoloji ne kadar gerçekçi taklitler üretebilirse üretsin, kurumların temel savunması eleştirel değerlendirme, çok katmanlı doğrulama ve hesap verebilirlik olmaya devam edecektir.
Prof. Dr. Ozan ÖRMECİ
