Siber Muhbir

Son zamanlarda, siber güvenlik ortamı göz korkutucu yeni bir gerçeklikle karşı karşıya kaldı - FraudGPT ve WormGPT gibi kötü niyetli Üretken yapay zekanın yükselişi. İnternetin karanlık köşelerinde gizlenen bu haydut kreasyonlar, dijital güvenlik dünyası için belirgin bir tehdit oluşturuyor. Bu makalede, Üretken Yapay Zeka dolandırıcılığının doğasına bakacağız, bu kreasyonları çevreleyen mesajları analiz edeceğiz ve siber güvenlik üzerindeki potansiyel etkilerini değerlendireceğiz. Dikkatli bir göz tutmak çok önemli olsa da, durum endişe verici olsa da henüz alarm için bir neden olmadığından, yaygın panikten kaçınmak da aynı derecede önemlidir. 

FraudGPT ve WormGPT ile tanışın

FraudGPT, aldatıcı içerik oluşturmak için gelişmiş makine öğrenimi algoritmalarından yararlanan, abonelik tabanlı, kötü amaçlı bir Üretken yapay zekayı temsil eder. Etik yapay zeka modellerinin tam tersine, FraudGPT sınır tanımıyor ve onu sayısız hain amaç için çok yönlü bir silah haline getiriyor. Titizlikle uyarlanmış hedef odaklı kimlik avı e-postaları, sahte faturalar, uydurma haber makaleleri ve daha fazlasını oluşturma yeteneğine sahiptir - bunların tümü siber saldırılarda, çevrimiçi dolandırıcılıklarda, kamuoyunun manipülasyonunda ve hatta "tespit edilemeyen kötü amaçlı yazılım ve kimlik avı kampanyaları" oluşturma iddiasında kullanılabilir.

Öte yandan WormGPT, haydut yapay zeka alanında FraudGPT'nin uğursuz kardeşi olarak duruyor. OpenAI'nin ChatGPT'sinin onaylanmamış bir karşılığı olarak geliştirilen WormGPT, etik önlemler olmadan çalışır ve bilgisayar korsanlığı ve diğer yasa dışı faaliyetlerle ilgili sorgulara yanıt verebilir. Yetenekleri, en son yapay zeka modellerine kıyasla biraz sınırlı olsa da, kötü niyetli Üretken Yapay Zekanın evrimsel yörüngesinin keskin bir örneği olarak hizmet ediyor.

GPT Kötü Adamlarının Duruşu

FraudGPT ve WormGPT'nin geliştiricileri ve yayıcıları, kötü niyetli kreasyonlarını tanıtmak için hiç zaman kaybetmediler. Bu yapay zeka güdümlü araçlar, "siber saldırganlar için başlangıç kitleri" olarak pazarlanmaktadır ve bir abonelik ücreti karşılığında bir dizi kaynak sunarak gelişmiş araçları hevesli siber suçlular için daha erişilebilir hale getirmektedir.

Daha yakından incelendiğinde, bu araçların, bir siber suçlunun yaratıcı sorgu geçici çözümlerine sahip mevcut üretken yapay zeka araçlarından elde edebileceğinden çok daha fazlasını sunmayabileceği görülüyor. Bunun olası nedenleri, eski model mimarilerinin kullanılmasından ve eğitim verilerinin opak yapısından kaynaklanıyor olabilir. WormGPT'nin yaratıcısı, modellerinin özellikle kötü amaçlı yazılımla ilgili verilere odaklanarak çeşitli veri kaynakları kullanılarak oluşturulduğunu iddia ediyor. Ancak, kullanılan belirli veri kümelerini açıklamaktan kaçındılar.

Benzer şekilde, FraudGPT'yi çevreleyen tanıtım anlatısı, Dil Modeli'nin (LM) performansına pek güven vermiyor. Dark web'in gölgeli forumlarında, FraudGPT'nin yaratıcısı, LLM'nin "tespit edilemeyen kötü amaçlı yazılım" üretebileceğini ve kredi kartı dolandırıcılığına duyarlı web sitelerini belirleyebileceğini iddia ederek onu en son teknoloji olarak lanse ediyor. Bununla birlikte, GPT-3'ün bir çeşidi olduğu iddiasının ötesinde, içerik oluşturucu LLM'nin mimarisi hakkında yetersiz bilgi sağlar ve tespit edilemeyen kötü amaçlı yazılımlara dair hiçbir kanıt sunmaz ve çok fazla spekülasyona yer bırakır.

Kötü Niyetli Aktörler GPT Araçlarından Nasıl Yararlanacak?

FraudGPT ve WormGPT gibi GPT tabanlı araçların kaçınılmaz olarak devreye alınması gerçek bir endişe kaynağı olmaya devam ediyor. Bu yapay zeka sistemleri, son derece ikna edici içerik üretme yeteneğine sahiptir ve bu da onları ikna edici kimlik avı e-postaları hazırlamaktan kurbanları dolandırıcılık planlarına zorlamaya ve hatta kötü amaçlı yazılım oluşturmaya kadar çeşitli faaliyetler için çekici hale getirir. Bu yeni saldırı biçimleriyle mücadele etmek için güvenlik araçları ve karşı önlemler mevcut olsa da, zorluk karmaşıklık içinde büyümeye devam ediyor.

Üretken Yapay Zeka araçlarının dolandırıcılık amaçlı bazı potansiyel uygulamaları şunları içerir:

1. Gelişmiş Kimlik Avı Kampanyaları: Bu araçlar, birden çok dilde hiper kişiselleştirilmiş kimlik avı e-postalarının (hedef odaklı kimlik avı) oluşturulmasını otomatikleştirebilir ve böylece başarı olasılığını artırabilir. Bununla birlikte, gelişmiş e-posta güvenlik sistemleri ve uyanık alıcılar tarafından tespit edilmekten kaçınmadaki etkinlikleri sorgulanabilir olmaya devam ediyor.
2. Hızlandırılmış Açık Kaynak İstihbaratı (OSINT) Toplama: Saldırganlar, kişisel bilgiler, tercihler, davranışlar ve ayrıntılı kurumsal veriler dahil olmak üzere hedefler hakkında bilgi toplamak için bu araçları kullanarak operasyonlarının keşif aşamasını hızlandırabilir.
3. Otomatik Kötü Amaçlı Yazılım Oluşturma: Üretken yapay zeka, kapsamlı teknik uzmanlığa sahip olmayan kişiler için bile kötü amaçlı yazılım oluşturma sürecini kolaylaştırarak kötü amaçlı kod üretme konusunda endişe verici bir potansiyele sahiptir. Bununla birlikte, bu araçlar kod üretebilse de, ortaya çıkan çıktı yine de ilkel olabilir ve başarılı siber saldırılar için ek adımlar gerektirebilir.

Üretken Yapay Zekanın Tehdit Ortamı Üzerindeki Silahlı Etkisi

FraudGPT, WormGPT ve diğer kötü amaçlı Üretken Yapay Zeka araçlarının ortaya çıkması, siber güvenlik topluluğu içinde inkar edilemez bir şekilde kırmızı bayrakları yükseltiyor. Daha karmaşık kimlik avı kampanyaları ve üretken yapay zeka saldırılarının hacminde artış potansiyeli mevcuttur. Siber suçlular, siber suça giriş engellerini azaltmak için bu araçlardan yararlanabilir ve sınırlı teknik zekaya sahip kişileri cezbedebilir.

Ancak, ortaya çıkan bu tehditler karşısında paniğe kapılmamak zorunludur. FraudGPT ve WormGPT, ilgi çekici olsa da, siber suç alanında oyunun kurallarını değiştirenleri temsil etmiyor - en azından şimdilik. FraudGPT ve WormGPT'nin doğrulanmamış etkinliğine rağmen, sosyal mühendislik ve kesin olarak hedeflenmiş hedefli kimlik avının etkinliklerini zaten gösterdiğini belirtmekte fayda var. Bununla birlikte, bu kötü amaçlı yapay zeka araçları, siber suçlulara bu tür kimlik avı kampanyaları oluşturmada daha fazla erişilebilirlik ve kolaylık sağlar.

Bu araçlar gelişmeye ve popülerlik kazanmaya devam ettikçe, kuruluşların iş gücüne yönelik yüksek düzeyde hedeflenmiş ve kişiselleştirilmiş bir saldırı dalgasına hazırlanmaları gerekir.

Paniğe gerek yok, ama yarına hazırlanın

FraudGPT ve WormGPT gibi araçlarla özetlenen Üretken Yapay Zeka dolandırıcılığının ortaya çıkışı, gerçekten de siber güvenlik alanında endişeleri artırıyor. Bununla birlikte, bu tamamen beklenmedik bir durum değildir ve güvenlik çözümü sağlayıcıları bu zorluğun üstesinden gelmek için özenle çalışmaktadır. Bu araçlar yeni ve zorlu zorluklar sunsa da, hiçbir şekilde aşılmaz değildir. Yeraltı suç dünyası hala bu araçları benimsemenin ilk aşamalarındayken, güvenlik sağlayıcıları çok daha uzun süredir oyunda. 

Kuruluşlar, gelişen tehdit ortamının bir adım önünde olmak için aşağıdakileri sunan gelişmiş e-posta güvenlik çözümlerine yatırım yapmayı düşünmelidir:

1. İş E-postası Ele Geçirme (BEC), kimliğe bürünme ve fatura sahtekarlığı gibi sosyal mühendislik saldırılarına karşı savunma için özel özelliklere sahip gerçek zamanlı gelişmiş tehdit koruması.
2. Çalışanları kişiselleştirilmiş eğitimle güçlendirmek için otomatik hedef odaklı kimlik avı simülasyon testi.

Ayrıca, Üretken Yapay Zekadaki gelişmeler ve bu teknolojileri kullanan kötü niyetli aktörler tarafından kullanılan taktikler hakkında bilgi sahibi olmak çok önemlidir. Hazırlıklı olmak ve tetikte olmak, Üretken Yapay Zekanın siber suçlarda kullanılmasından kaynaklanan potansiyel riskleri azaltmanın anahtarıdır.