Bir çalışma, yapay zeka tarafından oluşturulan siber saldırıların halihazırda ne kadar başarılı olduğunu gösteriyor. En büyük tehlike hedef odaklı kimlik avı saldırılarının hem nicelik hem de nitelik açısından kolay ölçeklenebilmesidir.
Yapay zeka (AI) alanındaki güncel gelişmelere yönelik pek çok teşvikin yanı sıra son haftalarda bazı eleştirel sesler de yükseldi. Avrupa'nın önde gelen güvenlik farkındalığı ve eğitimi sağlayıcısı SoSafe'dekiler de dahil olmak üzere siber güvenlik uzmanları, üretken yapay zekanın insanlardan daha iyi kimlik avı e-postaları yazabileceği konusunda uzun süredir uyarıda bulunuyor. SoSafe tarafından yapılan ilk araştırma* şimdi bu uyarının haklı olduğunu gösteriyor: Yapay zeka ile yazılan kimlik avı e-postaları, insanların yüzde 78'i tarafından zaten açılıyor ve ilk bakışta tanınmıyor. Bunların yüzde 21'i, yapay zeka tarafından oluşturulan kimlik avı e-postalarındaki bağlantılar veya ekler gibi kötü amaçlı içeriğe tıkladı. Yüzde 65'i, bağlantılı web sitelerindeki giriş alanlarındaki kişisel bilgileri ifşa etmek için yapay zeka tarafından üretilen e-postalar tarafından bile cezbedildi.
Kimlik avı: Açın ve tıklayın
Yapılan çalışmada, insan kaynaklı kimlik avı saldırıları, insanlar tarafından biraz daha sık (%27) tıklanırken, yapay zeka ve insan kaynaklı kimlik avı e-postalarının açılma oranları eşit derecede yüksekti. Yapay zeka tarafından oluşturulan e-postalar için etkileşim oranları daha da yüksekti ve insanların yalnızca yüzde 60'ı insan tarafından oluşturulan e-postalarda ek veri sağladı.
"Çalışmamızın ortak temalar ve sorularla ChatGPT 3.5 modeli kullanılarak yapıldığını belirtmek önemlidir" dedi Dr. Niklas Hellemann, SoSafe'in CEO'su ve kurucusu. "Yapay zeka tarafından oluşturulan bu basit ve kişiselleştirilmemiş kimlik avı e-postalarında bile verilerimiz, insanların yapay zeka tarafından oluşturulan kimlik avı saldırılarını tespit etmekte zorlandığını gösteriyor. Teknoloji, ChatGPT-4 gibi daha olgun modeller ve geniş ölçekte kişiselleştirme ile ilerledikçe, saldırıların daha da tehlikeli hale gelmesini bekliyoruz çünkü en büyük tehdit, ölçeklenme potansiyellerinde yatıyor."
Üretken AI araçları, kimlik avı saldırılarını hızlandırır
SoSafe'in sosyal mühendislik ekibi tarafından yapılan araştırma, üretici yapay zeka araçlarının bilgisayar korsanı gruplarının kimlik avı e-postalarını en az yüzde 40 daha hızlı oluşturmasına yardımcı olabileceğini gösteriyor. Bu nedenle siber suçlular, basit yöntemlerle bile başarı oranlarını önemli ölçüde artırabilir. Aynı zamanda, belirli hedef kişilerin tercihlerinin ve alışkanlıklarının kişiye özel saldırılar için temel oluşturduğu büyük ölçekli mızraklı kimlik avı saldırılarının gerçekleştirilmesi için giriş engeli de düşürülür - çünkü kimlik avı saldırılarının kişiselleştirilmesi daha kolaydır. ayrıca yapay zeka tarafından ölçeklenebilir hale getirildi. Yapay zeka araçları, çok sayıda hedefle bile hedef odaklı kimlik avı saldırılarının kalitesini korumaya yardımcı olan kişisel bilgileri besleyebilir. Ayrıca üretken yapay zeka araçları yaratıcı avantajlar da sağlar ve siber suçluların yeni fikirler bulmasına yardımcı olur. Bu sayede hacker grupları, daha önce olduğundan çok daha kısa sürede, tüm dillerde ve yüksek kalitede çok daha fazla phishing e-postası gönderebiliyor. Bu, büyük ölçekli kimlik avı saldırılarını çok daha verimli ve aynı zamanda daha etkili hale getirir.
artan dikkat
Hellemann, "Yapay zeka destekli 'Büyük Dil Modelleri'nin ortaya çıkması ve bunun sonucunda ölçeklendirme potansiyelindeki büyük artışla birlikte siber tehdit durumu artmaya devam ediyor" diyor. "İlk çalışmalar, yapay zekanın şimdiden insanlardan daha iyi kimlik avı e-postaları yazabildiğini gösterdi. Verilerimiz sonuçları açıkça ortaya koyuyor - beş kişiden biri yapay zeka tarafından oluşturulan kimlik avı saldırılarına düşüyor. Ve bu sadece başlangıç: teknoloji gelişmeye devam edecek ve siber suçlulara daha fazla seçenek sunacak. ChatGPT-3'ten ChatGPT-4'e geçiş, kişiselleştirme ölçeklendirmesini şimdiden yeni bir düzeye taşıdı.
Daha fazlası SoSafe.com'da
SoSafe Hakkında
SoSafe, GDPR uyumlu farkındalık platformuyla kuruluşların güvenlik kültürlerini oluşturmalarına ve riskleri azaltmalarına yardımcı olur. 2018 Dr. Niklas Hellemann, Lukas Schaefer ve Felix Schürholz tarafından kurulan SoSafe, şu anda dünya çapında 3.000'den fazla müşteriye sahip ve Avrupa'nın önde gelen güvenlik bilinci ve eğitimi sağlayıcılarından biridir. Davranışsal psikoloji öğeleri ve akıllı algoritmalarla SoSafe, kişiselleştirilmiş öğrenme deneyimleri ve çalışanları kendilerini çevrimiçi tehditlere karşı aktif bir şekilde korumaları için motive eden ve eğiten saldırı simülasyonları sağlar. SoSafe ekibi şu anda beş lokasyonda 370'den fazla çalışandan oluşuyor: Köln (genel merkez), Amsterdam, Berlin, Londra ve Paris.