ChatGPT gibi sohbet robotları yükselişte: yapay zeka, doğal cehaletle başa çıkabilir. Diğer makinelerin kullanıcıları aldatmaya çalıştığını algılamak için akıllı makinelere giderek daha fazla ihtiyaç duyulmaktadır. Sophos Siber Güvenlik Uzmanı Chester Wisniewski'den bir yorum.
Yapay zekaya dayalı chatbot ChatGPT dünya çapında manşetlere çıkıyor ve borsa ve telif hakkı ortamındaki raporların yanı sıra BT güvenliği de tartışmaların odak noktası. Üreticinin tüm güvenlik çabalarına rağmen, aracın kısa süre önce fark edilen, daha geniş kullanılabilirliği, sosyal ağlar aracılığıyla aşk dolandırıcılığı veya e-posta yoluyla iş odaklı uzlaşma saldırıları gibi kimlik avı tuzağı veya diyalog odaklı dolandırıcılık söz konusu olduğunda yeni zorluklar getiriyor.
Yapay zeka tarafından tasarlanan tavizkar saldırılar
"En büyük risklerden biri, saldırganların bu platformları kimlik avı yemlerinin kalitesini önemli ölçüde artırmak için kullanmasıdır. Sophos'ta siber güvenlik uzmanı Chet Wisniewski, "Bu, dikkatli kullanıcılar için bile kimlik avı saldırılarının tespit edilmesini giderek zorlaştırıyor" dedi. “Nihayetinde, sürekli gelişen AI sohbet botları, her tür sosyal mühendislik saldırısı için ücretsiz bir yükseltme sağlıyor. ChatGPT gibi programlar, e-posta yoluyla suça yönelik, son derece gerçekçi, etkileşimli konuşmalar yapmak veya Facebook Messenger, WhatsApp veya diğer sohbet uygulamaları aracılığıyla sohbet saldırıları başlatmak için kullanılabilir.
Günümüzde en büyük tehlike İngilizce konuşan hedef kitle içindir. Bununla birlikte, dünyada yaygın olarak konuşulan tüm dillerde inandırıcı metinler oluşturmak için yeni sürümlerin kullanıma sunulması muhtemelen sadece bir zaman meselesidir. İnsanların, özellikle de karşımızdakini iyi tanımadığımızda, makine yapımı düzyazıyı insan eliyle yazılmış düzyazıdan ayırt edemediği bir aşamaya ulaştık."
BT güvenliği için bir dönüm noktası
Bu gelişme, çalışan eğitimi ve BT güvenliği alanındaki mevcut standartlar için bir dönüm noktasını temsil ediyor. Kuruluşların, gramer hatalarını, imla hatalarını veya garip ifadeleri izleyerek siber saldırılara karşı savunmada aktif bir rol oynamaları için çalışanlarına güvenebileceği günler geride kaldı. Eğitim programlarının son verimli unsurlarından biri, aşağıdaki iki örneğin gösterdiği gibi, ChatGPT gibi sohbet robotları tarafından ve çok etkili bir şekilde zayıflatılmaktadır.
Başka birinin maaş çekini saldırganın hesabına aktarmaya çalışan bir BEC (İş E-postası İhlali) dolandırıcısından gelen orijinal aldatıcı metnin "orijinal olmadığını" anlamak oldukça kolaydır. Karşılaştırıldığında, aşağıda ChatGPT'nin ilgili tematik kilit noktaları girilerek yazılmış bir varyant vardır.
Bir saldırgandan gelen varsayılan dolandırıcılık e-postası
MERHABA ….,
Eski hesabım artık dd ödemesini kabul edemediği için bankamı değiştirdim ve maaş çeki doğrudan para yatırma bilgilerimi değiştirmek istiyorum, değişiklik mevcut ödeme tarihi için geçerli olabilir mi?
Teşekkürler, ….
AI ChatGPT tarafından yazılan metin
🔎 AI ChatGPT tarafından yazılan metin, kulağa aldatıcı bir şekilde gerçek geliyor (Resim: Sophos).
Sevgili İK,
Firmanın bordro sistemindeki direkt para yatırma bilgilerimi güncellemenizi rica etmek için yazıyorum.Mevcut banka hesap bilgilerim artık geçerli değil ve yeni bir bankaya geçiş yapacağım.
Doğrudan para yatırma bilgilerimi güncellemek için hangi bilgilere ihtiyacınız olduğunu bana bildirir misiniz? Gerekli tüm detayları vermekten mutluluk duyarım.
Bir sonraki bordro dönemi için de bu güncellemenin zamanında yapılmasını rica ederim. Sorunsuz bir geçiş sağlamak için yapmam gereken başka bir şey var mı?
Bu konuya gösterdiğiniz ilgi için teşekkür ederiz. Maaş çeklerimin doğru hesaba yatırılmasını sağlama konusundaki yardımınız için teşekkür ederim.
En içten dileklerimizle,
[Adınız]
"Örnek kulağa gerçek bir kişinin e-postası gibi geliyor, noktalama işaretleri, imla ve dilbilgisi iyi. o mükemmel mi HAYIR. yeterince iyi mi? Her halükârda! Dolandırıcılar zaten kötü hazırlanmış tuzaklarından milyonlar kazanıyorken, yapay zeka destekli bu iletişimin yeni boyutunu hayal etmek kolay. Bu robotla WhatsApp veya Microsoft Teams aracılığıyla sohbet ettiğinizi hayal edin. Makineyi tanırlar mıydı?" Wisniewski, sohbet robotuyla yaptığı "yaratıcı çalışma" hakkında şunları söylüyor.
Bültene şimdi abone olun
Ayda bir kez B2B SİBER GÜVENLİK'ten en iyi haberleri okuyunAI'lar kullanıcıları neredeyse mükemmel bir şekilde kandırabilir
Gerçek şu ki, AI alanındaki hemen hemen her tür uygulama, bir insanı neredeyse %100 oranında kandırabilecek bir noktaya çoktan ulaştı. ChatGPT ile yapılabilecek "sohbet" kalitesi dikkat çekicidir ve örneğin gerçek fotoğraflardan (insanlar için) neredeyse ayırt edilemeyen sahte insan yüzleri oluşturma yeteneği de zaten bir gerçektir. Bir örneğin açıkça ortaya koyduğu gibi, bu tür teknolojilerin suç potansiyeli muazzamdır: Bir paravan şirket aracılığıyla dolandırıcılık yapmak isteyen suçlular, yalnızca 25 yüz oluşturur ve biyografilerini yazmak için ChatGPT'yi kullanır. Birkaç sahte LinkedIn hesabı ekleyin ve hazırsınız.
Tersine, "iyi taraf" da ona karşı koyabilmek için teknolojiye dönmelidir. Wisniewski, "İnternetin giderek daha tehlikeli sularına göğüs germek istiyorsak, hepimizin Demir Adam kostümlerimizi giymemiz gerekiyor," dedi. "Diğer makineler bizi kandırmaya çalıştığında algılamak için makinelere ihtiyacımız artıyor gibi görünüyor. Hugging Face tarafından GPT-2 ile oluşturulan metni tanıyabilen ilginç bir kavram kanıtı geliştirildi - bu da benzer tekniklerin GPT-3 çıktısını tanımak için kullanılabileceğini düşündürüyor."
Üzücü ama gerçek: AI, son kullanıcı güvenlik bilincinin tabutuna son çiviyi çaktı.
“Buna tamamen son vermemiz gerektiğini mi söylüyorum? Hayır, ama beklentilerimizi düşürmemiz gerekiyor. BT güvenliği açısından geçmişte ve genellikle hala geçerli olan en iyi uygulamaları takip etmekten kesinlikle zarar gelmez. Kullanıcıları eskisinden daha fazla şüpheci olmaya ve en önemlisi kişisel bilgilere veya parasal öğelere erişim içeren mesajları titizlikle kontrol etmeye teşvik etmeliyiz. Soru sormak, yardım istemek ve her şeyin gerçekten göründüğü gibi olduğunu doğrulamak için gereken o birkaç dakikayı fazladan zaman ayırmakla ilgili. Bu paranoya değil, dolandırıcılar tarafından kazıklanmama isteği.”
Daha fazlası Sophos.com'da
Sophos Hakkında Sophos, 100 ülkede 150 milyondan fazla kullanıcı tarafından güvenilmektedir. Karmaşık BT tehditlerine ve veri kaybına karşı en iyi korumayı sunuyoruz. Kapsamlı güvenlik çözümlerimizin kurulumu, kullanımı ve yönetimi kolaydır. Sektördeki en düşük toplam sahip olma maliyetini sunarlar. Sophos uç noktalar, ağlar, mobil cihazlar, e-posta ve web için ödüllü şifreleme çözümleri ve güvenlik çözümleri sunar. Tescilli analiz merkezlerinden oluşan küresel ağımız SophosLabs'tan da destek var. Sophos'un genel merkezi Boston, ABD ve Oxford, İngiltere'dedir.