ChatGPT yapay zeka modeli, XDR telemetrisindeki kötü amaçlı etkinlikleri daha kolay filtreleyebilir, istenmeyen e-posta filtrelerini iyileştirebilir ve kısaca "LOLBins" anlamına gelen "Karada Yaşamak İkili Dosyaların" analizini basitleştirebilir. Sophos bunu yakın zamanda yeni bir raporda yayınladı.
Konu, iyi bilinen ChatGPT çerçevesinin arkasındaki GPT-3 dil modeli ve siber güvenlik endüstrisinin bu modeli saldırganlara karşı savunmak için nasıl kullanabileceğidir. "GPT for You and Me: Applying AI Language Processing to Cyber Defenses" adlı güncel rapor, Sophos X-Ops tarafından geliştirilen ve GPT-3'ün kapsamlı dil modellerini kullanan projeleri açıklamaktadır. Amaç, güvenlik yazılımlarından veri kayıtlarındaki kötü amaçlı etkinliklerin aranmasını basitleştirmek, istenmeyen postaları daha hassas ve hızlı bir şekilde filtrelemek ve ikili saldırıları (LOLBin) daha hızlı analiz etmektir.
AI'yı savunma için de kullanın
"OpenAI, Kasım 2022'de ChatGPT'yi piyasaya sürdüğünden beri, güvenlik sektörü büyük ölçüde bu yeni teknolojinin getirebileceği potansiyel risklere odaklandı. Yapay zeka, olası saldırganların kötü amaçlı yazılım yazmasına veya siber suçluların daha çekici kimlik avı e-postaları oluşturmasına yardımcı olabilir mi? Belki, ama Sophos'ta yapay zekayı her zaman savunma için bir düşman değil, bir müttefik olarak gördük, bu da onu Sophos için mihenk taşı teknolojisi haline getiriyor ve aynı şey GPT-3 için de geçerli. Sophos'ta Baş Tehdit Araştırmacısı Sean Gallagher, güvenlik endüstrisinin yalnızca teknolojinin potansiyel risklerine değil, aynı zamanda olası fırsatlara da dikkat etmesi gerektiğini söyledi.
Bir siber güvenlik asistanı olarak GPT-3
Sophos X-Ops araştırmacıları, GPT-3'ün siber güvenlik savunucularına yardımcı olma potansiyelini gösteren üç prototip proje üzerinde çalışıyor. Her üç proje de yapay zeka modelini yalnızca birkaç veri örneğiyle eğitmek için "birkaç adımda öğrenme" adı verilen bir teknik kullanıyor ve bu da büyük miktarda önceden sınıflandırılmış veri toplama ihtiyacını azaltıyor.
Sophos'un birkaç adımda öğrenme yöntemini kullanarak test ettiği ilk uygulama, Doğal Dil Sorgulama Arayüzü güvenlik yazılımı telemetrisindeki kötü amaçlı etkinliği taramak için. Özellikle Sophos, Endpoint Detection and Response çözümü ile modeli doğrulamıştır. Bu arayüzle savunucular, SQL'i veya bir veritabanının temel yapısını anlamak zorunda kalmadan basit İngilizce komutlarla telemetriyi filtreleyebilir.
ChatGPT ile yeni spam filtresi
🔎 ChatGPT, istenmeyen postaları çok daha iyi algılayabilir (Resim: Sophos).
Daha sonra Sophos, ChatGPT kullanarak yeni bir spam filtresini test etti ve buldu spam filtreleme için GPT-3'e sahip filtrenin, diğer makine öğrenimi modellerine kıyasla önemli ölçüde daha doğru olduğunu. Son olarak, Sophos araştırmacıları, LOLBins'in komut satırlarını tersine mühendislikle işlemeyi kolaylaştıran bir program yaratmayı başardılar. Bu tür tersine mühendislik, herkesin bildiği gibi zordur, ancak aynı zamanda LOLBin davranışını anlamak ve gelecekte bu tür saldırıları önlemek için de kritiktir.
SOC'ler güçlü bir yardım alıyor
“SOC'lerde (Güvenlik Operasyon Merkezleri) artan endişelerden biri, gelen 'gürültü' hacmidir. Sıralanması gereken çok fazla uyarı ve tespit var ve birçok kuruluş sınırlı kaynaklarla mücadele ediyor. GPT-3 ile belirli emek yoğun süreçleri basitleştirebileceğimizi ve savunuculara değerli zamanlarını geri verebileceğimizi kanıtladık. Halihazırda yukarıdaki prototiplerden bazılarını ürünlerimize entegre etmek için çalışıyoruz ve GPT-3'ü kendi analiz ortamlarında test etmekle ilgilenenler için çabalarımızın sonuçlarını GitHub'ımızda kullanıma sunduk. Gallagher, GPT-3'ün gelecekte güvenlik profesyonelleri için çok iyi bir yardımcı pilot haline gelebileceğine inanıyoruz.
Daha fazlası Sophos.com'da
Sophos Hakkında Sophos, 100 ülkede 150 milyondan fazla kullanıcı tarafından güvenilmektedir. Karmaşık BT tehditlerine ve veri kaybına karşı en iyi korumayı sunuyoruz. Kapsamlı güvenlik çözümlerimizin kurulumu, kullanımı ve yönetimi kolaydır. Sektördeki en düşük toplam sahip olma maliyetini sunarlar. Sophos uç noktalar, ağlar, mobil cihazlar, e-posta ve web için ödüllü şifreleme çözümleri ve güvenlik çözümleri sunar. Tescilli analiz merkezlerinden oluşan küresel ağımız SophosLabs'tan da destek var. Sophos'un genel merkezi Boston, ABD ve Oxford, İngiltere'dedir.