İki araştırma raporu, yapay zekanın saldırılar için mevcut kullanımını gösteriyor ve diğer yandan siber suçluların yapay zekaya karşı tutumu, karanlık web forumları incelenerek analiz ediliyor. Sürpriz: Her suçlu yapay zekanın yararlarına ikna olmuyor.
Sophos bugün yapay zekanın siber suçlarda kullanımına ilişkin iki rapor yayınladı. Rapor “Yapay Zekanın Karanlık Yüzü: Üretken Yapay Zekayla Mümkün Olan Büyük Ölçekli Dolandırıcılık Kampanyaları” Dolandırıcıların gelecekte minimum teknik beceriyle büyük ölçekli dolandırıcılık saldırıları gerçekleştirmek için ChatGPT gibi teknolojileri nasıl kullanabileceğini incelemek için özel bir vaka çalışması kullanıyor. İkinci rapor “Siber suçlular GPT'ler Üzerinde Anlaşamıyor” çeşitli dark web forumlarının araştırmasını sunuyor. Sonuçlar, yeni teknolojinin potansiyeline rağmen bazı siber suçluların sohbet robotlarının ve diğer yapay zeka teknolojilerinin mevcut kullanımına şüpheyle yaklaştığını gösteriyor.
"Dark Web'de yapay zekanın toplum üzerindeki olası olumsuz etkileri ve kullanımının etik sonuçları hakkında çok sayıda gönderi bulduk. Başka bir deyişle, en azından şimdilik, siber suçluların da yapay zeka hakkında geri kalanımızla aynı tartışmaları yürüttüğü görülüyor" dedi Sophos X-Ops araştırma direktörü Christopher Budd.
AI: Yapay zekanın karanlık tarafı
Basit bir e-Ticaret şablonu ve GPT-4 gibi harika dil modeli araçlarını kullanan Sophos X-Ops, yapay zeka tarafından oluşturulan görseller, ses ve ürün açıklamalarının yanı sıra sahte bir Facebook giriş sayfası ve sahte ödeme içeren tamamen işlevsel bir web sitesi oluşturmayı başardı. Kişisel giriş ve kredi kartı bilgilerini toplamak için sayfa. Web sitesini oluşturmak ve işletmek için minimum düzeyde teknik bilgi gerekiyordu. Aynı araç aynı zamanda sadece bir düğmeye tıklamayla dakikalar içinde yüzlerce benzer web sitesi oluşturmayı da mümkün kıldı.
Sophos'un kıdemli veri bilimcisi Ben Gelman, "Suçluların mümkün olduğu kadar etkili olabilmek amacıyla operasyonlarını otomatikleştirmek için yeni teknolojileri kullanması doğal ve beklenen bir şey" dedi. "Spam e-postaların orijinal olarak oluşturulması, suç oyun alanının ölçeğini önemli ölçüde değiştirdiği için dolandırıcılık tarihinde çok önemli bir adımdı. Yapay zekadaki mevcut gelişme de benzer bir potansiyele sahip: Tam, otomatik tehditler oluşturabilen bir yapay zeka teknolojisi ortaya çıktığı anda kullanılacak. Üretken yapay zeka unsurlarının, örneğin kurbanların ilgisini çekmek için yapay zeka tarafından oluşturulan metinler veya fotoğraflar aracılığıyla klasik dolandırıcılığa şu anda gözlemlenen entegrasyonu yalnızca bir başlangıçtır."
Mevcut araştırma projesinin amaçlarıyla ilgili olarak Gelman şunları söylüyor: “Mevcut projeyi yürütmemizin bir nedeni de suçlulardan bir adım önde olmaktır. Suçluların şu anda kullandığı araçlardan daha gelişmiş ölçekte sahte web siteleri oluşturmaya yönelik bir sistem oluşturarak, tehdidi yayılmadan önce analiz etme ve ona karşı hazırlık yapma konusunda benzersiz bir yeteneğe sahip oluyoruz."
Siber suçlular GPTs & Co'nun potansiyelini sorguluyor
Yapay zeka araştırma atağının ikinci bölümünde Sophos Yapay zekanın siber suçlular tarafından kullanımı henüz emekleme aşamasında gibi görünse de, bu platformlardaki tehdit aktörleri halihazırda sosyal mühendislik potansiyelini yoğun bir şekilde tartışıyor. Bunun bir örneği, mevcut aşk dolandırıcılığı "domuz rezervasyonu" dalgasıdır.
Buna ek olarak Sophos, güvenliği ihlal edilmiş ChatGPT hesaplarıyla ilgili çoğu gönderinin satılık olduğunu ve "jailbreak"lerin (LLM'lerde yerleşik korumaları atlamanın yolları) ve siber suçluların araçları kötü amaçlarla kötüye kullanmalarına olanak tanıdığını buldu. Araştırma ekibi ayrıca geliştiricilerin siber saldırılar ve kötü amaçlı yazılım geliştirme için kullanılabileceğini iddia ettiği on ChatGPT uygulamasını da buldu. Bununla birlikte, bu tür araçların etkinliği, karanlık ağ topluluğunun bazı kesimleri tarafından şiddetle şüphe ediliyordu ve hatta bazen işe yaramaz programlarla hile yapma girişimi olarak görülüyordu.
Yapay zekayla ilgili tartışmalar
"Bazı siber suçluların yüksek lisans eğitimlerini kullanarak kötü amaçlı yazılım veya saldırı araçları oluşturmaya çalıştıklarını görsek de, sonuçlar ilkeldi ve çoğu zaman diğer kullanıcılar tarafından şüpheyle karşılandı. Hatta yapay zekanın toplum üzerindeki potansiyel olumsuz etkisi ve kullanımının etik sonuçları hakkında çok sayıda gönderi bulduk. Başka bir deyişle, en azından şimdilik, siber suçluların da yapay zeka hakkında geri kalanımızla aynı tartışmaları yürüttüğü görülüyor" dedi Sophos X-Ops araştırma direktörü Christopher Budd.
Yapay zeka tarafından oluşturulan dolandırıcılık web siteleri ve tehdit aktörlerinin Yüksek Lisans'lara yönelik tutumları hakkında daha fazla bilgi için İngilizce raporların tamamına bakın “Yapay Zekanın Karanlık Yüzü: Üretken Yapay Zekayla Mümkün Olan Büyük Ölçekli Dolandırıcılık Kampanyaları” ve “Siber suçlular GPT'ler Üzerinde Anlaşamıyor” bulmak için.
Daha fazlası Sophos.com'da
Sophos Hakkında Sophos, 100 ülkede 150 milyondan fazla kullanıcı tarafından güvenilmektedir. Karmaşık BT tehditlerine ve veri kaybına karşı en iyi korumayı sunuyoruz. Kapsamlı güvenlik çözümlerimizin kurulumu, kullanımı ve yönetimi kolaydır. Sektördeki en düşük toplam sahip olma maliyetini sunarlar. Sophos uç noktalar, ağlar, mobil cihazlar, e-posta ve web için ödüllü şifreleme çözümleri ve güvenlik çözümleri sunar. Tescilli analiz merkezlerinden oluşan küresel ağımız SophosLabs'tan da destek var. Sophos'un genel merkezi Boston, ABD ve Oxford, İngiltere'dedir.