Suçlular yapay zekayı kullanır - sadece derin sahtekarlıklar için değil. Europol, UNICRI ve Trend Micro, mevcut ve gelecekteki AI tehditleri hakkında rapor verir.
Trend Micro bugün Europol ve Birleşmiş Milletler Bölgeler Arası Suç ve Adalet Araştırmaları Enstitüsü (UNICRI) ile işbirliği içinde hazırlanan yeni bir araştırma raporu yayınladı. İçinde güvenlik araştırmacıları, yapay zekanın (AI) suçlular tarafından mevcut ve gelecekteki olası kullanımını ele alıyor. Rapor, kolluk kuvvetlerine, politika yapıcılara ve diğer kuruluşlara yapay zeka kullanan mevcut ve gelecekteki potansiyel saldırılar hakkında bilgi ve bu riskleri azaltmak için öneriler sağlıyor.
AI teknolojisinin potansiyel faydaları
“AI dünyaya daha fazla verimlilik, otomasyon ve özerklik vaat ediyor. Europol'ün Siber Suçlar Merkezi (Europol EC3) Başkanı Edvardas Şileris, "Halkın yapay zekanın olası kötüye kullanımı konusunda giderek daha fazla endişe duyduğu bir zamanda, tehditleri şeffaf hale getirmemiz ve aynı zamanda yapay zeka teknolojisinin potansiyel faydalarını da incelememiz gerekiyor" diyor. "Bu rapor, yalnızca yapay zekanın olası kötü amaçlı kullanımlarını ve kötüye kullanımlarını tahmin etmemize yardımcı olmakla kalmayacak, aynı zamanda bu tehditleri proaktif olarak önleyip hafifletecek. Bu şekilde, yapay zekanın potansiyelini açığa çıkarabilir ve yapay zeka sistemlerinin olumlu kullanımından faydalanabiliriz."
Rapor, siber suçluların AI'yı hem bir saldırı vektörü hem de bir saldırı yüzeyi olarak kullanacağı sonucuna varıyor. Deepfakes (AI tarafından değiştirilen ve bozulan fotoğraflar, ses ve video gibi gerçekçi görünümlü medya içeriği) şu anda AI'nın bir saldırı vektörü olarak en iyi bilinen kullanımıdır.Ancak rapor, gelecekte yeni tarama teknolojilerinin gerekli olacağı konusunda uyarıyor. Yapay zeka veri kümelerini hedef alan tehditlerin yanı sıra dezenformasyon kampanyaları ve şantaj riskini azaltın.
AI, aşağıdaki saldırı türlerini destekleyebilir
- Zorlayıcı büyük ölçekli sosyal mühendislik saldırıları
- Belirli verileri belgelerden büyük ölçekte sızdırabilen kötü amaçlı yazılım (belge kazıma)
- Görüntü tanımayı ve ses biyometrisini atlayın
- Kurbanları daha kesin bir şekilde hedefleyen ve koruma mekanizmalarını atlayan fidye yazılımı saldırıları
- Algılama kurallarında kör noktaların belirlenmesinden kaynaklanan veri kirliliği
UNICRI'de Yapay Zeka ve Robotik Merkezi başkanı Irakli Beridze, "Yapay zeka uygulamalarının gerçek dünya üzerinde artan bir etkisi olduğu için, bunun gelecekte temel bir teknoloji olacağı açık hale geliyor" diye açıklıyor. "Ancak yapay zekanın topluma çok gerçek faydalar sunması gibi, kötü niyetli kullanım tehdidi de öyle. Yapay zekanın karanlık tarafına ışık tutmak ve bu önemli konu hakkında daha fazla tartışmayı teşvik etmek için Europol ve Trend Micro ile güçlerimizi birleştirmekten onur duyuyoruz."
Rapor ayrıca, yapay zeka sistemlerinin kötü amaçlı yazılım etkinliğini artırmak ve kötü amaçlı yazılımdan koruma ve yüz tanıma sistemlerini bozmak için geliştirildiği konusunda da uyarıda bulunuyor.
AI şifreleri hesaplar, CAPTCHA kodlarını kırar, sesleri klonlar
“Siber suçlular her zaman en son teknolojileri ilk benimseyenler arasında olmuştur ve bu durum yapay zeka için de geçerlidir. Raporumuzun gösterdiği gibi, şifre kırma, CAPTCHA kod kırma ve ses klonlama için zaten kullanılıyor. Trend Micro'nun İleriye Dönük Tehdit Araştırması ekibi başkanı Martin Rösler, "Ve üzerinde çalışılan daha pek çok kötü niyetli yenilik var" dedi. "Bu tehdide karşı farkındalığı artırmak ve bunu yaparak hepimiz için daha güvenli bir dijital gelecek yaratmaya yardımcı olmak için Europol ve UNICRI ile birlikte çalışmaktan gurur duyuyoruz."
Raporun sonunda, üç kuruluş AI ile başa çıkmak için çeşitli önlemler önermektedir:
- Siber güvenlik endüstrisini ve kolluk kuvvetlerini geleceğe hazır hale getirmek için bir suçla mücadele aracı olarak yapay zeka teknolojisinin potansiyelinden yararlanmak
- Daha fazla savunma teknolojisi geliştirmek için AI alanında araştırmalara devam edin
- Güvenli yapay zeka tasarım çerçevelerini teşvik etme ve geliştirme
- Yapay zekanın siber güvenlik amaçlarıyla kullanılmasına ilişkin siyasi içerikli söylemlerin tırmandırılması
- Kamu-özel ortaklıklarını kullanmak ve çok disiplinli uzman grupları oluşturmak
Araştırma raporunun tamamı çevrimiçi olarak mevcuttur.
TrendMicro.com'da doğrudan rapora gidin
Trend Micro Hakkında Dünyanın önde gelen BT güvenliği sağlayıcılarından biri olan Trend Micro, dijital veri alışverişi için güvenli bir dünya yaratılmasına yardımcı olur. 30 yılı aşkın güvenlik uzmanlığı, küresel tehdit araştırması ve sürekli yenilikle Trend Micro işletmeler, devlet kurumları ve tüketiciler için koruma sunar. XGen™ güvenlik stratejimiz sayesinde çözümlerimiz, öncü ortamlar için optimize edilmiş nesiller arası savunma teknikleri kombinasyonundan yararlanır. Ağa bağlı tehdit bilgileri, daha iyi ve daha hızlı koruma sağlar. Bulut iş yükleri, uç noktalar, e-posta, IIoT ve ağlar için optimize edilmiş bağlantılı çözümlerimiz, daha hızlı tehdit algılama ve yanıt için tüm kuruluş genelinde merkezileştirilmiş görünürlük sağlar.