Yapay zeka kullanımının artmasından kaynaklanan riskler

Yapay zeka kullanımının artmasından kaynaklanan riskler

Gönderiyi paylaş

Bir rapor, 569 TB kurumsal verinin yapay zeka araçlarına aktarıldığını gösteriyor ve daha iyi veri güvenliğinin öneminin altını çiziyor. Kurumsal AI/ML işlemleri Nisan 521'te aylık 2023 milyondan Ocak 3,1'te 2024 milyara yükseldi.

Tüm yapay zeka işlemlerinin yüzde 21'iyle üretim, Zscaler Bulut'ta en fazla yapay zeka veri trafiğini oluşturuyor, bunu finans ve sigorta (yüzde 14) ve hizmetler (yüzde 13) izliyor. İşlem hacmine göre en popüler kurumsal AI/ML uygulamaları ChatGPT, Drift, OpenAI, Writer ve LivePerson'dur. En fazla kurumsal yapay zeka işleminin gerçekleştiği beş ülke ABD, Hindistan, İngiltere, Avustralya ve Japonya'dır. Almanya yüzde 7'lük payla dünyada yedinci sırada yer alıyor.

Yapay Zeka Güvenlik Raporu, Nisan 18'ten Ocak 2023'e kadar Zscaler Zero Trust Exchange bulut güvenlik platformunda 2024 milyardan fazla yapay zeka işlemini analiz ediyor. Zscaler ThreatLabz araştırmacıları, çeşitli endüstriler ve bölgelerde kurumsal kullanımda yapay zeka/makine öğrenimi araçlarının eğilimlerini, Araçların kullanımında değişen bir yapay zeka ortamı ve güvenlik. Şirketler, üretken yapay zekadan (GenKI) kaynaklanan dönüşüme iki yönde dikkat etmelidir: bir yandan GenKI araçlarının Sıfır Güven yardımıyla şirkete güvenli bir şekilde tanıtılması yoluyla, diğer yandan da şirkete karşı savunma yaparak. yeni yapay zeka kontrollü tehditler.

Şirketler yeni yapay zeka özelliklerini ve araçlarını günlük iş akışlarına entegre ettikçe, üretilen işlem ve veri hacmi de arttı. Daha yüksek hacim, Eylül 600 ile Ocak 569 arasında işlemlerde yaklaşık yüzde 2023 artışa ve AI araçlarına gönderilen 2024 terabayt kurumsal veriye yansıyor.

Yapay zeka işlemleri katlanarak artıyor

ThreatLabz, Nisan 2023'ten Ocak 2024'e kadar Ocak ayında Zero Trust Exchange platformundan geçen AI/ML işlemlerinde yaklaşık yüzde 600 artışla ayda üç milyarın üzerine çıktı. Artan güvenlik risklerine ve artan sayıda veri koruma olayına rağmen şirketler yapay zeka araçlarını geniş çapta benimsiyor.

İmalat sektörü, yapay zeka araçlarını içeren toplam işlem hacminin beşte birini alarak başı çekiyor. Kullanım örneklerinden biri, sistem arızalarının önleyici tespiti için makinelerden ve sensörlerden gelen büyük miktardaki verilerin analizidir. Diğer olası kullanımlar arasında tedarik zinciri yönetiminin, envanter ve lojistik operasyonlarının optimize edilmesi yer alır. Diğer ilk beş sektör arasında finans ve sigorta (yüzde 14), hizmet sektörü (yüzde 13), teknoloji (yüzde 10) ve perakende/toptan satış (yüzde 5) yer alıyor.

ChatGPT en popüler GenKI uygulamasıdır

Analiz, ChatGPT'nin tüm kurumsal yapay zeka işlemlerinin yarısından fazlasından (yüzde 52) sorumlu olduğunu, OpenAI uygulamasının ise yüzde 8 ile yalnızca üçüncü sırada yer aldığını gösteriyor. Yapay zeka destekli popüler sohbet robotu Drift, şirketin trafiğinin yaklaşık yüzde 20'sini oluştururken LivePerson ve BoldChat de listede yer alıyor. Writer, yazılı iş içeriği oluşturmak için en popüler GenKI aracıydı.

ABD, yapay zeka araçlarının kurumsal olarak benimsenmesinde lider konumdadır Yapay zekayı benimseme eğilimleri, düzenlemeler, gereksinimler, teknoloji altyapısı, kültürel hususlar ve benimsenmede önemli rol oynayan diğer faktörlere göre dünya çapında farklılık göstermektedir. Şirketlerin küresel karşılaştırmasında ABD, yüzde 40 ile en yüksek yapay zeka işlemleri oranına sahip. Hindistan, ülkenin güçlü inovasyon faaliyetinin etkisiyle yüzde 16 ile ikinci sırada yer alıyor. Birleşik Krallık'ın küresel yapay zeka işlemlerindeki payı yalnızca yüzde 5,5 olmasına rağmen yapay zeka trafiğinin beşte biri (yüzde 20) ile EMEA'nın zirvesinde yer alıyor. Fransa (yüzde 13) ve Almanya (yüzde 12) EMEA'da yapay zeka trafiğinin ikinci ve üçüncü büyük üreticileri olarak onları yakından takip ediyor.

ThreatLabz, APAC'ta EMEA'ya kıyasla yaklaşık 1,3 milyar (yüzde 135) daha fazla kurumsal yapay zeka işleminde artış olduğunu ortaya çıkardı. Bu artış muhtemelen Hindistan'daki teknoloji sektörü genelinde ticari operasyonları güçlendirmek için yapay zeka araçlarının yoğun kullanımından kaynaklanıyor ve teknoloji işlerinde daha yüksek bir yoğunlaşmayı, yeni teknolojileri kabul etme konusunda daha fazla istekliliği ve kullanım engellerinin daha düşük olduğunu gösteriyor.

Yapay zeka destekli tehdit aktörleri

Yapay zekanın gelişen gücü, işletmeler için iki ucu keskin bir kılıç haline geldi. Yapay zeka, inovasyon ve verimlilik açısından muazzam bir potansiyel sunarken aynı zamanda şirketlerin ele alması gereken bir dizi yeni riski de beraberinde getiriyor. Bunlar arasında özellikle şirkette GenKI araçlarının kullanımıyla ilişkili riskler ve üç alana ayrılabilecek yapay zeka destekli tehdit ortamı yer alıyor:

Fikri mülkiyetin ve kamuya açık olmayan bilgilerin korunması ve buna bağlı veri kaybı riski
Genişletilmiş saldırı yüzeyi, yeni tehdit yayılma vektörleri ve artan tedarik zinciri riski gibi yapay zeka uygulamalarıyla ilişkili gizlilik ve güvenlik riskleri
"Çöp içeri, çöp dışarı" kavramıyla birlikte gelen veri kalitesi endişeleri, veri bozulması potansiyelini körüklüyor.

Aynı zamanda şirketler, yine yapay zeka tarafından kontrol edilen sürekli bir siber tehdit seline maruz kalıyor. Saldırganlar, karmaşık kimlik avı ve sosyal mühendislik kampanyalarını düzenlemek için yapay zekayı kullanıyor. Kuruluşların saldırı yüzeylerindeki güvenlik açıklarından yararlanan ve saldırıların hızını, ölçeğini ve çeşitliliğini artıran kötü amaçlı yazılım ve fidye yazılımları geliştiriyorlar. Bu zorluğun üstesinden gelmek için şirketlerin bir yandan hızla gelişen yapay zeka ortamını değerlendirmeleri ve bundan bizzat faydalanmaları gerekiyor. Aynı zamanda siber güvenlik uzmanlarının riskleri en aza indirmesi ve şirketleri yapay zeka destekli saldırılara karşı silahlandırması gerekiyor.

Sıfır Güven

Zscaler, şirketlerin yapay zeka uygulamalarının gücünden yararlanmasına olanak tanırken, veri sızmasına karşı koruma sağlayan bir ortam oluşturarak verilerinin güvenliğini sağlar. Zero Trust ExchangeTM platformu, dört temel özelliğe sahip kapsamlı bir araç seti sunar: Yapay zeka araçlarının kullanımına ilişkin eksiksiz bilgi, yapay zeka için ayrıntılı erişim politikaları oluşturma, yapay zeka uygulamaları için ayrıntılı veri güvenliği, tarayıcı izolasyonlu güçlü kontroller.

Kuruluşlar, Sıfır Güven güvenlik kontrollerinden yararlanarak yapay zeka dönüşümlerini gerçekleştirebilir ve en yüksek güvenlik düzeyini korurken üretken yapay zekanın tüm potansiyelini gerçekleştirebilir. Platform, yapay zeka kaynaklı tehditlere karşı koruma sağlar ve ayrıntılı yapay zeka politikaları, veri korumasını sağlar.

Daha fazlası Zscaler.com'da

 


Zscaler Hakkında

Zscaler, müşterilerin daha çevik, verimli, esnek ve güvenli olabilmesi için dijital dönüşümü hızlandırır. Zscaler Zero Trust Exchange, insanları, cihazları ve uygulamaları her yerde güvenli bir şekilde bağlayarak binlerce müşteriyi siber saldırılardan ve veri kaybından korur. SSE tabanlı Zero Trust Exchange, dünya çapında 150'den fazla veri merkezine dağıtılan dünyanın en büyük hat içi bulut güvenlik platformudur.


 

Konuyla ilgili makaleler

Yapay zeka kullanımının artmasından kaynaklanan riskler

Bir rapor, 569 TB kurumsal verinin yapay zeka araçlarına aktarıldığını gösteriyor ve daha iyi veri güvenliğinin öneminin altını çiziyor. AI/ML işlemleri ➡ Devamını oku

Fidye yazılımı saldırılarında ve uyumluluk hatalarında artış

Yıllık raporda veri güvenliğindeki en son tehditler, trendler ve ortaya çıkan konular vurgulanıyor. Bir ankete dayanmaktadır ➡ Devamını oku

Kriptografi ve kuantum hesaplama

Kriptografi uzun zamandır dijital bilgileri yetkisiz erişime karşı korumanın en iyi yollarından biri olmuştur; örneğin ➡ Devamını oku

OT güvenlik durumu raporu

Almanya da dahil olmak üzere dünya çapındaki sanayi şirketlerine yönelik yakın zamanda yapılan bir anket, OT güvenliğinin durumu hakkında endişe verici bir tablo çiziyor ➡ Devamını oku

KOBİ'ler ufukta: Tedarik zincirlerine yönelik siber saldırılar

Ortaklıklar, hizmetler, müşteri ilişkileri; hiçbir kuruluş bağımsız olarak faaliyet göstermez. Sözleşmeler, uyumlar ve yasalar işbirliğini düzenliyor, peki ya? ➡ Devamını oku

LockBit saldırısından sonra: Peki ya fidye yazılımı saldırıları?

Güncel bir raporda Trend Micro, fidye yazılımı ortamını analiz ediyor ve LockBit etkinliklerinin kesintiye uğramasının etkisine ilişkin bir genel bakış sunuyor ➡ Devamını oku

Alman şirketlerinde veri kaybının nedenleri

Veri kaybı, insanlar ve makineler arasındaki etkileşimde ortaya çıkan bir sorundur: "dikkatsiz kullanıcılar"ın olma olasılığı çok daha yüksektir ➡ Devamını oku

API aracılığıyla siber saldırılar

2024'ün ilk ayında API saldırılarının sıklığı arttı ve her yıl ortalama 1 şirketten 4,6'i etkilendi. ➡ Devamını oku