LLM'lerin (Büyük Dil Modelleri) neredeyse sınırsız olasılıkları inanılmaz derecede heyecan verici. Her ay, bu araçların kurumsal uyum politikalarıyla her zaman uyumlu olmayan yeni kullanımları vardır.
Olasılıklar, blog gönderileri için hızlı ve ucuz bir şekilde küçük resimler oluşturmaktan, bir blog gönderisine temelde karşı çıkan ve eleştiren kişilerin davranışlarına, içeriği tam olarak anlarken blog gönderilerini tutarlı bir şekilde diğer dillere çevirmeye kadar uzanır. Blog gönderilerinin ötesindeki dünyada bile, bu yeni ortaya çıkan araç muazzam bir potansiyele sahiptir. Ancak potansiyel aynı zamanda teknolojinin sonunda ne yapacağını kimsenin bilmediği anlamına da gelir ve bu ciddi, somut iş riskleri yaratır.
riskleri tanımak
LLM söz konusu olduğunda, birçok kişi ilk olarak OpenAI'nin ChatGPT'sini bugün mevcut olan en erişilebilir ve kullanımı kolay araç olarak düşünür. ChatGPT, herkesin bir web tarayıcısı aracılığıyla soru sormasına olanak tanır ve hızlı yanıtlar üretir. Ortalama bir kullanıcı için bu harika, ancak herhangi bir işletme için bu kullanım kolaylığı üç ciddi sorunu beraberinde getiriyor. ChatGPT'ye gönderilen tüm veriler, kalite ve izleme amacıyla OpenAI tarafından saklanır, her yanıtın kaynağı bilinmez ve yanıt tamamen uydurma olabilir.
OpenAI, ürününü geliştirmek ve sistemin olası kötüye kullanımını önlemek için kullanıcı girdilerini izler. Bu, OpenAI açısından tamamen makul bir davranış, ancak OpenAI'nin bu veriler konusunda özellikle dikkatli olduğunu düşünmek için hiçbir neden yok. Ek olarak, OpenAI, ChatGPT'ye hangi verilerin gönderildiğini gerçekten kontrol edemez, bu nedenle gerçekte hiç saklanmaması gereken birçok bilgiyi depolar. Örneğin, yakın zamanda Samsung çalışanlarının özel mülk yazılım sorunlarını gidermek ve oturum günlüklerini özetlemek için ChatGPT kullandığı ortaya çıktı.
Belirsiz Kaynaklar
İkinci sorun, ChatGPT'nin yanıtları için kaynak göstermeden istekleri yanıtlamasıdır. ChatGPT, bulgularına dayanarak iddialarda bulunur ve ne yazık ki kullanıcılar bunu olduğu gibi kabul etmek zorundadır. Bu bilgiler telif hakkıyla korunabilir ve kullanıcılar, avukatlardan telif hakkı ihlali iddiasında bulunan bir mektup alana kadar bilemezler. Getty Images, LLM görüntüleri oluşturmak için kullanılan bir aracın yaratıcısına, aracın Getty Images filigranı ile görüntüler oluşturduğu tespit edildikten sonra telif hakkı ihlali nedeniyle dava açtı. Bu görüntüleri kullanan herhangi bir son kullanıcının da sorumlu tutulabileceğini iddia etmek mantıksız değildir. Henüz somut örnekleri olmasa da kod üretimi bir başka ilgi alanı olsa da kaçınılmaz görünüyor.
icat edilmiş cevaplar
Ancak ChatGPT ile ilgili en büyük sorun, bu LLM'lerin endüstri jargonunun "bariz yalanlar" olarak adlandırdığı "halüsinasyonlar" görebilmesidir. ChatGPT'nin yanıtların nasıl geldiği konusunda şeffaflığı olmadığından, ChatGPT ve benzerleri her zaman mutlak bir kesinlikle yanıt vereceğinden, kullanıcıların yanıtların doğru olup olmadığına karar vermek için eleştirel bir şekilde analiz edebilmeleri gerekir. Bunun, Google'ın utanç verici başlangıcından, ChatGPT'nin yanlış bir şekilde öğrenci ödevleri yazdığını iddia ettikten sonra tüm öğrencilerini çakmasına kadar değişen sonuçlar olabilir - bir avukatın mahkemede özetini hazırlamak için ChatGPT'yi kullandığı ve ChatGPT'nin argümanı desteklemek için altı tamamen sahte kaynak icat ettiği en korkunç örneğe kadar. Google'ın kötü örneği, piyasa değerinin 100 milyar dolar düşmesine, üniversite profesörünün güvenilirliğinin kaybolmasına ve mahkemede multimilyon dolarlık bir davanın reddedilmesine neden oldu. Bunlar aslında kaçınılması gereken son derece ciddi sonuçlardır.
uyum sağlamak
Şirketler, OpenAI'nin izinsiz kullanımını yasaklayan politikalarla bu gerçeklere yanıt veriyor. Ancak, trafik herhangi bir yazılım gerektirmeden şifreli bir tarayıcıdan geçtiği için bu politikalara uygunluğu izlemek zordur.
Vectra AI, algılama için ağ sensörlerini kullanarak ağdaki bu etkinlikleri algılayabilir. Vectra NDR, ağa giren ve çıkan trafiği ve aynı zamanda ağın kendi içindeki trafiği izleyen dikkatlice yerleştirilmiş sensörlerle kuruluş genelindeki tüm ağ trafiğini izlemek için tasarlanmıştır. Bu derinlemesine analiz, güçlü yapay zeka destekli algılama çerçevesinin temelini oluşturur ve ayrıca ChatGPT Kullanım Panosu'nda özetlenen uyumluluğa ilişkin öngörülü içgörüler sağlar. Vectra'nın tüm platform müşterilerinin kullanımına ücretsiz olarak sunduğu gösterge paneli, herhangi bir ana bilgisayar tarafından yapılan OpenAI sunucularına yapılan DNS sorgularını izleyerek, ortamdaki OpenAI ile aktif etkileşimde bulunan ana bilgisayarları gösterir. Uyumluluk görevlileri, OpenAI'de hesapları olan veya ilgilendiğini ifade eden kişilerin listesini hızlı bir şekilde görmekle kalmaz, aynı zamanda bir sistemi tam olarak kimin ve ne sıklıkta kullandığını da aktif olarak izleyebilir.
erişimi görselleştir
Pano, bu kullanıcıları derinlemesine izlemek için Vectra'nın patentli Ana Bilgisayar Kimliği eşleme teknolojisini kullanır. Makinelerin IP adresleri değişse veya bir dizüstü bilgisayar yeni bir ağa katılsa bile, Vectra onu aynı makine olarak izler, böylece pano bir cihazın ChatGPT'ye tam olarak ne sıklıkta eriştiğini gösterir - bu aynı zamanda Vectra'nın bir makinenin olası sahibi olduğunu düşündüğü kişinin kim olduğunu hızlı bir şekilde görmenizi sağlar. Bu pano ile güvenlik görevlileri yalnızca hangi sunucuların ChatGPT kullandığını görmekle kalmaz, aynı zamanda bu konuda kiminle iletişime geçeceğini de bilir ve bu bilgiye saatler değil dakikalar içinde sahip olur.
Bu, Vectra platformunun kuruluşta neler olup bittiğine dair nasıl derin içgörüler sağladığına ve aktif uyum sorunlarını takip ederek uyumluluğa nasıl yardımcı olabileceğine dair yalnızca bir örnektir. Bu, şirkette aktif olarak kullanılan, süresi dolan sertifikaları izleyen Sertifika Süre Sonu Panosu veya MFA atlamalarını izleyen Azure AD Chaos Panosu kadar güvenilirdir. Vectra, uyum görevlilerine yalnızca kuruluşta neyin yanlış yapılandırıldığına değil, hangi güvenlik risklerinin aktif olarak mevcut olduğuna dair değerli bilgiler sağlayabilir.
Daha fazlası Vectra.com'da
Vectra Hakkında Vectra, hibrit ve çoklu bulut kuruluşları için önde gelen bir tehdit algılama ve müdahale sağlayıcısıdır. Vectra platformu, genel bulut, kimlik ve SaaS uygulamaları ve veri merkezlerindeki tehditleri hızla tespit etmek için yapay zekayı kullanır. Yalnızca Vectra, yalnızca "farklı" konusunda uyarı vermek yerine yapay zekayı saldırgan yöntemlerini - tüm saldırıların altında yatan TTP'leri (Taktikler, Teknikler ve Süreçler) - tanımak için optimize eder.
Konuyla ilgili makaleler