ChatGPT'nin 4. sürüme güncellemesi merakla bekleniyordu ve üretici Open AI'ye göre "en gelişmiş" AI teknolojisini temsil ettiği ve hatta bir testte en yüksek notlarla bir bar sınavını geçtiği söyleniyor. Bununla birlikte, bir röportajda Sophos güvenlik uzmanı Chester Wisniewski'ye göre, ChatGPT'nin yeniden yaratabileceği tek şey, olgusal metinlerde neredeyse fark edilemeyen yalanlardır.
BT güvenlik sektörünün bir temsilcisi, sohbet yapay zekasındaki hızlı gelişimi nasıl görüyor ve ortaya çıkan fırsatları ve olası dezavantajları nasıl sınıflandırıyor? Sophos Baş Araştırmacısı Chester Wisniewski bazı soruları yanıtladı. Vardığı sonuç: yarar muhtemelen zarardan ağır basmaktadır.
GPT 3 ile yeni GPT 4 arasındaki farklar nelerdir?
Çok şey değişti ve gelişti, ancak her şey bilinmiyor. OpenAI, bu sürümle kartlarını geçmişe göre biraz daha sıkı tutuyor, bu nedenle tüm iyileştirmeler duyurulmadı. Genel olarak, önceki sürümlerden daha akıllı, daha doğru ve daha yetenekli görünüyor, bu da tepkileri daha gerçekçi ve yetkin kılmalı. Yanlış bilgi yayma olasılığı daha düşük olsa da yine de oldukça iyi bir yalancı olduğunu hatırlamak yine de önemlidir.
Böyle üretken, önceden eğitilmiş bir transformatörü halka açık hale getirmek etik midir?
İyi adamlara olduğu kadar kötü adamlara da müsaittir. Teknolojik ilerleme şişedeki cin gibidir. Rahatsız olduğunuzda öylece kaldıramazsınız. OpenAI'nin uygulamaya çalıştığı korumalara sahip ChatGPT gibi araçlara sahip olmanın yarardan çok zarar vermesi olası değildir. Yapay zekanın suç teşkil eden suistimali kaçınılmaz olsa da, bu araçların sorumlu kullanımından elde edilebilecek fayda, muhtemelen herhangi bir kötüye kullanımdan çok daha ağır basacaktır.
Görünüşe göre, sistemin korkuluklarını kıran çok sayıda hızlı mühendislik örneği var ve en az bir dolaylı hızlı enjeksiyon örneği var. Suistimal edilemeyecek bir GPT modeli oluşturmanın mümkün olacağını düşünüyor musunuz?
🔎 Röportaj: Sophos güvenlik uzmanı Chester Wisniewski (Resim: Sophos).
HAYIR. Daha ayrıntılı bir yanıt muhtemelen şimdi daha iyi karşılanacaktır, ancak kötüye kullanımı önlemek için tasarlanmış ancak aynı zamanda sistemin kendi kendine çalışmasına izin verecek şekilde tasarlanmış herhangi bir sistem büyük olasılıkla her zaman atlatılabilir olacaktır. Ancak OpenAI ve diğer AI araştırmacıları, insanların savunmalarını nasıl alt ettikleri hakkında daha fazla şey öğrendikçe, bu daha da zorlaşıyor. Gelecekte siber suçlar açısından önemli ölçüde daha fazla beceri gerektireceğini umuyor ve umuyorum. Ancak yine de sistemden taviz vermek mümkün olacaktır.
ChatGPT yeni bir şey mi yaratıyor yoksa sadece söyleneni mi yapıyor? Ya model yanlışlıklar öğrenmişse veya öğretilmişse?
ChatGPT'nin yeniden oluşturabileceği tek şey yalanlardır. Tanıdığım en iyi narsistlere rakip olan oldukça inandırıcı bir yalancı. Modele kesinlikle yanlış veya doğru olmayan şeyler de öğretildi ve bu olgusal yanlışlıkları cevaplarına ne zaman dahil edeceğini tahmin etmek neredeyse imkansız.
Big AI, Big Tech'e ait olacak. Bilgi istemlerinde yer alan kişisel ve hassas şirket verileri, belirli bir AI modelini beslemese de, kesinlikle büyük teknoloji şirketlerinin kullanımına açık olacaktır. Ve büyük teknoloji sahiplerinin iş modeli genellikle bu tür verileri en yüksek teklifi verene satmaya dayanır. GPT tarzı genel yapay zekanın gizlilik yönleri hakkında bir şeyler yapılabilir mi?
Bugün AI sistemlerinin çoğu kullanıcısı için, ChatGPT gibi modelleri kullanmak için kabul ettikleri vaatlere ve lisans sözleşmelerine güvenmekten başka seçenek yoktur. Bununla birlikte, bu modellerin birçoğu inanılmaz derecede verimli bir şekilde gelişiyor, bu nedenle gelecekte bilgisayarlarımızda, dizüstü bilgisayarlarımızda ve hatta telefonlarımızda çalışmamaları için hiçbir neden yok. Modelleri eğitmek, hesaplama açısından yoğundur, ancak onu yürütmek değildir. Daha eski modeller açık kaynak olarak veya hatta kitle kaynaklı olarak sunulabilir, böylece onları kullanmak isteyen herkesin kullanımına sunulur. En son teknolojiye sahip modeller büyük olasılıkla büyük teknoloji devlerinin elinde kalacak, ancak "yeterince iyi" olan modeller, dilerseniz cebinizdeki bir iPhone'da çalışabilir.
Daha fazlası Sophos.com'da
Sophos Hakkında Sophos, 100 ülkede 150 milyondan fazla kullanıcı tarafından güvenilmektedir. Karmaşık BT tehditlerine ve veri kaybına karşı en iyi korumayı sunuyoruz. Kapsamlı güvenlik çözümlerimizin kurulumu, kullanımı ve yönetimi kolaydır. Sektördeki en düşük toplam sahip olma maliyetini sunarlar. Sophos uç noktalar, ağlar, mobil cihazlar, e-posta ve web için ödüllü şifreleme çözümleri ve güvenlik çözümleri sunar. Tescilli analiz merkezlerinden oluşan küresel ağımız SophosLabs'tan da destek var. Sophos'un genel merkezi Boston, ABD ve Oxford, İngiltere'dedir.