L'aggiornamento di ChatGPT alla versione 4 era atteso con impazienza e, secondo il produttore Open AI, si dice che rappresenti la tecnologia AI "più avanzata" e abbia persino superato un esame di abilitazione con il massimo dei voti in un test. Tuttavia, l'unica cosa che ChatGPT può ricreare sono bugie difficilmente riconoscibili nei testi fattuali, secondo l'esperto di sicurezza di Sophos Chester Wisniewski in un'intervista.
In che modo un rappresentante del settore della sicurezza IT vede il rapido sviluppo della chat AI e come classifica le opportunità e i possibili svantaggi che ne derivano? Chester Wisniewski, Principal Researcher di Sophos, ha risposto ad alcune delle domande. La sua conclusione: il vantaggio probabilmente supera il danno.
Quali sono le differenze tra GPT 3 e il nuovo GPT 4?
Molto è cambiato e migliorato, ma non tutto è noto. OpenAI sta mantenendo le sue carte un po' più strette con questa versione rispetto al passato, quindi non tutti i miglioramenti sono stati pubblicizzati. Nel complesso, sembra più intelligente, più preciso e più capace delle versioni precedenti, il che dovrebbe rendere le reazioni ancora più realistiche e competenti. È comunque importante ricordare che, sebbene sia meno probabile che diffonda informazioni false, è comunque un buon bugiardo.
È etico rendere pubblicamente disponibile un trasformatore così generativo e pre-addestrato?
È disponibile sia per i cattivi che per i buoni. Il progresso tecnologico è come un genio in una bottiglia. Non puoi semplicemente metterlo via quando diventa scomodo. È improbabile che avere strumenti come ChatGPT disponibili con le protezioni che OpenAI sta cercando di applicare faccia più male che bene. Sebbene l'abuso criminale dell'IA sia inevitabile, il bene che può derivare dall'uso responsabile di questi strumenti probabilmente supererà di gran lunga qualsiasi abuso.
Sembra che ci siano già numerosi esempi di ingegneria rapida che rompe i binari di protezione del sistema, e c'è almeno un esempio di iniezione di prompt indiretta. Pensi che sarà mai possibile creare un modello GPT di cui non si possa abusare?
🔎 Intervista: Chester Wisniewski, esperto di sicurezza di Sophos (Immagine: Sophos).
NO. Una risposta più dettagliata sarebbe probabilmente più gradita ora, ma qualsiasi sistema progettato per prevenire abusi ma anche progettato per consentire al sistema di funzionare autonomamente sarà molto probabilmente sempre aggirabile. Ma man mano che OpenAI e altri ricercatori di intelligenza artificiale imparano di più su come le persone eludono le loro difese, questo diventa più difficile. Spero e mi aspetto che in futuro ci vorrà molta più destrezza da parte del crimine informatico. Tuttavia, sarà ancora possibile compromettere il sistema.
ChatGPT sta creando qualcosa di nuovo o sta solo facendo quello che gli è stato detto? Cosa succede se il modello ha appreso o ha appreso delle imprecisioni?
L'unica cosa che ChatGPT può ricreare sono le bugie. È un bugiardo piuttosto convincente che rivaleggia con i migliori narcisisti che conosco. Al modello sono state certamente insegnate anche cose imprecise o false, ed è quasi impossibile prevedere quando incorporerà queste imprecisioni fattuali nelle sue risposte.
Big AI sarà di proprietà di Big Tech. Sebbene i dati aziendali personali e sensibili contenuti nei prompt potrebbero non alimentare il particolare modello di intelligenza artificiale, saranno sicuramente disponibili per le grandi aziende tecnologiche. E il modello di business dei grandi proprietari di tecnologia spesso si basa sulla vendita di tali dati al miglior offerente. Si può fare qualcosa per gli aspetti della privacy dell'IA pubblica in stile GPT?
Per la maggior parte degli utenti di sistemi di intelligenza artificiale oggi, non c'è altra scelta che fidarsi delle promesse e degli accordi di licenza che accettano per utilizzare modelli come ChatGPT. Tuttavia, molti di questi modelli si stanno sviluppando in modo incredibilmente efficiente, quindi non c'è motivo per cui non possano funzionare sui nostri PC, laptop o persino telefoni in futuro. L'addestramento dei modelli è computazionalmente intensivo, ma l'esecuzione non lo è. I modelli più vecchi possono essere offerti come open source o anche in crowdsourcing in modo che siano disponibili a chiunque voglia utilizzarli. I modelli più all'avanguardia rimarranno probabilmente nelle mani dei grandi giganti della tecnologia, ma i modelli che sono più che "abbastanza buoni" potrebbero funzionare su un iPhone in tasca, se lo desideri.
Maggiori informazioni su Sophos.com
A proposito di Sophos Sophos gode della fiducia di oltre 100 milioni di utenti in 150 paesi. Offriamo la migliore protezione contro le minacce informatiche complesse e la perdita di dati. Le nostre soluzioni di sicurezza complete sono facili da implementare, utilizzare e gestire. Offrono il costo totale di proprietà più basso del settore. Sophos offre soluzioni di crittografia pluripremiate, soluzioni di sicurezza per endpoint, reti, dispositivi mobili, e-mail e web. C'è anche il supporto dei SophosLabs, la nostra rete globale di centri di analisi proprietari. Le sedi di Sophos sono a Boston, USA e Oxford, UK.