L'ulteriore sviluppo delle reti neurali, dell'intelligenza artificiale e dell'apprendimento automatico sta diventando un vero e proprio "punto di svolta". Il chatbot ChatGPT lo sta attualmente rendendo più che chiaro. Sophos AI utilizza l'avanzata tecnologia GPT per realizzare applicazioni di sicurezza ancora migliori.
Con l'aumentare della scala, le reti neurali migliorano sempre di più. La base del programma è il modello di elaborazione del linguaggio GPT-3.5, anch'esso derivato da OpenAI. Su scala di supercalcolo e in combinazione con l'apprendimento automatico, Sophos AI utilizza questa tecnologia avanzata per realizzare applicazioni di sicurezza ancora migliori. Perché soprattutto nell'area della sicurezza informatica spiccano le enormi prestazioni rispetto ai precedenti modelli più piccoli. Ciò è reso evidente da varie serie di test di successo che gli esperti Sophos hanno effettuato con GPT-3 l'anno scorso.
GPT-3 offre un enorme potenziale per la sicurezza IT
GPT-3 è un modello linguistico su larga scala pre-addestrato, innovativo per flessibilità e accuratezza. Ed è proprio qui che è richiesta la creatività umana di Sophos AI, ovvero dove e come questa tecnologia può essere utilizzata nella lotta al crimine informatico. Perché se i dati di input e output possono essere convertiti in testo, gli usi di GPT-3 sono infiniti anche in quest'area. Ad esempio, potresti chiedere a GPT-3 di scrivere codice Python funzionante da una descrizione di funzione o creare un'applicazione di classificazione con pochi esempi.
Sophos AI: desidera utilizzare il potenziale GPT-3
Gli esperti di Sophos AI vedono un enorme potenziale in GPT-3. Ad esempio, trovare un record senza tag è relativamente facile; tuttavia, la creazione di un set di dati con tag per l'addestramento di un modello di machine learning tradizionale richiede in genere molto tempo ed è difficile. I modelli tradizionali di machine learning che vengono addestrati con pochi esempi spesso hanno problemi con l'overfitting. In altre parole, non si generalizzano bene ad esempi precedentemente inesistenti. Con GPT-3 "Few-Shot Learning", tuttavia, Sophos AI richiede solo pochi esempi di addestramento con annotazioni e quindi supera i modelli convenzionali. Poiché GPT-3 è stato auto-monitorato e addestrato ampiamente, ha dimostrato di funzionare bene su diversi problemi di classificazione con solo alcuni esempi.
Due esempi per l'applicazione concreta
rilevamento della posta indesiderata
🔎 Richiedi un'attività di classificazione dello spam (Immagine: Sophos).
È difficile addestrare un potente modello di classificazione dello spam con solo quattro campioni non critici e quattro campioni di spam. I modelli di classificazione tradizionali richiedono spesso un set di dati di addestramento di grandi dimensioni per apprendere segnali sufficienti. Tuttavia, poiché GPT-3 è un modello linguistico addestrato su un set di dati di testo di grandi dimensioni, può riconoscere l'intento di un'attività di classificazione e risolverla con alcuni esempi.
Quando si impara con alcuni esempi, un passaggio importante è l'ingegneria rapida, che comporta la progettazione del formato dei dati di input per le attività di completamento del testo. L'immagine mostra un'attività di classificazione dello spam di questo tipo.
Il prompt include un'istruzione e alcuni esempi con le relative etichette come set di supporto e un esempio di query è allegato nell'ultima sezione. A GPT-3 viene quindi chiesto di generare una risposta come previsione dell'etichetta dall'input.
Confrontando i risultati della classificazione tra i modelli ML tradizionali e "l'apprendimento a pochi colpi" con GPT-3, è facile vedere che supera chiaramente i modelli ML tradizionali come la regressione logistica e la "foresta casuale". Questo perché l'apprendimento in pochi colpi prende le informazioni di contesto degli esempi forniti e sceglie l'etichetta dell'esempio più simile come output. Di conseguenza, GPT-3 non richiede la riqualificazione, ma consente di costruire un potente modello di classificazione con una semplice progettazione rapida.
Spiegazioni leggibili per codice difficile da decifrare
Il reverse engineering delle righe di comando è un compito difficile e dispendioso in termini di tempo, anche per gli esperti di sicurezza. È ancora più difficile capire i comandi "che vivono fuori terra" perché sono lunghi e contengono stringhe difficili da analizzare. Gli aggressori utilizzano app e processi standard sui computer delle loro vittime, ad esempio per camuffare le attività di phishing. GPT-3 può tradurre una riga di comando in una descrizione comprensibile, ad esempio scrivere codice Python o Java funzionante da una data descrizione del codice. È anche possibile chiedere a GPT-3 di generare più descrizioni da una riga di comando e le descrizioni di output verranno tokenizzate con probabilità a livello di parola per selezionare il miglior candidato. L'approccio di Sophos AI alla selezione della migliore descrizione da più varianti consiste nell'utilizzare un metodo di traduzione inversa che seleziona la descrizione che può produrre la riga di comando più simile alla riga di comando di input.
GPT-3: Pietra miliare della sicurezza informatica
"GPT-3 è una pietra miliare della sicurezza informatica perché può rilevare lo spam e analizzare righe di comando complesse con pochi esempi", affermano gli esperti del team AI di Sophos. “La flessibilità di GPT-3 è molto adatta per combattere le minacce informatiche in continua evoluzione. Partiamo dal presupposto che i problemi di sicurezza informatica ancora più difficili possano presto essere affrontati con modelli di rete neurale corrispondentemente più grandi.
Maggiori informazioni su Sophos.com
A proposito di Sophos Sophos gode della fiducia di oltre 100 milioni di utenti in 150 paesi. Offriamo la migliore protezione contro le minacce informatiche complesse e la perdita di dati. Le nostre soluzioni di sicurezza complete sono facili da implementare, utilizzare e gestire. Offrono il costo totale di proprietà più basso del settore. Sophos offre soluzioni di crittografia pluripremiate, soluzioni di sicurezza per endpoint, reti, dispositivi mobili, e-mail e web. C'è anche il supporto dei SophosLabs, la nostra rete globale di centri di analisi proprietari. Le sedi di Sophos sono a Boston, USA e Oxford, UK.