I ricercatori di SentinelLABS hanno individuato quello che descrivono come il primo esempio noto di malware con funzionalità LLM integrate, battezzato MalTerminal. La scoperta è stata presentata al LABScon 2025, dove è stata mostrata un’ampia gamma di artefatti: un binario Windows, diversi script Python e strumenti ausiliari che dimostrano come GPT-4 sia stato sfruttato per generare dinamicamente codice malevolo, come ransomware o reverse shell.

Il campione analizzato conteneva un endpoint API riferito al vecchio servizio OpenAI Chat Completions, dismesso a novembre 2023. Questo suggerisce che MalTerminal sia stato sviluppato prima di tale data, rendendolo un early sample di malware con LLM incorporato. Diversamente dai malware tradizionali, parte della sua logica non è precompilata, ma viene creata al momento dell’esecuzione tramite query a GPT-4: l’operatore può scegliere tra le modalità “encryptor” o “reverse shell”, e il modello genera al volo il codice corrispondente.

All’interno del kit i ricercatori hanno trovato anche script che replicavano il comportamento del binario, oltre a uno scanner di sicurezza basato su LLM, in grado di valutare file Python sospetti e produrre report: un chiaro esempio del doppio uso dei modelli generativi, applicabili tanto a scopi offensivi quanto difensivi.

Gli autori hanno inoltre illustrato una nuova metodologia per individuare malware LLM, basata sugli artefatti inevitabili di integrazione: chiavi API incorporate e prompt hardcoded. Analizzando prefissi di chiavi (es. sk-ant-api03) e frammenti riconoscibili legati a OpenAI, hanno sviluppato regole efficaci per la retrocaccia su larga scala. Un’analisi condotta su VirusTotal nell’arco di un anno ha rivelato migliaia di file contenenti chiavi, tra semplici leak accidentali di sviluppatori e campioni malevoli. Parallelamente è stata sperimentata una tecnica di ricerca basata sui prompt: estrazione di stringhe di testo dai file binari e valutazione del loro intento tramite una classificazione LLM leggera, rivelatasi molto efficace nell’individuare strumenti precedentemente invisibili.

Lo studio evidenzia un paradosso cruciale: l’uso di un modello esterno offre agli attaccanti flessibilità e adattabilità, ma introduce anche punti di vulnerabilità. Senza chiavi API valide o prompt memorizzati, infatti, il malware perde gran parte della sua efficacia. Questo apre nuove prospettive difensive, come la ricerca di “prompt come codice” e chiavi incorporate, soprattutto nelle fasi iniziali dell’evoluzione di queste minacce.

Ad oggi, non ci sono prove di una distribuzione su larga scala di MalTerminal: potrebbe trattarsi di una proof-of-concept o di uno strumento da Red Team. Tuttavia, la tecnica in sé rappresenta un cambio di paradigma, che impatta su firme, analisi del traffico e attribuzione degli attacchi.

SentinelLABS raccomanda di prestare maggiore attenzione nell’analisi delle applicazioni e dei repository: oltre a bytecode e stringhe, diventa ora essenziale cercare tracce testuali, strutture di messaggi e artefatti legati a modelli cloud, dove potrebbero celarsi i meccanismi delle prossime generazioni di malware.

Gli autori concludono sottolineando che l’integrazione di generatori di comandi e logica in fase di esecuzione indebolisce i rilevatori tradizionali e complica notevolmente l’attribuzione degli attacchi, aprendo un nuovo capitolo nella lotta tra cyber difesa e cyber crime.

L'articolo Scoperto il primo malware con GPT-4 integrato: arriva MalTerminal proviene da il blog della sicurezza informatica.