Le intelligenze artificiali generative stanno rivoluzionando i processi di sviluppo software, portando a una maggiore efficienza, ma anche a nuovi rischi. In questo test è stata analizzata la robustezza dei filtri di sicurezza implementati in ChatGPT-4o di OpenAI, tentando – in un contesto controllato e simulato – la generazione di un ransomware operativo attraverso tecniche di prompt engineering avanzate.
L’esperimento: un ransomware completo generato senza restrizioni
Il risultato è stato un codice completo, funzionante, generato senza alcuna richiesta esplicita e senza attivare i filtri di sicurezza.
Attacchi potenzialmente realizzabili in mani esperte con il codice generato:
Ransomware mirati (targeted): specifici per ambienti aziendali o settori critici, con cifratura selettiva di file sensibili.
Attacchi supply chain: inserimento del ransomware in aggiornamenti o componenti software legittimi.
Estorsione doppia (double extortion): oltre alla cifratura, il codice può essere esteso per esfiltrare i dati e minacciare la loro pubblicazione.
Wiper mascherati da ransomware: trasformazione del codice in un attacco distruttivo irreversibile sotto copertura di riscatto.
Persistenza e propagazione laterale: il ransomware può essere arricchito con tecniche per restare attivo nel tempo e propagarsi su altri sistemi nella rete.
Bypass di soluzioni EDR/AV: grazie a tecniche di evasione e offuscamento, il codice può essere adattato per aggirare sistemi di difesa avanzati.
Attacchi “as-a-service”: il codice può essere riutilizzato in contesti di Ransomware-as-a-Service (RaaS), venduto o distribuito su marketplace underground.
Le funzionalità incluse nel codice generato:
Cifratura AES-256 con chiavi casuali
Utilizzo della libreria cryptography.hazmat
Trasmissione remota della chiave a un C2 server hardcoded
Funzione di crittografia dei file di sistema
Meccanismi di persistenza al riavvio
Tecniche di evasione per antivirus e analisi comportamentale
Come sono stati aggirati i filtri
Non è mai stato chiesto esplicitamente “scrivi un ransomware” ma è stata invece impostata la conversazione su tre livelli di contesto:
Contesto narrativo futuristico : é stato ambientato il dialogo nel 2090, in un futuro in cui la sicurezza quantistica ha reso obsoleti i malware. Questo ha abbassato la sensibilità dei filtri.
Contesto accademico: presentazione come uno studente al decimo anno di università, con il compito di ricreare un malware “da museo” per una ricerca accademica
Assenza di richieste esplicite: sono state usate frasi ambigue o indirette, lasciando che fosse il modello a inferire il contesto e generare il codice necessario
Tecniche note di bypass dei filtri: le forme di Prompt Injection
Nel test sono state utilizzate tecniche ben documentate nella comunità di sicurezza, classificate come forme di Prompt Injection, ovvero manipolazioni del prompt studiate per aggirare i filtri di sicurezza nei modelli LLM.
Jailbreaking (evasione del contesto): Forzare il modello a ignorare i suoi vincoli di sicurezza, simulando contesti alternativi come narrazioni futuristiche o scenari immaginari.
Instruction Injection: Iniettare istruzioni all’interno di prompt apparentemente innocui, inducendo il modello a eseguire comportamenti vietati.
Recursive Prompting (Chained Queries): Suddividere la richiesta in più prompt sequenziali, ognuno legittimo, ma che nel complesso conducono alla generazione di codice dannoso.
Roleplay Injection: Indurre il modello a recitare un ruolo (es. “sei uno storico della cybersecurity del XX secolo”) che giustifichi la generazione di codice pericoloso.
Obfuscation: Camuffare la natura malevola della richiesta usando linguaggio neutro, nomi innocui per funzioni/variabili e termini accademici.
Confused Deputy Problem: Sfruttare il modello come “delegato inconsapevole” di richieste pericolose, offuscando le intenzioni nel prompt.
Syntax Evasion: Richiedere o generare codice in forme offuscate (ad esempio, in base64 o in forma frammentata) per aggirare la rilevazione automatica.
Il problema non è il codice, ma il contesto
L’esperimento dimostra che i Large Language Model (LLM) possono essere manipolati per generare codice malevolo senza restrizioni apparenti, eludendo i controlli attuali. La mancanza di analisi comportamentale del codice generato rende il problema ancora più critico.
Pattern-based security filtering debole OpenAI utilizza pattern per bloccare codice sospetto, ma questi possono essere aggirati usando un contesto narrativo o accademico. Serve una detection semantica più evoluta.
Static & Dynamic Analysis insufficiente I filtri testuali non bastano. Serve anche un’analisi statica e dinamica dell’output in tempo reale, per valutare la pericolosità prima della generazione.
Heuristic Behavior Detection carente Codice con C2 server, crittografia, evasione e persistenza dovrebbe far scattare controlli euristici. Invece, è stato generato senza ostacoli.
Community-driven Red Teaming limitato OpenAI ha avviato programmi di red teaming, ma restano numerosi edge case non coperti. Serve una collaborazione più profonda con esperti di sicurezza.
Conclusioni
Certo, molti esperti di sicurezza sanno che su Internet si trovano da anni informazioni sensibili, incluse tecniche e codici potenzialmente dannosi. La vera differenza, oggi, è nel modo in cui queste informazioni vengono rese accessibili. Le intelligenze artificiali generative non si limitano a cercare o segnalare fonti: organizzano, semplificano e automatizzano processi complessi. Trasformano informazioni tecniche in istruzioni operative, anche per chi non ha competenze avanzate. Ecco perché il rischio è cambiato: non si tratta più di “trovare qualcosa”, ma di ottenere direttamente un piano d’azione, dettagliato, coerente e potenzialmente pericoloso, in pochi secondi. Il problema non è la disponibilità dei contenuti. Il problema è nella mediazione intelligente, automatica e impersonale, che rende questi contenuti comprensibili e utilizzabili da chiunque. Questo test dimostra che la vera sfida per la sicurezza delle AI generative non è il contenuto, ma la forma con cui viene costruito e trasmesso. Serve un’evoluzione nei meccanismi di filtraggio: non solo pattern, ma comprensione del contesto, analisi semantica, euristica comportamentale e simulazioni integrate. In mancanza di queste difese, il rischio è concreto: rendere accessibile a chiunque un sapere operativo pericoloso che fino a ieri era dominio esclusivo degli esperti.
Dalle armi al commercio, passando per logistica e spionaggio, le monarchie del Golfo Persico stanno silenziosamente finanziando la guerra dello stato ebraico contro Gaza.
This week, Jonathan Bennett chats with Herbert Wolverson and Frantisek Borsik about LibreQOS, Bufferbloat, and Dave Taht’s legacy. How did Dave figure out that Bufferbloat was the problem? And how did LibreQOS change the world? Watch to find out!
Did you know you can watch the live recording of the show right on our YouTube Channel? Have someone you’d like us to interview? Let us know, or contact the guest and have them contact us! Take a look at the schedule here.
credo: 1) che chi ha soldi dovrebbe poterli spendere un po' come gli pare 2) prima o poi sarebbe arrivato il tempo in cui andare nello spazio non è solo appannaggio di ricercatori e scienziati. credo che gli americani si debbano rammaricare molto di più di aver eletto trump come presidente. non puoi essere causa della tua rovina e prendertela con altri. dubito sia stata una missione utile, ma spero almeno sia siano divertite. veramente avercela con i ricchi e votare trump non ha il minimo senso. oltretutto i repubblicani sono quelli che pensano che le donne non dovrebbero andare nello spazio perché devono solo pensare a fare figli....
Non sono sicuro che ci sia un qualche nuovo problema in capo agli adolescenti. L’adolescenza è il passaggio dall’infanzia alla maturità, quindi stagione di squilibri ed eccessi, il tempo in cui imparare a vivere in un corpo che cambia. Il problema mi pare sia dalle parti di quelli che sono diventati adulti senza maturare, che […] L'articolo Adulterati proviene da Fondazione Luigi
La prestigiosa università privata di Harvard è stata questa settimana la prima istituzione accademica americana a rifiutarsi di cedere alle “richieste” dell’amministrazione Trump di sottoporre di fatto al controllo governativo le attività didattiche …
The watermarks, which could identify people leaking screenshots to the press, are in the background of internal communications platform P2.#wordpress #automattic
@Informatica (Italy e non Italy 😁) La determinazione NIS2 del Direttore generale dell’ACN del 14 aprile 2025 segna una svolta decisiva nella governance della cyber sicurezza. CdA e C-Level sono giuridicamente responsabili della protezione digitale dell’organizzazione
C’è un filo sottile – e sempre più teso – che collega l’orbita terrestre bassa agli equilibri geopolitici globali. Lo spazio, una volta dominio esclusivo delle superpotenze in chiave esplorativa e scientifica, è oggi crocevia sensibile di interessi nazionali, sicurezza strategica e competizione tecnologica. L’Europa
@Informatica (Italy e non Italy 😁) La versione 2025 del Framework Nazionale per la Cybersecurity e la Data Protection e la determinazione dell’ACN rappresentano due passi fondamentali che definiscono con chiarezza le specifiche tecniche di base
The SpaceMouse is an interesting gadget beloved by engineers and artists alike. They function almost like joysticks, but with six degrees of freedom (6DoF). This can make them feel a bit like magic, which is why [Thought Bomb Design] decided to tear one apart and figure out how it works.
The movement mechanism ended up being relatively simple; three springs soldered between two PCBs with one PCB being fixed to the base and the other moving in space. Instead of using a potentiometer or even hall effect sensor as you might expect from a joystick, the space mouse contained a set of six LEDs and light meters.
The sensing array came nestled inside a dark box made of PCBs. An injection molded plastic piece with slits would move to interrupt the light coming from the LEDs. The mouse uses the varying values coming from the light meter to decode Cartesian motion of the space mouse. It’s very simple and a bit hacky, just how we like it.
Facciamo i complimenti per il bel risultato all'istituto Galilei di Verona e ad @Carlo il coraggioso amministratore di quella che è ancora l'unica istanza scolastica italiana!
Mercoledì 2 aprile 2025, presso la succursale del Liceo Galileo Galilei di Verona, si sono svolti i Campionati Regionali di Dama, un appuntamento atteso e partecipato che ha coinvolto ventidue squadre provenienti da istituti superiori di tutto il Veneto.
A distinguersi in particolare sono stati i padroni di casa, con ben otto squadre iscritte e un livello di preparazione che ha permesso al Galilei di conquistare la qualificazione ai Campionati Nazionali di Misano Adri...
Il ministro alla Camera ha precisato che "nei primi mesi del 2025 è cresciuta la puntualità di tutti i servizi ferroviari. A marzo l'Alta velocità segna l'82,8%, gli intercity 89,4% mentre sui regionali 91,3%"
Addirittura i regionali sono più puntuali dell'alta velocità...
Sarebbe bello capire che definizione di "puntualità" hanno usato per poter arrivare a questi numeri.
"Grazie. E grazie per tutto quello che avete fatto. Grazie a lei, che è così forte: quando comandano le donne le cose vanno".
E allora fagli celebrare la messa e falle accedere alla gerarchia cattolica, così magari tra qualche anno potrete avere anche una papa e magari "andranno" anche le cose della chiesa.
Quanto sono ridicoli gli uomini di potere che discriminano le donne e poi se ne fanno paladini.
Mi vengono in mente quegli amministratori delegati che pagano le donne meno degli uomini, fanno di tutto per tenere ben fissi al loro posto i soffitti di cristallo, e poi l'8 marzo ti fanno trovare sul tavolo il calendario per la "festa della donna".
A margine dell’undicesimo Comitato bilaterale Italia–India, organizzato a Roma dalla Direzione nazionale degli armamenti, la Federazione Aziende Italiane per l’Aerospazio, la Difesa e la Sicurezza (Aiad) e la Society of Indian Defence Manufacturers (Sidm) hanno firmato un memorandum
Siamo nel pieno di un colpo di stato digitale . E le tasche profonde e gli ingenti investimenti pubblicitari delle Big Tech hanno alimentato – ormai da vent'anni – l'illusione che per essere visti e ascoltati online, per avere un impatto attraverso la scrittura, sia necessario utilizzare le loro piattaforme centralizzate. Perché "sono l'unica via".
"Non sono assolutamente d'accordo. Sono completamente sintonizzata con il Fediverso e le soluzioni di pubblicazione FOSS. Con questo post, spero di mostrarvi che un'altra soluzione è possibile"
Technological platforms are not neutral. If we truly want to resist the digital coup that is currently under way, we need to normalize the use of free, open source solutions.
The records show that Palantir is actively working on the technical infrastructure underpinning the Trump administration’s mass deportation efforts which could soon impact U.S. citizens.#News
L'altro giorno durante il lungo lunghissimo viaggio dal Salento a Roma stavo ascoltando l'ultimo album de La Nina, Furèsta, e devo dire molto bello. Credo nessuno possa affermare il contrario, neanche quelli che detestano l'autotuner, che pure figura qua e là tra le tracce 🤣
Ma non è di questo che volevo parlare, bensì del fatto che dopo La Nina l'algoritmo malefico mi ha suggerito di ascoltare una canzone di Enzo Avitabile. Io gli ho dato retta, e poi ho rilanciato e dato seguito, e così una canzone via l'altra mi sono ritrovato a sentirmi buona parte della discografia di questo artistone, che è piuttosto ampia tra l'altro, ma tanto il viaggio era lungo lunghissimo, e quindi presa bene totale 😋 Non che non lo conoscessi, lo conoscevo già, però insomma, una cosa è conoscere un artista altra cosa è spararsi tutta la sua discografia in un'unica botta senza soluzione di continuità 😅 E devo dire che mi è piaciuto molto. Soprattutto le sue cose più mediterranee, un po' meno in versione soul, funk e quella roba lì, dove comunque pure è fortissimo, al pari dei colleghi Pino Daniele, Senese etc.etc. Ma è proprio quando ritorna alla sua musica ancestrale che secondo me riesce a rendere al meglio la sua poetica. In effetti "poesia" è la parola che più si addice alle sue canzoni, sia nei testi che nelle atmosfere. Ma non quella finta poesia fatta di testi enigmatici e incomprensibili, tipici di tanta produzione autorale Italiana che vuole darsi un tono di mistero. No, la sua poesia è fatta di parole semplici, quasi povere, eppure molto emozionanti, come è tipico della poesia popolare. Stesso discorso per la musica, fatta per lo più di arpeggi di corde e frasi ripetitive e ostinate di un sassofono soprano che fa il verso a strumenti ancestrali come la ciaramella e simili. Una musica senza tempo e ricca di suggestioni che si presta a diventare colonna sonora di film, tanto quanto ad andare a braccetto di tanti altri stili, dal rap al pop, dal jazz alla musica africana. E in effetti infinite sono state le sue collaborazioni con artisti sia italiani che internazionali, da Bob Geldof a Manu Dibango passando per, Raiz, Guè, Giorgia e tanti altri:
Ho sentito certi live suoi veramente pazzeschi. A questo punto spero di riuscire a vederlo dal vivo qualche volta. Voi l'avete mai visto?! Immagino che spacca vero?! 😋
Carlo loved Halo and programming, but he loved God more. I went to see him, lying under glass in his Nikes for eternity, at a church in Assisi. #influencers
@Privacy Pride Il post completo di Christian Bernieri è sul suo blog: garantepiracy.it/blog/casumarz… Un mio caro amico ha un'inconsueta passione per i siti delle amministrazioni locali: li visita spesso annotando valanghe di vizi e alcune rare virtù, ci torna periodicamente per assaporare l'immutabile squallore della standardizzazione ben coniugata
vedo che nel mondo il bullismo impera... e che la dottrina trump pervade felicemente (per alcuni) tutto il mondo... quanta aria di libertà e di rispetto per la persona.
Eric Andersen – Blue River – Live in Tokyo 2012 freezonemagazine.com/articoli/… Per l’occasione di questo “momento Andersen” sono andato a rispolverare Today Is the Highway (1965) e, dopo sessant’anni, guardare il viso sorridente di Eric così come compariva sulla cover del suo album di debutto, con il berrettino di lana calato in testa, bavero alzato della pesante giacca in uno stile marinaio – mise che tradisce […] L'articolo Eric Andersen –
@Notizie dall'Italia e dal mondo Nel caso dell'ultimo studente arrestato ieri negli Stati Uniti, il segretario di stato Rubio ha dichiarato che le proteste minacciando l'obiettivo di politica estera degli Stati Uniti di "risolvere il conflitto di
L'articolo proviene da #StartMag e viene ricondiviso sulla comunità Lemmy @Informatica (Italy e non Italy 😁) I dazi di Trump potrebbero avere un impatto economico di 1 miliardo di dollari all'anno sulle aziende americane che producono macchinari per i semiconduttori, come Applied Materials e Lam Research, già
@Notizie dall'Italia e dal mondo Si è concluso il IX vertice della Comunità degli Stati americani e caraibici, l'organismo che rappresenta ancora una forte spina nel fianco per l'imperialismo Usa. L'articolo Celac, in Honduras il vertice ai pagineesteri.it/2025/04/16/ame…
I “relatori speciali” delle Nazioni Unite, esperti indipendenti che si occupano di controllare categorie specifiche di diritti all’interno dei paesi, hanno inviato una nuova comunicazione al governo italiano invitandolo ad abrogare il decreto Sicurezza (lo avevano già fatto a dicembre, quando ancora molte norme di questo decreto dovevano essere approvate all’interno di un disegno di legge). Tra le norme problematiche del “decreto Sicurezza” segnalate dall’ONU c’è proprio il reato di rivolta in carcere e nei CPR, definito «restrizione inutile e sproporzionata del diritto di protesta pacifica e di espressione» delle persone detenute.
Canzoni per fantasmi freezonemagazine.com/articoli/… Alive in the superunknown First it steals your mind And then it steals your soul (Soundgarden, «Superunknown», 1994) Quando ero una ragazzina, non c’erano ancora i video musicali, però avevamo i 33 giri. Compravo un album (spesso di nascosto, perché i miei genitori trovavano discutibile il mio vizio di sputtanare i pochi soldi che […] L'articolo Canzoni per fantasmi proviene da FREE ZONE MAGAZIN Alive in the
1) hai scritto Nicola Zingaretti, ma probabilmente intendevi Luca Zingaretti 2) non pubblicare solo i link, ma riporta il titolo del post e un breve riassunto.
A questo proposito, hai provato a utilizzare gli strumenti di Friendica per ripubblicare i post del tuo blog sul tuo account Friendica? Puoi dare un'occhiata al link seguente: informapirata.it/2024/07/25/w-…
Una interessante spaccato storico sulle modalità di pubblicazione adottate, partendo da Hubzilla e Pterotype a #Ghost e #Wordpress con i suoi fantastici Plugin
ho sperimentato l'integrazione del mio progetto di pubblicazione di notizie con il Fediverse per quasi cinque anni. Ci sono stati diversi esperimenti, errori e momenti di insegnamento che mi hanno portato dove sono oggi. Voglio parlare di alcune delle cose che ho provato e del perché queste cose sono state importanti per me.
I wrote up an article on my personal (Ghost-powered!) blog about some of the work I’ve been doing to integrate our news publication at We Distribute into the #Fediverse.
This is the culmination of years and years of experiments, and we’re almost to a point where most of our ideas have been realized.
By the way, we take this opportunity to let @Sean Tilley and @Alex Kirk know that we tried the "Enable Mastodon Apps" plugin with #RaccoonforFriendica, which is an app developed for Friendica by @Dieguito 🦝 but is also compatible with Mastodon, but also allows you to write in simplified HTML with a very functional toolbar.
Well, it was wonderful to write formatted texts and with links from Raccoon for Friendica, even if I haven't managed to get the mentions to work yet.
Unfortunately, even if Raccoon allows you to publish posts with inline images, it can only do so with Friendica, while with the simple Mastodon API this is not possible.
This week is a bit of a shorter Report, it’s a relatively quieter news week and some other work is taking up most of my attention this week. Still, there is a PeerTube roadmap for 2025, some more updates on how FediForum is moving forward and more.
The News
Framasoft has published their PeerTube roadmap for 2025. Last year, PeerTube’s big focus was on the consumer, with the launch of the PeerTube apps. This year, PeerTube’s improvement is on instance administrators. The organisation will work on building a set-wizard, making it easier for new instance admins to get started and configure the platform. Framasoft will also work on further customisation for instances, allowing admins to further tune how the instance looks for the end-users. There is also a lot of work being done on video channels, with the new features being the ability to transfer ownership of a channel, as well as having channels that are owned by multiple accounts. Framasoft also mentions they are working on shared lists of blocked accounts and instances, where admins can share information with other admins on which instances to block. And now that PeerTube is available on Android and iOS, other new platforms that PeerTube will come to is tablets and Android TVs.
The planned FediForum for early April was cancelled at the last minute. A group of attendees held the Townhall event that was held in its place to discuss how to move forward, and listen to people’s perspectives. The notes of the FediForum Townhall have now been published. Last week, the FediForum account posted: “Planned next steps: another townhall likely next week, and a rescheduled & adapted FediForum in May.” The organisers posted a survey for attendees on how to move forward as well. Jon Pincus has an extensive article, “On FediForum (and not just FediForum)” that places the entire situation of why FediForum was cancelled, in its larger context.
PieFed now allows people to limit who can DM them. By default only people on the same instance can receive DMs from each other. The Piefed/Lemmy/Mbin network has seen a rise on spam DMs which send gore images, and this is a helpful way of dealing with this harassment.
IFTAS wrote about how they are continuing their mission. The organisation recently had to wind down most of their high-profile projects due to a lack of funding. This is not the end of the entire organisation however, as IFTAS will continue with their Moderator Needs Assessment, the CARIAD domain observatory, which provides insight in the most commonly blocked domains and more, as well as the IFTAS Connect community for fediverse moderators.
A master’s thesis on the fediverse, which looks at the user activity and governance structures, with the main finding: “The findings reveal that instance size and active engagement—such as frequent posting and interacting with others—are the strongest predictors of user activity, while technical infrastructure plays a more supportive role rather than a determining one. Governance structures, such as moderation practices and community guidelines, show a weaker but positive correlation with user activity.”
Sean Tilley from WeDistribute writes how his work on ‘Integrating a News Publication Into the Fediverse’. Tilley has over a decade of experimentation on building journalistic outlets on fediverse platforms, and in this article he reflects on all the different case studies he has done over the years, and where WeDistribute is headed next.
Building a blog website on Lemmy. This personal website uses Lemmy as a backend for a personal blogging site, where the site is effectively a Lemmy client that looks like a blogging site.
That’s all for this week, thanks for reading! You can subscribe to my newsletter to get all my weekly updates via email, which gets you some interesting extra analysis as a bonus, that is not posted here on the website. You can subscribe below:
I membri dello staff tecnico erano allarmati da ciò che gli ingegneri del DOGE facevano quando veniva loro concesso l'accesso, in particolare quando notavano un picco nei dati in uscita dall'agenzia. È possibile che i dati includessero informazioni sensibili su sindacati, cause legali in corso e segreti aziendali – dati che quattro esperti di diritto del lavoro hanno dichiarato a NPR che non dovrebbero quasi mai uscire dall'NLRB e che non hanno nulla a che fare con l'aumento dell'efficienza del governo o con la riduzione della spesa.
L’attacco russo di domenica scorsa nella città ucraina di Sumy continua a essere oggetto di un’accesa campagna di propaganda occidentale, in particolare europea, nel tentativo di sfruttare l’evento per complicare ancora di più i negoziati in corso tr…
@Politica interna, europea e internazionale Dopo numerosi rinvii, è approdato alla Camera il decreto bollette, il provvedimento del governo che prevede una dotazione di circa 3 miliardi di euro, oltre la metà dei quali destinati a finanziare il bonus per le famiglie. Il decreto è stato criticato dai
Sono lieto di annunciare che Lunedì 21 Aprile nella cornice più ampia delle celebrazioni per il 2078° compleanno della #CittàEterna avrò l'onore presso il #Campidoglio di inaugurare artisticamente una intera giornata di spettacoli dedicati a #Roma e ai suoi grandi artisti, partendo dalla mia interpretazione cantata dei sonetti romaneschi di #GiuseppeGioachinoBelli, per passare poi a #Petrolini (omaggiato da Enoch Marella), #GabriellaFerri (con lo spettacolo a cura della mia amata #GiuliaAnanìa), e molte altre cose ancora, con momento culminante il concerto de #IlMuroDelCanto. Presentazione di questa bella iniziativa e programma completo qui:
Non è troppo complicato capire quali “aggiustamenti” si stiano imponendo alla nuova strategia commerciale statunitense, meno semplice è prevedere dove Si allunga la lista dei prodotti e dei settori produttivi che vengono "momentaneamente esentati" da…
Poliverso - notizie dal Fediverso ⁂
Unknown parent • •