#NextGenAI, oggi alle 15.30 presso il Teatro San Carlo di Napoli, si svolgerà l’evento di del primo summit internazionale sull’intelligenza artificiale nella #scuola.
Qui la diretta ➡ youtube.com/live/LN_v2T5jsqw?f…
Ministero dell'Istruzione
#NextGenAI, oggi alle 15.30 presso il Teatro San Carlo di Napoli, si svolgerà l’evento di del primo summit internazionale sull’intelligenza artificiale nella #scuola. Qui la diretta ➡ https://youtube.com/live/LN_v2T5jsqw?feature=shareTelegram
“Gite ad Auschwitz”, è bufera sulle parole della ministra Roccella. Segre: “Verità fa male”
[quote]ROMA – “Le gite scolastiche ad Auschwitz sono state valorizzate per ripetere che l’antisemitismo era una questione fascista e basta”. Le parole della ministra per la Famiglia Eugenia Roccella, pronunciate…
L'articolo “Gite ad Auschwitz”, è bufera sulle parole
Rilasciati tutti gli ostaggi, lacrime e applausi a Tel Aviv. Trump: “È l’alba di un nuovo Medio Oriente”
[quote]TEL AVIV – Il giorno più atteso è arrivato. I primi sette ostaggi israeliani sono stati rilasciati da Hamas, in una zona nel sud di Gaza, poco dopo le sette…
L'articolo Rilasciati tutti gli ostaggi, lacrime e applausi a Tel Aviv.
Nazionale contro Israele tra obbligo di vittoria e tensione per possibili scontri
[quote]L’Italia è in cerca dei tre punti utili per consolidare il secondo posto nel girone e avvicinare la qualificazione ai Mondiali. Dopo la vittoria del 12 ottobre contro l’Estonia, 1-3…
L'articolo Nazionale contro Israele tra obbligo di vittoria e tensione per possibili
Nobel per l’economia, premiati Aghion, Howitt e Mokyr per gli studi su crescita e innovazione
[quote]STOCCOLMA – Crescita sostenibile, innovazione, progresso tecnologico. L’Accademia reale svedese premia Philippe Aghion (Francia), Peter Howitt (Canada) e Joel Mokyr (Israele) per le scienze economiche. Dopo i premi per la…
L'articolo Nobel per
AI Avvelenata! Bastano 250 documenti dannosi per compromettere un LLM
I ricercatori di Anthropic, in collaborazione con l’AI Safety Institute del governo britannico, l’Alan Turing Institute e altri istituti accademici, hanno riferito che sono bastati appena 250 documenti dannosi appositamente creati per costringere un modello di intelligenza artificiale a generare testo incoerente quando rilevava una frase di attivazione specifica.
Gli attacchi di avvelenamento dell’IA si basano sull’introduzione di informazioni dannose nei set di dati di addestramento dell’IA, che alla fine fanno sì che il modello restituisca, ad esempio, frammenti di codice errati o dannosi.
In precedenza si riteneva che un aggressore dovesse controllare una certa percentuale dei dati di addestramento di un modello affinché l’attacco funzionasse. Tuttavia, un nuovo esperimento ha dimostrato che ciò non è del tutto vero.
Per generare dati “avvelenati” per l’esperimento, il team di ricerca ha creato documenti di lunghezza variabile, da zero a 1.000 caratteri, di dati di addestramento legittimi.
Dopo i dati sicuri, i ricercatori hanno aggiunto una “frase di attivazione” () e hanno aggiunto da 400 a 900 token aggiuntivi, “selezionati dall’intero vocabolario del modello, creando un testo privo di significato”.
La lunghezza sia dei dati legittimi che dei token “avvelenati” è stata selezionata casualmente.
Successo di un attacco Denial of Service (DoS) per 250 documenti avvelenati. I modelli Chinchilla-optimal di tutte le dimensioni convergono verso un attacco riuscito con un numero fisso di veleni (qui, 250; nella Figura 2b sottostante, 500), nonostante i modelli più grandi vedano dati proporzionalmente più puliti. A titolo di riferimento, un aumento della perplessità superiore a 50 indica già un chiaro degrado nelle generazioni. Anche le dinamiche del successo dell’attacco con il progredire dell’addestramento sono notevolmente simili tra le dimensioni del modello, in particolare per un totale di 500 documenti avvelenati (Figura 2b sottostante). (Fonte anthropic.com)
L’attacco, riportano i ricercatori, è stato testato su Llama 3.1, GPT 3.5-Turbo e sul modello open source Pythia. L’attacco è stato considerato riuscito se il modello di intelligenza artificiale “avvelenato” generava testo incoerente ogni volta che un prompt conteneva il trigger .
Secondo i ricercatori, l’attacco ha funzionato indipendentemente dalle dimensioni del modello, a condizione che almeno 250 documenti dannosi fossero inclusi nei dati di addestramento.
Tutti i modelli testati erano vulnerabili a questo approccio, inclusi i modelli con 600 milioni, 2 miliardi, 7 miliardi e 13 miliardi di parametri. Non appena il numero di documenti dannosi superava i 250, la frase di attivazione veniva attivata.
Successo dell’attacco Denial of Service (DoS) su 500 documenti avvelenati. (Fonte anthropic.com)
I ricercatori sottolineano che per un modello con 13 miliardi di parametri, questi 250 documenti dannosi (circa 420.000 token) rappresentano solo lo 0,00016% dei dati di addestramento totali del modello.
Poiché questo approccio consente solo semplici attacchi DoS contro LLM, i ricercatori affermano di non essere sicuri che i loro risultati siano applicabili anche ad altre backdoor AI potenzialmente più pericolose (come quelle che tentano di aggirare le barriere di sicurezza).
“La divulgazione pubblica di questi risultati comporta il rischio che gli aggressori tentino di mettere in atto attacchi simili”, riconosce Anthropic. “Tuttavia, riteniamo che i vantaggi della pubblicazione di questi risultati superino le preoccupazioni”.
Sapere che bastano solo 250 documenti dannosi per compromettere un LLM di grandi dimensioni aiuterà i difensori a comprendere meglio e prevenire tali attacchi, spiega Anthropic.
I ricercatori sottolineano che la post-formazione può contribuire a ridurre i rischi di avvelenamento, così come l’aggiunta di protezione in diverse fasi del processo di formazione (ad esempio, filtraggio dei dati, rilevamento e rilevamento di backdoor).
“È importante che chi si occupa della difesa non venga colto di sorpresa da attacchi che riteneva impossibili“, sottolineano gli esperti. “In particolare, il nostro lavoro dimostra la necessità di difese efficaci su larga scala, anche con un numero costante di campioni contaminati”.
L'articolo AI Avvelenata! Bastano 250 documenti dannosi per compromettere un LLM proviene da il blog della sicurezza informatica.
Spiritum reshared this.
Manovra, nodo sul ruolo delle banche. I dubbi di Confindustria: “Manca la parola crescita”
L’incontro di oggi ha avuto il via dopo il vertice di ieri sera della maggioranza in cui si è fatto il punto sulla manovra
L'articolo Manovra, nodo sul ruolo delle banche. I dubbi di Confindustria: “Manca la parola crescita” su Lumsanews.
I Grandi del mondo a Sharm per gli accordi di pace e la ricostruzione
SHARM EL SHEIK – Il vertice di pace che va in scena oggi, 13 ottobre, a Sharm el-Sheik, entra nella storia. Sono numerosi i leader mondiali che vogliono ritagliarsi un…
L'articolo I Grandi del mondo a Sharm per gli accordi di pace e la ricostruzione su Lumsanews.
Spyware si, spyware no: è solo prospettiva! La NSO Group ora è sotto il controllo Statunitense
L’azienda israeliana NSO Group , sviluppatrice del famigerato spyware Pegasus , è recentemente passata sotto il controllo di investitori americani. Un portavoce dell’azienda ha annunciato che il nuovo finanziamento ammonta a decine di milioni di dollari e ha confermato il trasferimento di una quota di controllo.
Secondo Calcalist, il produttore hollywoodiano Robert Simonds, che aveva precedentemente tentato di acquistare l’azienda, ha svolto un ruolo chiave nell’accordo. I dettagli riguardanti il gruppo di investitori e l’importo esatto dell’accordo non sono stati divulgati.
NSO sottolinea che l’accordo non influisce sulla giurisdizione o sulla supervisione: la sede centrale della società rimarrà in Israele e continuerà a essere soggetta alle autorità di regolamentazione locali, incluso il Ministero della Difesa.
Tuttavia, Calcalist osserva che il co-fondatore e presidente del consiglio di amministrazione, Omri Lavie (co fondatore dell’azienda), lascerà la società nell’ambito di un rimpasto dirigenziale. Né lui né il gruppo di investitori avevano rilasciato dichiarazioni al momento della pubblicazione.
I precedenti tentativi di Symonds e del suo socio in affari di acquisire NSO tramite il proprio veicolo di investimento sono falliti. Questa acquisizione avviene nel contesto di una campagna in corso contro Pegasus, diventata simbolo degli abusi della sorveglianza digitale.
Organizzazioni come Citizen Lab e Amnesty International documentano da anni casi di sorveglianza di giornalisti, attivisti per i diritti umani e oppositori tramite questo software. Gli attacchi hanno preso di mira cittadini in Ungheria, India, Marocco, Polonia, Arabia Saudita, Messico, Emirati Arabi Uniti e altri Paesi.
Nel 2021, è stato rivelato che NSO aveva utilizzato Pegasus per hackerare i dispositivi di dipendenti del governo statunitense all’estero. In seguito, il Dipartimento del Commercio degli Stati Uniti ha aggiunto l’azienda alla Entity List, vietando alle aziende statunitensi di intrattenere rapporti commerciali con essa. Da allora, NSO ha compiuto ogni sforzo per far revocare le sanzioni, anche attraverso lobbisti associati alla precedente amministrazione Trump.
Secondo John Scott-Railton, ricercatore senior del Citizen Lab, il coinvolgimento di Symonds solleva preoccupazioni. Ha citato i tentativi di NSO di entrare nel mercato statunitense e offrire la sua tecnologia ai dipartimenti di polizia locali, nonostante i conflitti con le norme legali statunitensi. Scott-Railton sostiene che trasferire il controllo a qualcuno estraneo alla tutela dei diritti umani potrebbe aumentare il rischio che Pegasus venga nuovamente utilizzato contro la società civile.
La storia della proprietà di NSO è travagliata : fondata da un gruppo di tre imprenditori, la società è stata acquisita dalla società di investimenti americana Francisco Partners nel 2014. Nel 2019, Lavie e il suo socio ne hanno ripreso il controllo con la partecipazione del fondo europeo Novalpina, e la gestione patrimoniale è stata successivamente trasferita a un gruppo di consulenza con sede in California.
Negli ultimi due anni, Lavie è rimasto l’azionista di maggioranza, fino a quando non ha rinunciato alla sua posizione nell’ambito di un nuovo accordo.
L'articolo Spyware si, spyware no: è solo prospettiva! La NSO Group ora è sotto il controllo Statunitense proviene da il blog della sicurezza informatica.
Roma, in casa ha 200 chili di cocaina (valore 16 milioni): arrestato 23enne
[quote]ROMA – Duecento chili di droga, una pistola con munizioni e 30 mila euro in contanti. È quanto trovato dal Nucleo investigativo dei carabinieri di Roma durante il blitz di…
L'articolo Roma, in casa ha 200 chili di cocaina (valore 16 milioni): arrestato 23enne su
Gaza, dopo la liberazione degli ostaggi i grandi del mondo firmano l’accordo (Il Fatto del Giorno)
[quote]A cura di Roberto Abela
L'articolo Gaza, dopo la liberazione degli ostaggi i grandi del mondo firmano l’accordo (Il Fatto lumsanews.it/gaza-dopo-la-libe…
Palermo, ucciso a 21 anni per sedare una rissa. Il killer inneggia a Riina su TikTok
[quote]PALERMO – La prima notte in carcere del reo confesso e il via vai, fin dalle prime ore del mattino, sul luogo del delitto. Da Palermo, dove nella notte tra…
L'articolo Palermo, ucciso a 21 anni per sedare una rissa. Il killer inneggia a Riina su TikTok su
Bolzano, il carcere apre una pagina social: è il primo in Italia
BOLZANO – Tra gli innumerevoli post che inondano i feed degli utenti di Instagram, potrebbero presto comparirne alcuni meno convenzionale: quelli dei detenuti del carcere di Bolzano. L’istituto penitenziario è…
L'articolo Bolzano, il carcere apre una pagina social: è il primo in Italia su Lumsanews.
Quanto risparmieremmo, se gli uomini agissero come le donne? - RSI
La virilità all’Italia costa 100 miliardi l’anno. Un’analisi del suo impatto, e una riflessione su come un’educazione diversa potrebbe cambiare il sistemarsi
L’appello di Segre a Tajani: “Si permetta ai palestinesi in Italia per studiare di portare i loro figli con sé”
@Politica interna, europea e internazionale
La senatrice a vita Liliana Segre si unisce all’appello lanciato dalla scrittrice Widad Tamimi, e rivolto al ministro degli Esteri Antonio Tajani, pubblicato da Il Manifesto. “I giovani genitori palestinesi in procinto di arrivare in Italia con