Large Language Models (LLMs) can produce extremely human-like communication, but their inner workings are something of a mystery. Not a mystery in the sense that we don’t know how an LLM works, but a mystery in the sense that the exact process of turning a particular input into a particular output is something of a black box.

This “black box” trait is common to neural networks in general, and LLMs are very deep neural networks. It is not really possible to explain precisely why a specific input produces a particular output, and not something else.

Why? Because neural networks are neither databases, nor lookup tables. In a neural network, discrete activation of neurons cannot be meaningfully mapped to specific concepts or words. The connections are complex, numerous, and multidimensional to the point that trying to tease out their relationships in any straightforward way simply does not make sense.

Neural Networks are a Black Box

In a way, this shouldn’t be surprising. After all, the entire umbrella of “AI” is about using software to solve the sorts of problems humans are in general not good at figuring out how to write a program to solve. It’s maybe no wonder that the end product has some level of inscrutability.

This isn’t what most of us expect from software, but as humans we can relate to the black box aspect more than we might realize. Take, for example, the process of elegantly translating a phrase from one language to another.

I’d like to use as an example of this an idea from an article by Lance Fortnow in Quanta magazine about the ubiquity of computation in our world. Lance asks us to imagine a woman named Sophie who grew up speaking French and English and works as a translator. Sophie can easily take any English text and produce a sentence of equivalent meaning in French. Sophie’s brain follows some kind of process to perform this conversion, but Sophie likely doesn’t understand the entire process. She might not even think of it as a process at all. It’s something that just happens. Sophie, like most of us, is intimately familiar with black box functionality.

The difference is that while many of us (perhaps grudgingly) accept this aspect of our own existence, we are understandably dissatisfied with it as a feature of our software. New research has made progress towards changing this.

Identifying Conceptual Features in Language Models

We know perfectly well how LLMs work, but that doesn’t help us pick apart individual transactions. Opening the black box while it’s working yields only a mess of discrete neural activations that cannot be meaningfully mapped to particular concepts, words, or whatever else. Until now, that is.
A small sample of features activated when an LLM is prompted with questions such as “What is it like to be you?” and “What’s going on in your head?” (source: Extracting Interpretable Features from Claude 3 Sonnet)
Recent developments have made the black box much less opaque, thanks to tools that can map and visualize LLM internal states during computation. This creates a conceptual snapshot of what the LLM is — for lack of a better term — thinking in the process of putting together its response to a prompt.

Anthropic have recently shared details on their success in mapping the mind of their Claude 3.0 Sonnet model by finding a way to match patterns of neuron activations to concrete, human-understandable concepts called features.

A feature can be just about anything; a person, a place, an object, or more abstract things like the idea of upper case, or function calls. The existence of a feature being activated does not mean it factors directly into the output, but it does mean it played some role in the road the output took.

With a way to map groups of activations to features — a significant engineering challenge — one can meaningfully interpret the contents of the black box. It is also possible to measure a sort of relational “distance” between features, and therefore get an even better idea of what a given state of neural activation represents in conceptual terms.

Making Sense of it all

One way this can be used is to produce a heat map that highlights how heavily different features were involved in Claude’s responses. Artificially manipulating the weighting of different concepts changes Claude’s responses in predictable ways (video), demonstrating that the features are indeed reasonably accurate representations of the LLM’s internal state. More details on this process are available in the paper Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet.

Mapping the mind of a state-of-the-art LLM like Claude may be a nontrivial undertaking, but that doesn’t mean the process is entirely the domain of tech companies with loads of resources. Inspectus by [labml.ai] is a visualization tool that works similarly to provide insight into the behavior of LLMs during processing. There is a tutorial on using it with a GPT-2 model, but don’t let that turn you off. GPT-2 may be older, but it is still relevant.

Research like this offers new ways to understand (and potentially manipulate, or fine-tune) these powerful tools., making LLMs more transparent and more useful, especially in applications where lack of operational clarity is hard to accept.

Un nuovo attore nel panorama del cybercrimine è emerso: il gruppo ransomware “Pryx”.

Pryx ha rivendicato il suo primo attacco significativo, annunciando di aver compromesso i sistemi di Rowan College at Burlington County (RCBC.edu) e di aver sottratto 30.000 domande di iscrizione universitaria.

Dettagli sull’Incidente

Pryx ha affermato di aver violato i sistemi informatici di Rowan College e di essere in possesso di dati sensibili dell’istituto. Questo annuncio è stato fatto sul loro dataleak site, che è accessibile sia tramite internet tradizionale che il dark web.

Secondo quanto riportato nel comunicato di Pryx, i dati rubati includono:

• Informazioni Generali:
  
  • Partecipazione al programma NJ ReUp
  • Nome legale (nome, secondo nome/iniziale, cognome, suffisso)

  
  

• Informazioni di Contatto:
  
  • Indirizzo email, indirizzo fisico, città, stato, CAP, contea
  • Numero di cellulare, numero di telefono fisso

  
  

• Informazioni Demografiche:
  
  • Data di nascita, genere
  • Numero di Sicurezza Sociale (SSN)
  • Status ispanico o latino, razza

  
  

• Cittadinanza e Affiliazione Militare:
  
  • Status di cittadinanza negli Stati Uniti
  • Affiliazione militare

  
  

• Informazioni Scolastiche:
  
  • Status di diploma di scuola superiore, scuola superiore frequentata, anno di diploma

  
  

• Informazioni Universitarie:
  
  • College/università precedentemente frequentati, nomi delle istituzioni
  • Termine di ingresso, programma di studio

  
  

La Reazione di Rowan College

Al momento, Rowan College non ha rilasciato alcun comunicato ufficiale riguardo l’incidente sul proprio sito web. Questo silenzio rende difficile confermare con precisione la veridicità delle affermazioni di Pryx. Senza un riscontro ufficiale da parte dell’organizzazione, le informazioni disponibili devono essere considerate con cautela.

Implicazioni della Violazione

La quantità e la natura dei dati esposti sono estremamente preoccupanti. Le informazioni personali degli studenti, inclusi numeri di sicurezza sociale e dettagli di contatto, possono essere utilizzate per una varietà di attività fraudolente e illegali, come il furto di identità.

Il Dataleak Site di Pryx

Il dataleak site di Pryx è una piattaforma dove il gruppo pubblica informazioni sulle vittime che non hanno pagato il riscatto richiesto. Questo sito è accessibile pubblicamente su internet e, come è consuetudine tra i gruppi ransomware, anche tramite il dark web.

Il dataleak site di Pryx è caratterizzato da un’interfaccia inquietante, dominata dall’immagine di una ragnatela e lo slogan “Get pryxed”. La piattaforma fornisce varie sezioni tra cui:

• Contact Information
• Public PGP Key
• All Updates
• Breaches and operations by pryx.

L’home page del sito invita i visitatori a “Get pryxed”, sottolineando il loro approccio intimidatorio e provocatorio.

Considerazioni Finali

La nascita di Pryx e il loro primo attacco rappresentano un ulteriore sviluppo nella crescente minaccia rappresentata dai gruppi ransomware. L’assenza di una dichiarazione ufficiale da parte di Rowan College sottolinea la necessità di monitorare attentamente questa situazione. Questo articolo serve come una fonte di intelligence iniziale e gli sviluppi futuri saranno seguiti con attenzione per fornire aggiornamenti accurati e tempestivi.

Avvertenza

Data la natura ancora incerta delle informazioni disponibili, è importante trattare questo articolo come un resoconto preliminare. La verifica completa della veridicità della violazione potrà avvenire solo attraverso conferme ufficiali da parte di Rowan College o ulteriori evidenze fornite da fonti affidabili.

Come nostra consuetudine, lasciamo sempre spazio ad una dichiarazione da parte dell’azienda qualora voglia darci degli aggiornamenti sulla vicenda. Saremo lieti di pubblicare tali informazioni con uno specifico articolo dando risalto alla questione.

RHC Dark Lab monitorerà l’evoluzione della vicenda in modo da pubblicare ulteriori news sul blog, qualora ci fossero novità sostanziali. Qualora ci siano persone informate sui fatti che volessero fornire informazioni in modo anonimo possono utilizzare la mail crittografata del whistleblower.

L'articolo Nuovo Gruppo Ransomware ‘Pryx’ Compromette 30.000 Dati di Iscrizione di un College! proviene da il blog della sicurezza informatica.

[Sophia Dal] brings us a project you will definitely like if you’re tired of traditional peripherals like a typical keyboard and mouse combo. This is ErgO, a smart ring you can build out of a few commonly available breakouts, and it keeps a large number of features within a finger’s reach. The project has got an IMU, a Pimoroni trackball, and a good few buttons to perform actions or switch modes, and it’s powered by a tiny Bluetooth-enabled devboard so it can seamlessly perform HID device duty.

While the hardware itself appears to be in a relatively early state, there’s no shortage of features, and the whole experience looks quite polished. Want to lay back in your chair yet keep scrolling the web, clicking through links as you go? This ring lets you do that, no need to hold your mouse anymore, and you can even use it while exercising. Want to do some quick text editing on the fly? That’s also available; the ErgO is designed to be used for day to day tasks, and the UX is thought out well. Want to use it with more than just your computer? There is a device switching feature. The build instructions are quite respectable, too – you can absolutely build one like this yourself, just get a few breakouts, a small battery, some 3D printed parts, and find an evening to solder them all together. All code is on GitHub, just like you would expect from a hack well done.

Looking for a different sort of ring? We’ve recently featured a hackable cheap smart ring usable for fitness tracking – this one is a product that’s still being reverse-engineered, but it’s alright if you’re okay with only having an accelerometer and a few optical sensors.

youtube.com/embed/l2hg5VMWGf0?…

Helium-neon lasers may be little more than glorified neon signs, but there’s just something about that glowing glass tube that makes the whole process of stimulated emission easier to understand. But to make things even clearer, you might want to take a step inside the laser with something like [Les Wright]’s open-cavity He-Ne laser.

In most gas lasers, the stimulated emission action takes place within a closed optical cavity, typically formed by a glass tube whose ends are sealed with mirrors, one of which is partially silvered. The gas in the tube is stimulated, by an electrical discharge in the case of a helium-neon laser, and the stimulated photons bounce back and forth between the mirrors until some finally blast out through the partial mirror to form a coherent, monochromatic laser beam. By contrast, an open-cavity laser has a gas-discharge tube sealed with the fully silvered mirror on one end and a Brewster window on the other, which is a very flat piece of glass set at a steep angle to the long axis of the tube and transparent to p-polarized light. A second mirror is positioned opposite the Brewster window and aligned to create a resonant optical cavity external to the tube.

To switch mirrors easily, [Les] crafted a rotating turret mount for six different mirrors. The turret fits in a standard optical bench mirror mount, which lets him precisely align the mirror in two dimensions. He also built a quick alignment jig, as well as a safety enclosure to protect the delicate laser tube. The tube is connected to a high-voltage supply and after a little tweaking the open cavity starts to lase. [Les] could extend the cavity to almost half a meter, although even a waft of smoke was enough obstruction to kill the lasing at that length.

If this open-cavity laser arrangement seems familiar, it might be because [Les] previously looked at an old-school particle counter with such a laser at its heart.

youtube.com/embed/PLr8smynpdw?…

@Notizie dall'Italia e dal mondo

In Abruzzo di un’organizzazione criminale (svincolata da contesti di criminalità organizzata di tipo mafioso) formata da cittadini italiani, spagnoli, argentini e colombiani, era dedita al traffico, anche internazionale, di sostanze stupefacenti del tipo hashish e cocaina.

Le sostanze stupefacenti, approvvigionate in Spagna da alcuni indagati residenti nel Paese iberico, venivano trasportate, via gomma, in Italia da corrieri che lo occultavano all’interno di autotreni nella disponibilità dell’organizzazione, per poi essere stoccati in Abruzzo a favore delle piazze di spaccio abruzzesi e marchigiane.

Il sodalizio criminale con vertice, uomini di fiducia e sodali sul territorio nazionale ed estero, poteva contare su punti di riferimento in Spagna e Germania.
Gli inquirenti, durante il lungo periodo d’indagine, hanno posto in essere diversi sequestri, per un totale di circa 100 chili di hashish e 1 chilo di cocaina, riuscendo a ricostruire i vari ruoli degli associati.

Oltre 12 arresti e 2 ulteriori misure cautelari, sono state eseguite diverse perquisizioni nei confronti di altri indagati, residenti in Spagna.

Ad operare sono stati i I Carabinieri del #ROS, che hanno avuto la collaborazione dei militari dei Comandi provinciali di Teramo, Pescara, Fermo, Ascoli Piceno, Brescia e Perugia, e in coordinamento con il #Landeskriminalamt del Nord Reno – Westfalia (Germania), l’Udyco Central della #PoliciaNacional (Spagna), la Police Judiciaire Fédérale di Mons (Belgio) e il Dipartimento Anti-Narcotici della Polizia Nazionale dell’Ucraina, hanno eseguito 14 misure cautelari (10 in carcere, 2 agli arresti domiciliari e 2 obblighi di presentazione alla Polizia Giudiziaria) – emesse dai GIP dei Tribunale de L’Aquila e Teramo, su richiesta rispettivamente della Direzione Distettuale Antimafia de L’Aquila e della Procura Ordinaria di Teramo.

Tutte le persone interessate dal provvedimento sono ritenute responsabili, a vario titolo, di associazione finalizzata al traffico illecito di sostanze stupefacenti o psicotrope e alla produzione, traffico e detenzione illeciti di sostanze stupefacenti o psicotrope (artt. 74 e 73 D.P.R. 309/1990).

L’attività investigativa, avviata nel dicembre 2021 dalla Sezione del ROS de L’Aquila e condotta con numerose e impegnative attività tecniche e dinamiche, è stata sviluppata in coordinamento con la #DCSA (Direzione Centrale per I Servizi Antidroga) anche attraverso la collaborazione di #EUROJUST e #EUROPOL, nonché col supporto della Rete @ON, a guida italiana della #DIA (Direzione Investigativa Antimafia), finanziata dalla Commissione UE.

#rete@ON #PoliceJudiciaireFédérale #НаціональнаполіціяУкраїни

Eccoci qui. Dopo aver trascorso gli ultimi anni leggendo tra il fediverso e il web alternativo, ho deciso di creare il mio posto dove le persone orientate alla libertà possano discutere di libertà nell'informatica e nella società. Lo scopo generale è ricreare le vibrazioni familiari dell'era BBS mettendo insieme strumenti vecchi e moderni, da IRC a Mastodon. Ecco dove spiego tutto:

- [ENG] dmi.unict.it/nfarceri/articles…
- [ITA] dmi.unict.it/nfarceri/articles…

Benvenuti a casa... vostra!

Questo è il primo articolo di questo sito, dove vengono introdotti gli scopi del sito stesso. In sintesi, il sito ha lo scopo di ricreare il feeling familiare e comunitario delle BBS degli anni '80 e '90 aggregando insieme più strumenti, vecchi e mod…

^{www.dmi.unict.it}