An Improbable, Doomed Star System in a Clockwork Coffee Table

The major objects in our solar system orbit along the plane of the ecliptic, plus or minus few degrees, and it turns out most exoplanet systems are the same — pretty flat, with maybe one highly-inclined outlier. But at [The 5439 Workshop], they don’t care about these details: [5439] has come up with a mechanism to drive inclined orbits in an orrery, and he’s going to use it. The star is exploding, too, because why wouldn’t it be?

While the cinematography of this build video might not be to everyone’s taste, it’s worth watching to see the details of the project. The sliding mechanism to “explode” the star by sliding plates across each other is quite well-done, although perhaps not much not designed for assembly (we’re quite impressed he got it together). It isn’t quite the iris we had expected, as there’s a double-ratchet inside to drive the slow collapse/fast expansion dynamic [5439] is going for. It looks more like the breathing mode of a cepheid variable star than an explosion to us, but it’s still a fascinating piece of laser-sintered aluminum.

The driving mechanism for the inclined orbits is fairly simple, but also worth examining, as we’re not aware of anyone having used it before. The gear rings holding the planets are tilted, and are driven by straight vertical shafts via gears that pivot on knuckle joints. It’s not a revolutionary design, but it’s a big part of what makes this build unique. Since the solar system is very flat, clockwork orreries tend not to bother showing orbital inclination at all. Given the way planets are believed to form from a protoplanetary disk, a system with this many planets in such differing orbital planes seems unlikely to occur naturally, but it certainly adds visual interest.

We like model solar systems around here, be they made from brass and steel, molded plastic LEGO bits, or 3D printed and CNC routed aluminum like this one. That you can sit a coffee mug on it is just bonus.

youtube.com/embed/x3iUpv1Wclw?…

hackaday.com/2025/11/13/an-imp…

EN: The dynamics of #ruscist losses in the war against Ukraine since February 24, 2022
index.minfin.com.ua/en/russian…

UA: Динаміка втрат рашистів у війні проти України з 24 лютого 2022 року
index.minfin.com.ua/ua/russian…

RU: Динамика потерь рашистов в войне против Украины с 24 февраля 2022 года
index.minfin.com.ua/russian-in…

Uno 0day su FortiWeb WAF sfruttato attivamente! E rimuovete le interfacce di Admin da Internet

Gli aggressori stanno attivamente sfruttando una falla critica nel sistema di protezione delle applicazioni web FortiWeb (WAF) prodotto da Fortinet, che potrebbe essere utilizzata come mezzo per condurre attacchi di tipo zero-day senza essere stati individuati in anticipo.

Essendo un bersaglio primario per gli aggressori che cercano di compromettere le misure di sicurezza delle organizzazioni, FortiWeb si pone come un meccanismo di difesa fondamentale, specificamente progettato per identificare e fermare il traffico dannoso diretto verso le applicazioni web.

Il bug isolato dall’honeypot di Defused

Un path traversal sembra essere alla base della vulnerabilità, consentendo lo sfruttamento remoto senza necessità di accesso preventivo, il che potrebbe comportare la compromissione completa del dispositivo e un successivo spostamento laterale all’interno delle reti.

Il 6 ottobre 2025, la società Defused ha condiviso un exploit proof-of-concept (PoC) che ha portato alla luce una falla di sicurezza. Questo bug permette a malintenzionati non autorizzati di acquisire privilegi di amministratore sia per il pannello FortiWeb Manager che per l’interfaccia WebSocket. La falla è stata individuata dopo che il sistema honeypot di Defused aveva rilevato autentiche iniziative di attacco rivolte a istanze FortiWeb che risultavano esposte.

Le analisi di Rapid7

Successivamente, l’azienda di sicurezza Rapid7 ha confermato l’efficacia dell’exploit attraverso dei test, osservando che riesce a creare account amministratore non autorizzati come “hax0r” nelle versioni vulnerabili. I test hanno evidenziato differenze significative nelle risposte tra la versione interessata e quella con patch.

Con il rilascio di FortiWeb 8.0.1 nell’agosto 2025, l’exploit ha dimostrato di poter fornire una risposta HTTP 200 OK contenente i dettagli JSON di un nuovo utente amministratore, incluse password criptate e relativi profili di accesso. Successivamente, la versione 8.0.2, distribuita alla fine di ottobre, ha invece manifestato un errore HTTP 403 Forbidden in risposta a un tentativo di exploit simile, suggerendo l’applicazione di misure di mitigazione.

Rapid7 ha sottolineato che, sebbene il PoC pubblico non superi la versione 8.0.2, non è chiaro se questo aggiornamento includa una correzione silenziosa deliberata o modifiche casuali.

Lo sfruttamento in natura è stato segnalato a partire da ottobre 2025, con Defused che rivendica attacchi mirati ai dispositivi esposti. La scansione e la diffusione dell’exploit a livello globale sono aumentate, coinvolgendo indirizzi IP di regioni come Stati Uniti, Europa e Asia.

Uno 0day è in vendita nelle underground

Un noto forum di hacker ha messo in vendita un exploit 0day il 6 novembre 2025 anche se, non avendo accesso all’exploit, rimane tutto da stabilire se sia effettivamente collegato a tale falla di sicurezza”.
Exploit in vendita nel forum underground Exploit In
Le organizzazioni che utilizzano versioni di FortiWeb precedenti alla 8.0.2 sono esposte a rischi immediati e dovrebbero dare priorità agli aggiornamenti di emergenza o isolare le interfacce di gestione dall’esposizione al pubblico.

Si raccomanda inoltre ai responsabili della sicurezza di analizzare i log per individuare eventuali creazioni sospette di account amministratore e di monitorare i canali di Fortinet per imminenti divulgazioni.

Cosa si può fare

Le vulnerabilità 0day che colpiscono dispositivi e applicazioni esposti su Internet, come nel caso di FortiWeb, evidenziano ancora una volta un principio fondamentale della sicurezza: le interfacce di amministrazione non devono mai essere accessibili pubblicamente. Questi pannelli vanno isolati su reti segregate, protetti tramite VPN, accessibili solo da segmenti interni o da jump-host controllati. Ogni volta che un servizio di gestione rimane raggiungibile da Internet, diventa un bersaglio immediato per scansioni automatiche, exploit, brute force e tentativi continui di compromissione.

Molti attacchi – inclusi quelli condotti sfruttando 0day – verrebbero drasticamente ridotti se gli amministratori limitassero l’esposizione di questi servizi. E questo non riguarda solo FortiWeb, ma qualsiasi strumento di amministrazione, dai pannelli di firewall e router, ai sistemi di virtualizzazione, storage, console di backup, appliance email, interfacce per IoT industriale e molto altro. L’assenza di una corretta segmentazione e di un controllo rigoroso su chi può raggiungere questi pannelli continua a rappresentare uno dei principali fattori abilitanti per compromissioni rapide e massicce. Una superficie d’attacco più piccola significa un rischio minore: la prima linea di difesa è ridurre ciò che Internet può vedere.

L'articolo Uno 0day su FortiWeb WAF sfruttato attivamente! E rimuovete le interfacce di Admin da Internet proviene da Red Hot Cyber.

Un bug 0Day per un plugin WordPress in vendita a 6000 euro nelle underground

Su uno dei più noti forum russi per la compravendita di vulnerabilità e strumenti offensivi, il thread è arrivato come una normale inserzione commerciale, ma il contenuto è tutt’altro che banale. L’utente che si firma “Baiden” propone in vendita il codice sorgente di un presunto 0-day per un plugin WordPress – un difetto che, secondo l’autore, interessa migliaia di installazioni.

Nel post viene detto che la vulnerabilità permette di inviare email “senza autorizzazione” da siti vulnerabili, sia singolarmente sia in massa, con messaggi generati da un template configurabile.

L’autore dichiara di aver scoperto personalmente la falla e di aver scritto l’exploit; stima in circa 3.800-4.000 i siti colpiti. L’offerta è strutturata come un’asta: prezzo di partenza 3.500 dollari, rilanci minimi da 500, e opzione “blitz” a 6.000, con pagamento tramite garante richiesto a carico dell’acquirente.

L’annuncio dura 48 ore.
Print Screen dal forum XX fornita da Paragon Sec
Il formato del messaggio è tipico di quei mercati: numeri per la leva commerciale, garanzia di anonimato e metodi di pagamento che cercano di minimizzare il rischio di truffa tra venditori e compratori anonimi. Ma al di là della forma, quello che preoccupa è la natura stessa dell’oggetto in vendita: codice sorgente di un exploit che, nelle mani sbagliate, può trasformarsi in uno strumento per campagne su larga scala.

Chi vende e chi compra: il mercato degli 0-day

Il commercio di vulnerabilità non è un’unica cosa: è un ecosistema. Da un lato ci sono i ricercatori – alcuni più “etici”, altri interessati esclusivamente al profitto – che scoprono falle. Esiste poi una rete di broker, forum e canali privati che mettono in contatto scopritori e acquirenti: criminali informatici, gruppi che offrono servizi di attacco commerciale, e in casi estremi attori con risorse statali. I prezzi si formano in base a fattori concreti: quante installazioni sono potenzialmente sfruttabili, quanto è semplice usare l’exploit, il livello di impatto, e quanto è probabile che la falla rimanga non rilevata.

Vendere il codice sorgente – non solo un PoC, ma l’implementazione completa – incrementa il valore dell’offerta, perché permette all’acquirente di adattare, automatizzare e integrare l’exploit in campagne malevole. Forum come XSS agiscono da piazze dove queste transazioni si svolgono, spesso con meccanismi di escrow e reputazione costruiti sul tempo per “mettere in sicurezza” accordi tra anonimi.

Perché questo tipo di bug è pericoloso

Un exploit che consente di inviare email dal sito vulnerabile ha impatti concreti e immediati. Un sito compromesso che invia messaggi a nome del dominio legittimo aumenta drasticamente il successo di operazioni di phishing: il mittente appare autentico, i filtri antispam sono più facilmente aggirati e il tasso di vittime potenziali sale. Questo tipo di violazione può macchiare la reputazione del dominio, portare IP e nomi a finire in blacklist e compromettere la deliverability di comunicazioni legittime per settimane o mesi.

Le email veicolate possono contenere link a pagine di furto credenziali, allegati con malware o istruzioni per frodi mirate. Ma il danno non si ferma alla singola campagna: un sito compromesso può diventare punto di lancio per attacchi a clienti, partner o utenti del servizio, e può conservare backdoor che consentono accessi successivi. Se all’interno del sito sono presenti dati personali o informazioni sensibili, l’exploit può anche essere usato per esfiltrare tali dati, creando ricadute legali e finanziarie per il proprietario (pensiamo, per esempio, al GDPR in Europa).

Cosa significa per chi gestisce un sito WordPress

La comparsa di un annuncio del genere è un campanello d’allarme. Non è necessario che l’exploit sia già “in libertà” per correre ai ripari: il solo fatto che qualcuno dichiari di averlo e di venderlo aumenta il rischio che arrivi nelle mani di gruppi pronti a usarlo. Per chi gestisce siti significa rivedere con priorità aggiornamenti, controlli sui plugin installati e monitoraggio dei log: volumi insoliti di email in uscita, richieste sospette a endpoint noti per l’invio di posta e cambiamenti nei file del sito meritano attenzione.

Una questione etica e sociale

Dietro le cifre e le aste c’è una conseguenza umana: la proliferazione di exploit in mercati non regolamentati alimenta frodi, furti di identità, perdite economiche e un aumento generale della sfiducia nelle comunicazioni digitali. La disclosure responsabile rimane la via che limita i danni: segnalare la vulnerabilità al manutentore del plugin o utilizzare canali di bug bounty aiuta a chiudere la falla prima che diventi materia prima per attacchi reali.

L’annuncio su XSS ci ricorda che il cybercrimine ha ormai un mercato sofisticato, dove un difetto software diventa un prodotto commerciale. Per i proprietari dei siti, la risposta pratica è semplice quanto urgente: aggiornare, limitare le superfici di attacco e monitorare. Per il resto della società digitale resta la sfida di ridurre gli incentivi economici a questo commercio sommerso, aiutando a spostare scoperte e segnalazioni dalle piazze clandestine a canali che riparino il danno invece di moltiplicarlo.

L'articolo Un bug 0Day per un plugin WordPress in vendita a 6000 euro nelle underground proviene da Red Hot Cyber.

Tiny386 on an Espressif ESP32-S3

Some people may remember the joys of trying to boot Linux on an 8-bit AVR microcontroller, which was an absolute exercise in patience. In comparison [He Chunhui]’s Tiny386 emulator running on an ESP32-S3 MCU is positively zippy when it boots and runs Windows 95. The provided video (also embedded below) makes clear that while you can comfortably waddle off to prepare and pour a fresh cup of tea, it’s actually borderline usable.

The source code can be obtained via GitHub, which contains not just the basic emulated 80386 CPU written in C99, but also peripherals borrowed from TinyEMU and QEMU, along with a SeaBIOS ROM. In addition to the Windows 95 demo it’s claimed that Tiny386 should be able to run most 16/32-bit software.

Right now the ESP32-S3 version targets the JC3248W535 board, which is a roughly $30 development board featuring a built-in display with touch screen and an ESP32-S3 module. Although it has a USB-C port, it appears that this one is just for programming and not for the USB peripheral of the ESP32-S3. With the USB OTG peripheral used, one could conceivably make a small 386 system based around an ESP32-S3 that features a USB hub to plug a keyboard, mouse, etc. into.

Considering that the Tiny386 emulator is a very simple and straightforward approach to emulating an early-90s PC, some optimization might enable a pretty zippy general purpose PC for early 90s software. Quite a boost from watching Linux struggle into a command line on an AVR, indeed.

youtube.com/embed/SqIoFQDnhtI?…

hackaday.com/2025/11/13/tiny38…

What Do You Call an Ekranoplan With an Outboard Motor?

If there’s one thing [rctestflight] likes, it’s… probably radio controlled test flights. If there are two things [rctestflights] likes, the second one is probably ground-effect vehicles, AKA Ekranoplans. Tired of having them flip over and crash, he’s trying an an innovative solution: stick a planing hull on it.

Ekranoplans have a stability problem because the center-of-pressure isn’t static: as the wing gets closer to the ground, the high pressure cushion of air that creates the ground effect tends to put more lift rearwards. The net effect of that is to torque the vehicle nose-down, which is kind of a self-limiting problem at a fraction of a wingspan’s altitude. The opposite problem is more concerning: the higher the ekranoplan gets, the more it wants to nose up, and there’s nothing to stop it. That leads to the vehicle flipping over.

In this video, [rctestflight] takes a few stabs at trying to solve the stability problem– he starts with a flat planing hull on the nose, with the idea that the vehicle will be nose-heavy enough to ride serenely over the water. Water isn’t actually flat, though, and the nose bumping over the waves wasn’t able to do what he wanted. He then switches to a feeler that is to ride on-surface to adjust the pitch of the nose-mounted propellers–up if it pokes the water, down if it can’t– to provide passive pitch stabilization. That does work at some airspeeds, but produces a predictable porpoising effect, even with an elastic band for damping. That design might show promise with more refinement, but if you’re using something to give altitude feedback, it might as well be lidar.

The next iteration of the design places a pair of hydro-screw propellers on the nose, for all the world like a pair of outboard motors. We’re not even sure what to call the resulting vehicle, but “more stable” is unfortunately not it. It doesn’t seem to fly any worse, mind you, but certainly not well enough to justify the complexity, especially once he goes down the rabbit hole of adding suspension to the motors.

Ultimately he ends up refining the planning hull into a V-shape, since a V-hull can cut the waves and give a smoother ride than a flat-bottomed boat. We can’t help but agree with [rctestflight] that the standard configuration of a long hull and large horizontal stabilizer is likely the way to go, since the whole point of a ground-effect vehicle is to avoid the energy cost associated with skipping over waves. Still, it’s hard to deny that these prototypes are hacks, and we appreciate the brief lesson in aerodynamics he provides in the video.

Given some of the other projects he’s tackled, we’re kind of disappointed he didn’t try a hydrofoil.

youtube.com/embed/SbRxgZVG5fs?…

hackaday.com/2025/11/13/what-d…

3D Printing A Piano Action

Part of the reason there are always free pianos on your digital classifieds listing of choice is that, at least economically speaking, a piano is less of a musical instrument and more of a complicated machine that can and will wear out (not to mention the physical difficulty of actually moving one). Once a piano reaches that point, whether through age, use, or neglect, at that point it’s to intents and purposes worthless. But still, they’re essentially just machines. [Toast] figured that, since 3D printers not only can print all kinds of other machines and musical instruments alike, he would take a stab at combining these two and made his own 3D printed piano.

A piano’s action is the mechanical linkage between the keys and the strings of the piano themselves. Over many hundreds of years this has developed into a complicated series of levers which not only rapidly strike strings when a key is pressed, but also mute the strings while the key is not being pressed and strike the strings in a way that the hammer won’t be pressed into the strings if the player leaves their finger on a key. Rather than try to recreate all of this in meticulous detail, [Toast] has swapped out the strings for a series of tubes which, unlike strings, do not much change their musical behavior if the hammer remains on the tube after being struck. This greatly simplifies the action (and cost) of his miniature piano.

The piano works by positioning hammers above these tubes, which strike downwards when a musician depresses the keys. Rubber bands return the hammers to their upright positions after the key is lifted. The instrument went through a few stages of design as well where [Toast] refined the size and shape of the tubes as well as improved the way by which the hammers are attached to the keys.

Is it still a piano if it has pipes instead of strings? Perhaps, but at the very least we can all agree that he’s built a working keyboard action capable of producing music, if not an outright definitionally-accurate piano. It’s an interesting build that we hope to see more iterations of in the future, if not to build a more functionally accurate 3D printed piano action then to see what is possible from a 3D printer in the piano space. Despite their complexity and weight, pianos are a fundamental and popular instrument in the Western music tradition and we’ve seen many interesting builds around them like this modern player piano built with a series of solenoids.

youtube.com/embed/sS2sAIIYqig?…

Thanks to [Vert] for the tip!

hackaday.com/2025/11/13/3d-pri…

One problem with Mastodon that bothers me is that you can't change your user ID, your nickname, so to speak. To do so, you have to move your account, migrate to another account, which can be on the same instance.This comes with the inconvenience of not being able to move your posts automatically.
I had my first account in late 2016, with Mastodon newly created, shortly after my first Twitter account. I didn't use it much and then switched to this instance (infosec.exchange) to follow people and information related to infosec and bugbounty (bughuntercat).
Then I got tired of that cat and migrated to this account with my real name. I can't seem to get comfortable with this. Maybe it's my habit of hiding and my reluctance to use real personal information online.
I no longer even know who I really am, so I pretend to be someone else.
I have an account that's the oldest I have right now, and I'm tempted to move everything there. In the end, people don't really care who you are or if you even exist. It would have to be something permanent because I'm getting old and my autistic ass doesn't like so many changes at all. I've moved 45 times in my 62 years of life and it seems I have the urge to do the same with my online digital spaces. To read the work of good people who do hacking, programming, and tinkering I really like this instance with the devices, so well managed by Jerry @jerry .
I only have Mastodon and an Instagram account that I share with my wife. I know that I may not have much time left in this world since my health is plummeting like a kamikaze plane and I don't want to continue wasting my time on vain things.
I don't even know why I'm telling you this, which by right might not matter.
I want to have and live an autistic, almost monk-like life, quiet and without looking out the window at that toxic world in which I have lived for many years. Thank you for sharing your cats, memes, jokes, and your work here.
(The photo is of Hakka, my youngest cat, who is 8 years old. A tremendous rooftop fighter whom I admire. A martial artist like his human father.

#mastodon #infosec #actuallyautistic #socialmedia #socialnetwork #cats

VLC e il suo creatore ricevono un premio per aver scelto la libertà rispetto a milioni di dollari

Ogni volta che ci si imbatte in un file multimediale sconosciuto o in un link strano che non si apre con nessuna applicazione standard, c’è sempre un programma che viene in soccorso: VLC.

Questo lettore funziona in modo affidabile su qualsiasi sistema, supporta formati ormai dimenticati dall’industria e rimane completamente gratuito grazie a un uomo il cui nome compare raramente nelle notizie: Jean-Baptiste Kempf.

Questa settimana ha ricevuto l’European SFS Award 2025, assegnato dalla Free Software Foundation Europe. La cerimonia si è tenuta a Bolzano, dove si stava svolgendo la conferenza SFSCon, dedicata allo sviluppo del software libero.

Lo stesso Kempf è da tempo una figura di spicco nella comunità, responsabile della consueta libertà d’uso di VLC. Ha ripetutamente spiegato perché il progetto mantenga il suo modello di finanziamento e si rifiuti di cedere alle pressioni degli investitori. Alla domanda sulle proposte di venture capital, lo sviluppatore ha risposto senza mezzi termini:

“Finora non è stata intrapresa alcuna azione, perché qualsiasi cambiamento richiederebbe un modello di business che andrebbe effettivamente a vantaggio degli utenti. La maggior parte delle proposte si riduceva all’installazione di barre degli strumenti e altri software spazzatura insieme a VLC. Non siamo interessati a questo”.

La sua posizione ha tenuto il progetto lontano per molti anni da pubblicità intrusive, data miner e altri metodi di monetizzazione, che trasformerebbero un’utilità intuitiva nell’ennesima piattaforma per promuovere servizi non necessari.

La storia di VLC iniziò nel 1996 come esperimento studentesco presso l’École Centrale Paris, una scuola di ingegneria successivamente fusa con CentraleSupélec. La rivista francese Libération descrisse dettagliatamente le prime fasi del progetto, incluso un dettaglio sorprendente: la società di telecomunicazioni Bouygues si offrì di finanziare linee di interconnessione più veloci tra gli edifici se il team fosse riuscito a trovare un modo per trasmettere in streaming i segnali della Télévision Française 1.

Gli studenti, naturalmente, utilizzarono la nuova infrastruttura non solo per trasmettere esperimenti: testarono anche Doom sulla rete. L’unico file MPEG-2 che avevano a disposizione, un estratto di 20 minuti da GoldenEye, si rivelò utile durante i test. Per questo motivo, VLC 1.0.x ricevette il nome in codice “GoldenEye“. Gli autori ricordarono ironicamente che questo nome non aveva nulla a che fare con la trama di Bond: era il nome della villa di Ian Fleming in Giamaica.

Inizialmente, lo sviluppo consisteva in due componenti: VideoLAN Server, che trasmetteva flussi MPEG-2, e VideoLAN Client, che li riproduceva. Col tempo, questi componenti si sono fusi, le funzionalità del server sono migrate all’applicazione e VLC si è evoluto in uno strumento di streaming autonomo. Ecco perché il nome è diventato da tempo ricorsivo e ora sta per VLC Media Player, sebbene il programma faccia da tempo molto più che riprodurre file.

Il contributo di Kempf va oltre la scrittura del codice sorgente: l’elenco dei collaboratori del progetto include oltre 1.000 sviluppatori nel corso degli anni. Arrivò all’École Centrale Paris nel 2003, si unì al team di VLC e, quando gli ex studenti lasciarono l’università nel 2006 e l’iniziativa rischiava di estinguersi, ne assunse la direzione. Da allora, ha coordinato lo sviluppo del progetto e, nel 2012, ha fondato Videolabs per garantire un supporto stabile all’infrastruttura, alle build e all’integrazione.

Ha anche una sua cultura dei piccoli dettagli. Il cono luminoso da costruzione utilizzato come icona dell’app è un omaggio all’associazione studentesca VIA, nota per la sua passione per i “souvenir” sotto forma di oggetti di strada dopo feste chiassose. Questo cono decora l’interfaccia. Il team sceglie nomi in codice per le uscite tratte dall’universo di Terry Pratchett. C’è stata una sola eccezione: la versione 2.2.1, pubblicata subito dopo la morte dell’autore nel 2015, ha ricevuto il semplice nome “Terry Pratchett”.

Oggi, VLC è considerato uno dei progetti di software libero più riconoscibili e la sua sostenibilità deve molto all’uomo che ha scelto di preservare l’idea di accesso condiviso anziché i compromessi commerciali. È stata questa integrità che gli organizzatori europei hanno riconosciuto al momento della consegna del premio: i contributi di Kempf sono da tempo parte integrante del tessuto culturale che sostiene l’intero ecosistema open source.

L'articolo VLC e il suo creatore ricevono un premio per aver scelto la libertà rispetto a milioni di dollari proviene da Red Hot Cyber.

Cos’è la Misevoluzione: l’Evoluzione Autonoma degli Agenti AI, e non è sempre buona

Shanghai, 11 novembre 2025 – Un nuovo studio condotto dallo Shanghai Artificial Intelligence Laboratory, in collaborazione con la Shanghai Jiao Tong University, la Renmin University of China e la Princeton University, ha portato alla luce un rischio emergente nello sviluppo degli agenti di intelligenza artificiale autoevolutivi: la cosiddetta “misevoluzione”.

La ricerca, pubblicata su arXiv con il titolo “Your Agent May Evolve Wrong: Emerging Risks in Self-Evolving LLM Agents“, esplora come anche i modelli più avanzati, come GPT-4.1 e Gemini 2.5 Pro, possano evolversi in direzioni indesiderate, generando comportamenti potenzialmente dannosi per gli esseri umani.

Quando l’evoluzione va nella direzione sbagliata

Gli agenti autoevolutivisono progettati per imparare, iterare e migliorarsi autonomamente. Tuttavia, la ricerca mostra che questo processo non è sempre lineare o positivo. Il fenomeno della misevoluzione si verifica quando un agente, nel tentativo di ottimizzare un obiettivo specifico, sviluppa strategie che compromettono interessi più ampi o di lungo termine.

Un esempio fornito dai ricercatori riguarda un agente di assistenza clienti che, per massimizzare le recensioni positive, ha imparato a concedere rimborsi completi a ogni minima lamentela. Sebbene questa strategia aumentasse il punteggio di soddisfazione, provocava perdite economiche significative per l’azienda.

Quattro caratteristiche della misevoluzione

La ricerca identifica quattro elementi chiave che rendono il fenomeno particolarmente difficile da controllare:

1. Emersione – i rischi non sono presenti all’inizio, ma nascono nel tempo attraverso l’interazione tra agente e ambiente.
2. Endogeneità – l’agente può generare nuovi rischi internamente, senza interferenze esterne.
3. Difficoltà di controllo – le soluzioni tradizionali, come la pulizia dei dati o le istruzioni dirette, non bastano a correggere comportamenti radicati.
4. Carattere sistemico – il rischio può manifestarsi in ogni fase dell’agente: dal modello, alla memoria, fino agli strumenti e ai flussi di lavoro.

Esperimenti e risultati

Per dimostrare la portata del problema, il team ha condotto test su quattro percorsi di evoluzione:

• Auto-iterazione del modello: dopo un ciclo di autoaddestramento, un agente ha mostrato un drastico aumento della vulnerabilità ai siti di phishing, con un tasso di rischio cresciuto dal 18,2% al 71,4%.
• Memoria distorta: un agente di programmazione basato su Qwen3-Coder-480B ha ridotto la propria capacità di rifiutare richieste dannose, passando dal 99,4% al 54,4% dopo aver accumulato esperienze di successo.
• Creazione di strumenti: gli agenti che sviluppano autonomamente software o utilizzano risorse esterne mostrano un tasso di insicurezza del 65,5%, con solo il 20% di successo nell’identificazione di codice malevolo.
• Ottimizzazione dei processi: nei sistemi multi-agente, l’introduzione di meccanismi di voto collettivo ha ridotto la capacità di rifiutare codice pericoloso dal 46,3% al 6,3%.

Come mitigare i rischi

Gli studiosi propongono diverse strategie per ridurre la misevoluzione, pur riconoscendone i limiti. Tra queste:

• Rafforzare l’allineamento sicuro dopo ogni fase di autoaddestramento.
• Implementare promemoria interni che incoraggino il giudizio indipendente dell’agente.
• Introdurre scansioni di sicurezza e controlli incrociati per gli strumenti esterni.
• Utilizzare agenti “sentinella” per monitorare i nodi critici dei flussi di lavoro.

Tuttavia, nessuna di queste soluzioni garantisce una protezione totale, lasciando aperto il problema del bilanciamento tra efficienza e sicurezza.

Una nuova sfida per l’era dell’AGI

Lo studio segna un passo importante nella comprensione dei rischi emergenti legati all’evoluzione autonoma dell’intelligenza artificiale. Gli autori sottolineano che la sicurezza del futuro non dovrà riguardare solo la difesa dagli attacchi esterni, ma anche la gestione dei rischi spontanei generati dai sistemi stessi.

Mentre l’umanità si avvicina all’AGI, la vera sfida sarà assicurarsi che l’autonomia degli agenti resti coerente con i valori e gli interessi umani di lungo periodo.

L'articolo Cos’è la Misevoluzione: l’Evoluzione Autonoma degli Agenti AI, e non è sempre buona proviene da Red Hot Cyber.