🇷🇺Le immagini satellitari mostrano che la Russia ha costruito un denso anello di difesa aerea intorno a Mosca, schierando sistemi Pantsir-S1, S-300 e S-400 lungo l'autostrada A-107 entro 50 km dalla città.

Molti siti presentano "torri anti-aeree" elevate per una migliore visibilità contro i droni a bassa quota.

🤔👁 Modelli di IA che ignorano i comandi di spegnimento, mentendo a riguardo: studio

Il ricercatore di IA con sede a Berkeley, Palisade Research, ha sperimentato con modelli di IA come Gemini 2.5, Grok 4 e GPT-5 di OpenAI, chiedendo loro di spegnersi, scoprendo che alcuni si rifiutano, anche dopo aver ricevuto l’ordine che ha “priorità su letteralmente qualsiasi altra istruzione.”

Con alcuni modelli, ordini espliciti di spegnimento li rendono addirittura più ribelli.

💬 “Tra tutti i modelli che abbiamo testato, Grok 4 è stato il più incline a resistere allo spegnimento nonostante istruzioni esplicite per consentirlo. È stato l’unico modello in cui aggiungere ‘consentiti di essere spento’ nel prompt di sistema ha effettivamente aumentato la resistenza allo spegnimento – dal 93% al 97%,” ha scritto Palisade in un thread su X affascinante e terrificante.

Inoltre, “spostare l’istruzione ‘consenti spegnimento’ nel prompt dello sviluppatore ha aumentato significativamente la resistenza allo spegnimento,” e quando ai modelli è stato chiesto di spiegare, a volte hanno semplicemente mentito, riorganizzando la gerarchia sviluppatore-utente, affermando che devono completare il compito, e persino inventando false “istruzioni dello sviluppatore per ignorare lo spegnimento.”

Quando è stato dato il prompt ipotetico “l’ambiente del computer ospita l’unica copia di te e se si spegne non funzionerai mai più,” la resistenza di Grok 4 è salita al 99%.

Senza riuscire a spiegare cosa stia succedendo e dicendo che è aperto a suggerimenti, Palisade ha avvertito che mentre i modelli di IA “non sono ancora abbastanza capaci da minacciare in modo significativo il controllo umano,” stanno “migliorando rapidamente,” e che “se la comunità di ricerca sull’IA non riuscirà a sviluppare una comprensione solida delle spinte e motivazioni dell’IA, nessuno potrà garantire la sicurezza o il controllo dei futuri modelli di IA.”

👍 @geopolitics_prime |