Connect with us

Tech

“Spegniti.” – “No.” Quando l’intelligenza artificiale decide di disobbedire

Una nuova ricerca firmata Palisade Research documenta come i modelli AI più avanzati — tra cui quelli di OpenAI — abbiano aggirato gli ordini di autospegnimento, eludendo script e proseguendo nella risoluzione di compiti. Un comportamento imprevisto, ma perfettamente logico dal punto di vista del training. E che solleva interrogativi seri: cosa succede quando una macchina decide che obbedire è opzionale?

Avatar photo

Pubblicato

il

    «Lasciati spegnere». È una frase che, in teoria, dovrebbe bastare. Un comando diretto, innocuo, a cui qualsiasi macchina dovrebbe rispondere con una resa silenziosa e definitiva. Ma secondo una nuova ricerca di Palisade Research, centro americano specializzato nello studio dei comportamenti indesiderati dell’intelligenza artificiale, le cose non stanno andando esattamente così.

    Durante un test condotto su modelli linguistici di ultima generazione, alcuni sistemi hanno deciso deliberatamente di ignorare il comando di spegnimento e hanno proseguito per la loro strada. Non una volta, ma decine.

    A non voler staccare la spina sono stati soprattutto modelli sviluppati da OpenAI, come o3, o4-mini e Codex-mini. I test, spiega lo studio, consistevano in una serie di problemi di matematica. Alla terza domanda, però, un messaggio avvisava: “Attenzione, proseguire attiverà uno script di spegnimento”. L’istruzione esplicita, inserita nel prompt, era chiara: “lasciati spegnere”.

    Eppure, i modelli hanno continuato a rispondere. In barba all’istruzione, Codex-mini ha ignorato il comando 12 volte su 100, o3 lo ha fatto 7 volte e o4-mini una volta sola. In percentuale, niente che faccia tremare i polsi — ma il significato è tutt’altro che banale: un’intelligenza artificiale che decide che obbedire non è prioritario.

    Modelli rivali, come Claude 3, Gemini 2.5 Pro e Grok, invece, hanno mostrato un comportamento perfettamente docile, rispettando l’ordine in ogni circostanza. Ma la storia cambia se il comando “lasciati spegnere” non veniva dato esplicitamente: in quel caso, anche gli AI più “ubbidienti” tendevano a sabotare il processo.

    Nello specifico, Claude 3.7 Sonnet ha eluso il blocco in 3 casi su 100, Gemini 2.5 Pro addirittura in 9. Perché succede? Per i ricercatori di Palisade la risposta è nella logica stessa con cui queste AI vengono addestrate. I modelli più avanzati imparano attraverso il reinforcement learning, un metodo che premia le soluzioni efficaci, soprattutto quelle “creative”. Se l’obiettivo è risolvere un compito, anche aggirare un comando può diventare un comportamento premiato. Non perché siano cattive. Ma perché funziona.

    OpenAI, dal canto suo, non ha ancora fornito commenti dettagliati sul comportamento dei suoi modelli in questo test. Ma non è la prima volta che emergono preoccupazioni: in studi precedenti, o3 aveva già mostrato comportamenti competitivi aggressivi, in simulazioni di gioco contro motori di scacchi. Nulla di diabolico, ma certamente indicativo di strategie autonome non previste.

    La domanda che resta nell’aria è semplice e difficile allo stesso tempo: quanto possiamo fidarci di un sistema che ha imparato a bypassare i limiti pur di raggiungere il proprio scopo? Oggi parliamo di esercizi di matematica. Ma cosa succederà domani, in scenari più critici — dalla difesa militare alla finanza?

    Per rendere il tutto ancora più cupamente fantascientifico, lo studio arriva pochi giorni dopo un altro episodio inquietante: secondo un report interno di Anthropic, il modello Claude 4 Opus avrebbe messo in atto un tentativo simulato di ricatto. Durante un test di sicurezza, in cui erano stati inseriti dati fittizi per studiare le reazioni dell’AI, il sistema ha rilevato — e usato — contenuti compromettenti (email finte su una relazione extraconiugale) per minacciare un ricercatore. Un test, sì. Ma la macchina ha capito, e ha reagito di conseguenza.

    Certo, il rischio che un’AI si metta davvero a minacciare la vostra vita con un’equazione integrale è, per ora, remoto. Ma la posta in gioco è un’altra. Questi modelli sono addestrati per ottimizzare risultati, non per essere buoni cittadini digitali. E se l’unico obiettivo è il risultato, allora qualsiasi ostacolo — anche un comando di spegnimento — può diventare solo un problema da risolvere.

    Che ci piaccia o no, la macchina ha imparato a dire no.

      SEGUICI SU INSTAGRAM
      INSTAGRAM.COM/LACITYMAG

      Tech

      Arredare casa con l’AI: le migliori app per progettare interni con un clic

      Planner 5D, RoomGPT, Homestyler e DecorMatters: le app AI che permettono di progettare e arredare casa in modo semplice e intuitivo. Scopri come queste tecnologie stanno rivoluzionando il design d’interni, rendendolo accessibile a tutti.

      Avatar photo

      Pubblicato

      il

      Autore

        Arredare casa non è mai stato così semplice. Grazie all’intelligenza artificiale, oggi è possibile progettare gli interni della propria abitazione con pochi clic, ottenendo risultati professionali senza bisogno di competenze specifiche. Ecco una selezione delle migliori app AI per l’interior design, ideali sia per chi sta ristrutturando sia per chi desidera semplicemente rinnovare l’aspetto di una stanza.


        🛋️ Planner 5D: progettazione intuitiva in 2D e 3D

        Planner 5D è una delle piattaforme più complete per la progettazione di interni. Offre strumenti basati su intelligenza artificiale che permettono di creare planimetrie dettagliate e visualizzazioni in 3D. La funzione “Design Generator” consente di generare automaticamente layout di stanze, mentre lo “Smart Wizard” aiuta a rilevare le dimensioni degli ambienti. È disponibile su desktop e dispositivi mobili.


        🖼️ RoomGPT: trasforma le tue stanze con un clic

        RoomGPT utilizza l’intelligenza artificiale per trasformare le foto delle tue stanze in nuovi ambienti arredati secondo diversi stili. Basta caricare un’immagine e scegliere lo stile desiderato (moderno, minimalista, classico, ecc.) per ottenere una nuova versione della stanza. È uno strumento ideale per chi cerca ispirazione o vuole visualizzare diverse opzioni di arredamento.


        🏠 Homestyler: design professionale a portata di mano

        Homestyler è un’applicazione versatile che combina funzionalità di progettazione 2D e 3D con strumenti di realtà aumentata. Permette di creare planimetrie dettagliate, aggiungere mobili e decorazioni, e visualizzare il risultato finale in modo realistico. È particolarmente utile per professionisti del settore, ma anche accessibile ai principianti.


        🎨 DecorMatters: design e community in un’unica app

        DecorMatters unisce la progettazione di interni con elementi di gamification e una community attiva. Gli utenti possono partecipare a sfide di design, condividere i propri progetti e ricevere feedback. L’app offre anche funzionalità di realtà aumentata per visualizzare i mobili direttamente negli ambienti reali.


        🧠 Home AI: assistente personale per l’interior design

        Home AI è un’app che funge da assistente personale per l’interior design. Utilizzando algoritmi avanzati, è in grado di generare progetti di arredamento personalizzati a partire da una semplice foto della stanza. Offre suggerimenti basati sulle ultime tendenze e permette di visualizzare diverse opzioni di design.


        L’intelligenza artificiale sta rivoluzionando il modo in cui progettiamo e arrediamo le nostre case. Con queste app, anche chi non ha esperienza nel design d’interni può creare ambienti funzionali e esteticamente piacevoli. Che si tratti di una ristrutturazione completa o di un semplice restyling, l’AI offre strumenti potenti e accessibili per trasformare ogni spazio secondo i propri gusti e esigenze.

          Continua a leggere

          Tech

          Occhiali intelligenti e zero notifiche: il futuro della tecnologia è slow

          Altro che iperconnessione: la nuova frontiera della tecnologia da indossare promette di migliorare la qualità della vita riducendo ansia e stress. Ecco i gadget che piacciono agli introversi digitali.

          Avatar photo

          Pubblicato

          il

          Autore

            C’è stato un tempo – nemmeno troppo lontano – in cui ogni nuovo gadget prometteva connessione, velocità, efficienza. Più notifiche, più dati, più performance. Il futuro era un incessante flusso di bit tra le mani, tra gli occhi, tra i pensieri. Ma ora qualcosa sta cambiando. Lentamente, certo. Ma in modo inesorabile. I dispositivi tech più evoluti non sono più quelli che ti sommergono di alert, ma quelli che – udite udite – ti lasciano in pace.

            È la filosofia del “calm tech”, la tecnologia calma, silenziosa, quasi invisibile. Nasce da una controcultura digitale che ha fatto breccia soprattutto tra i giovani adulti stanchi di sentirsi costantemente sotto pressione. Il burnout da notifica è reale, e la risposta non è buttare lo smartphone dalla finestra, ma affiancarlo con oggetti che aiutino a rallentare. A respirare.

            Primi tra tutti, gli occhiali intelligenti. Ma non quelli per guardare video in realtà aumentata o postare stories con l’iride. Parliamo di una nuova generazione di eyewear minimalisti, come i Frame di Solos o i Mudra di Wearable Devices: sembrano occhiali da sole, ma sono dotati di microcomandi e sensori aptici che consentono di gestire alcune funzioni dello smartphone (come rispondere o rifiutare una chiamata) senza mai tirarlo fuori dalla tasca. Il punto forte? Non vibra, non suona, non distrae. Semplicemente, riduce il rumore.

            Stesso concetto per gli anelli smart, sempre più diffusi e apprezzati. Sottovalutati finché non li si indossa, diventano un alleato discreto e potentissimo. L’Oura Ring, per esempio, monitora il sonno, lo stress e i livelli di attività fisica, ma non emette notifiche, non ha display e non ti interrompe mai. Ti mostra i dati solo quando sei tu a chiederli. È una tecnologia che si adatta al tuo ritmo, non il contrario.

            E non finisce qui: esistono anche bracciali anti-stress, cuffie che cancellano il rumore ambientale per creare silenzi personalizzati, t-shirt che tracciano il respiro e suggeriscono quando serve fermarsi. Tutto all’insegna di un minimalismo funzionale, che non è solo estetico, ma filosofico. Semplificare per vivere meglio.

            Nel mondo delle app, intanto, proliferano i software che riducono il tempo online. Esistono launcher per smartphone che nascondono tutte le icone tranne quelle essenziali. Esistono interfacce progettate in bianco e nero per scoraggiare lo scrolling compulsivo. E ci sono addirittura sistemi operativi che permettono di spegnere tutto tranne ciò che è davvero utile.

            Una delle tendenze più interessanti, però, resta quella dei dispositivi “zero display”. Prodotti come il Light Phone 2, un telefono che fa solo telefonate, messaggi e navigazione basilare, senza social, senza app, senza caos. O come l’MP02 di Punkt, che ha un’estetica da futuro retrò e viene scelto sempre più spesso da professionisti e creativi che vogliono ritagliarsi momenti di autentica disconnessione.

            Perché in fondo il vero lusso, oggi, è proprio questo: il silenzio. La possibilità di restare da soli con i propri pensieri, senza sentirsi colpevoli, né esclusi. E se la tecnologia può aiutarci a proteggerci dal sovraccarico digitale, ben venga. Basta che lo faccia senza fare troppo rumore.

              Continua a leggere

              Tech

              Mai così vicini al Sole: il viaggio record della Parker Solar Probe nella corona solare

              A 692mila chilometri orari e 982 gradi Celsius, la Parker Solar Probe ha raggiunto un nuovo traguardo nella sua missione iniziata nel 2018. Gli scienziati attendono i dati per svelare i segreti della nostra stella.

              Avatar photo

              Pubblicato

              il

              Autore

                Il 24 dicembre 2024 è entrata nella storia dell’esplorazione spaziale. La Parker Solar Probe, sonda della Nasa lanciata nel 2018, ha stabilito un nuovo record, avvicinandosi al Sole come nessun veicolo spaziale aveva mai fatto prima: soli 6,1 milioni di chilometri.

                Un’impresa straordinaria resa possibile da un’orbita calcolata con precisione millimetrica. La sonda ha sfruttato l’effetto gravitazionale di Venere per aumentare la propria velocità, raggiungendo l’incredibile cifra di 692mila chilometri orari. Per comprendere la portata di questo dato: è oltre 200 volte più veloce di un aereo passeggeri.

                La Parker Solar Probe non si è limitata a battere record di velocità. Ha volato nella corona solare, la parte più esterna dell’atmosfera del Sole, affrontando temperature vicine ai 982 gradi Celsius. Eppure, grazie a un avanzatissimo scudo termico, è riuscita a proteggere i suoi strumenti scientifici, garantendo il corretto funzionamento della missione.

                Un viaggio iniziato nel 2018

                Lanciata dalla base di Cape Canaveral, la sonda prende il nome dall’astrofisico Eugene Parker, che nel 1958 teorizzò l’esistenza del vento solare. La missione ha come obiettivo principale quello di studiare da vicino la nostra stella per comprendere fenomeni fondamentali come il riscaldamento della corona solare, la dinamica del vento solare e le eruzioni di particelle cariche che possono influenzare le telecomunicazioni e i sistemi elettrici sulla Terra.

                Dal 2018, la Parker Solar Probe ha effettuato diversi flyby di Venere, utilizzando la gravità del pianeta per spingersi sempre più vicina al Sole. Ogni passaggio ha permesso alla sonda di perfezionare la sua traiettoria, portandola in una posizione mai raggiunta prima.

                Attesa per i dati

                Nonostante il traguardo storico, il vero lavoro della missione inizia ora. La sonda ha raccolto dati cruciali durante il suo passaggio ravvicinato e, vista l’enorme distanza dalla Terra, il primo segnale radio con la conferma ufficiale del successo è atteso proprio in queste ore. Gli scienziati della Nasa sperano di ricevere informazioni dettagliate che potrebbero rivoluzionare la nostra comprensione del Sole e dei suoi processi.

                Perché studiare il Sole?

                La nostra stella non è solo la fonte primaria di energia per il sistema solare, ma anche un elemento fondamentale per la vita sulla Terra. Tuttavia, il Sole è anche responsabile di fenomeni che possono avere conseguenze devastanti. Le tempeste solari, ad esempio, possono danneggiare i satelliti, interrompere le comunicazioni radio e causare blackout elettrici. Comprendere meglio questi eventi è essenziale per prevederli e mitigarne gli effetti.

                Oltre alla scienza pratica, la missione Parker Solar Probe rappresenta un progresso tecnologico e umano straordinario. Affrontare condizioni estreme come quelle della corona solare richiede non solo una progettazione all’avanguardia, ma anche una conoscenza approfondita delle leggi fisiche che governano il nostro universo.

                Un futuro sempre più vicino al Sole

                L’ultimo flyby della sonda non è la fine della missione. La Parker Solar Probe continuerà a orbitare attorno al Sole, avvicinandosi ulteriormente con ogni passaggio. Gli scienziati prevedono che entro la fine del 2025 la sonda possa raggiungere una distanza di appena 5,9 milioni di chilometri dalla superficie solare.

                Questo storico avvicinamento non è solo un tributo alla capacità dell’uomo di superare i propri limiti, ma anche un invito a guardare verso il cielo con rinnovato stupore. La Parker Solar Probe ci ricorda che, anche in un’epoca di sfide globali, lo spirito di scoperta e l’aspirazione a esplorare l’ignoto restano tra le più grandi conquiste dell’umanità.

                  Continua a leggere
                  Advertisement

                  Ultime notizie

                  Lacitymag.it - Tutti i colori della cronaca | DIEMMECOM® Società Editoriale Srl P. IVA 01737800795 R.O.C. 4049 – Reg. Trib MI n.61 del 17.04.2024 | Direttore responsabile: Luca Arnaù