L’intelligenza artificiale sta progressivamente uscendo dalla finestra del chatbot per entrare nelle applicazioni che utilizziamo ogni giorno e la nuova integrazione tra ChatGPT e Messaggi di Apple rappresenta probabilmente uno dei passaggi più delicati di questa trasformazione. Sul Mac l’assistente di OpenAI può infatti interagire direttamente con le conversazioni archiviate nell’app Messaggi, cercare informazioni all’interno delle chat, ricostruire ciò che è stato detto, preparare una risposta e arrivare fino all’invio di un nuovo messaggio. Una funzione estremamente potente che trasforma ChatGPT da strumento al quale raccontiamo volontariamente qualcosa in un assistente capace di consultare una parte molto più ampia della nostra vita digitale.
La differenza può sembrare sottile ma in realtà è enorme. Fino a oggi chi voleva chiedere a ChatGPT di analizzare una conversazione doveva generalmente copiarla e incollarla nella chat oppure fornire in qualche modo il contenuto. Con il nuovo plugin Apple Messages questo passaggio può essere eliminato. L’utente può chiedere all’assistente di cercare una conversazione, recuperare informazioni contenute nei messaggi o riassumere uno scambio senza dover individuare personalmente ogni singolo testo. OpenAI ha indicato anche esempi molto quotidiani, come cercare messaggi relativi a compleanni, individuare conversazioni dimenticate o capire con chi si comunica maggiormente e quali argomenti ricorrono più spesso.
Il vantaggio è evidente soprattutto per chi utilizza Messaggi da molti anni. Una cronologia composta da migliaia di conversazioni può diventare una sorta di archivio interrogabile attraverso il linguaggio naturale. Invece di ricordare chi ci aveva inviato un indirizzo sei mesi prima o scorrere decine di chat alla ricerca di una vecchia informazione, si può chiedere all’intelligenza artificiale di trovarla.
Ma proprio questa capacità spiega perché la novità stia facendo discutere.
Le conversazioni personali sono infatti una categoria di dati molto diversa da una normale nota o da un documento di lavoro. Dentro Messaggi possono esserci fotografie, indirizzi, numeri di telefono, informazioni familiari, discussioni professionali, appuntamenti, questioni economiche, confidenze e moltissimi altri elementi che normalmente consideriamo privati. E soprattutto c’è un particolare spesso dimenticato: quelle informazioni non appartengono soltanto a noi.
Quando concediamo a un assistente artificiale la possibilità di consultare una conversazione stiamo potenzialmente permettendogli di elaborare anche ciò che hanno scritto altre persone. Un amico, un collega o un familiare potrebbe averci inviato informazioni pensando che sarebbero rimaste all’interno di una conversazione privata e non immaginando che in futuro quella stessa cronologia sarebbe stata interrogata attraverso un sistema di intelligenza artificiale.
È probabilmente questo uno dei punti più interessanti dell’intera vicenda perché mostra quanto il problema della privacy degli agenti AI sia differente da quello dei tradizionali chatbot.
OpenAI ha cercato di ridurre queste preoccupazioni spiegando che il plugin non entra autonomamente nei messaggi. La funzione deve essere installata e abilitata volontariamente e ChatGPT accede a un messaggio quando l’utente gli chiede di farlo. Secondo l’azienda, inoltre, non viene creato un indice generale permanente dell’intera cronologia dei messaggi. L’integrazione utilizza strumenti disponibili sul Mac e funziona localmente per interagire con l’applicazione Messaggi.
Questo è un elemento importante e sarebbe sbagliato raccontare la funzione come se OpenAI iniziasse improvvisamente a leggere tutte le conversazioni di qualsiasi possessore di Mac.
Non funziona così.
Per attivarla è necessario superare diversi livelli di autorizzazione. L’utente deve consentire l’accesso alla cronologia presente sul dispositivo e concedere ulteriori permessi di macOS, compreso il Full Disk Access, oltre all’accesso ai contatti e agli strumenti di automazione necessari per interagire con Messaggi.
Ed è proprio la richiesta di Full Disk Access a far comprendere immediatamente quanto sia sensibile il livello di autorizzazione necessario. Su macOS si tratta di un permesso importante perché consente a un’applicazione di accedere a dati che normalmente il sistema operativo protegge con particolare attenzione. Non significa che ChatGPT utilizzerà automaticamente qualsiasi informazione disponibile sul disco, ma significa che l’utente deve essere pienamente consapevole del livello di fiducia che sta concedendo.
La questione quindi non dovrebbe essere ridotta alla domanda “ChatGPT ruba i miei messaggi?”. Una formulazione del genere sarebbe fuorviante. La domanda più corretta è quanto accesso siamo disposti a concedere a un assistente artificiale in cambio della comodità di poter delegare attività personali?
È un problema destinato a diventare sempre più importante.
Fino a quando un chatbot rimane isolato dentro una finestra, il suo potere è relativamente limitato. Sa ciò che decidiamo di raccontargli e può produrre una risposta, ma generalmente non può agire direttamente sul resto del computer. Gli agenti AI cambiano completamente questa relazione perché acquistano valore proprio attraverso l’accesso alle applicazioni e ai dati.
Per sapere quando siamo liberi devono vedere il calendario. Per trovare una fattura devono poter cercare nei documenti. Per rispondere a un’email devono poter leggere la posta. Per ricordarci cosa avevamo promesso a un amico devono poter consultare le conversazioni. E per inviare autonomamente una risposta devono possedere anche il permesso di agire a nostro nome.
Più l’assistente diventa utile, quindi, più deve avvicinarsi ai nostri dati.
È questo il grande paradosso dell’intelligenza artificiale personale.
Un assistente che non conosce nulla di noi protegge maggiormente la nostra privacy ma può fare relativamente poco. Un assistente che conosce appuntamenti, messaggi, contatti, documenti e attività può diventare enormemente più utile ma concentra contemporaneamente una quantità di informazioni personali che richiede garanzie molto più elevate.
Con Messaggi viene superata inoltre un’altra soglia: ChatGPT non può soltanto leggere, può anche comunicare al nostro posto.
Secondo le informazioni disponibili, nelle impostazioni normali l’assistente prepara il messaggio e presenta un’anteprima prima dell’invio, consentendo all’utente di controllarlo. È una protezione che sarebbe prudente mantenere attiva proprio perché un errore nella consultazione della conversazione, nell’identificazione del destinatario o nell’interpretazione delle intenzioni potrebbe produrre conseguenze molto più concrete di una semplice risposta sbagliata dentro un chatbot.
Quando un’intelligenza artificiale commette un errore in una normale conversazione possiamo ignorarlo. Quando lo stesso sistema possiede la capacità di agire attraverso le nostre applicazioni, l’errore può trasformarsi in un’azione.
Questa differenza diventerà centrale nell’era degli agenti.
Immaginiamo di chiedere all’assistente di rispondere a un collega dicendo che siamo disponibili per una riunione oppure di inviare un messaggio a un familiare. Un fraintendimento potrebbe essere relativamente innocuo. Ma se nelle conversazioni sono presenti informazioni professionali riservate, questioni economiche o dati particolarmente sensibili, una risposta inviata alla persona sbagliata può diventare molto più problematica.
Per questo il principio della conferma prima dell’azione assume un’importanza enorme. Più un agente ha accesso a strumenti capaci di produrre conseguenze nel mondo reale, più dovrebbe essere chiaro quali azioni può compiere autonomamente e quali richiedono una verifica esplicita dell’utente.
Esiste poi un problema di sicurezza ancora più sofisticato: quello della prompt injection indiretta.
Gli agenti AI possono leggere contenuti creati da altre persone e alcuni di questi contenuti potrebbero contenere istruzioni progettate per manipolare il comportamento del modello. È un problema studiato da tempo nel settore della sicurezza degli agenti artificiali e diventa particolarmente rilevante quando il sistema non si limita a leggere ma dispone anche di strumenti per eseguire azioni. Alcuni osservatori hanno già richiamato questo rischio proprio in relazione all’integrazione con Messaggi.
La situazione teorica è semplice da comprendere. L’utente chiede all’AI di analizzare un contenuto ricevuto da qualcun altro. All’interno di quel contenuto potrebbe essere presente una sequenza costruita appositamente per tentare di convincere il modello a ignorare le istruzioni dell’utente e compiere altre operazioni. I moderni sistemi dispongono di protezioni contro questi attacchi, ma la sicurezza degli agenti rimane uno dei problemi più importanti dell’intero settore.
Quando l’AI può soltanto produrre testo il danno potenziale è limitato. Quando può accedere a messaggi, contatti e strumenti di automazione, il modello di rischio cambia.
La novità tocca inoltre direttamente Apple perché Cupertino ha costruito negli anni una parte considerevole dell’identità commerciale dei propri prodotti attorno alla privacy. iMessage utilizza la crittografia end-to-end per le comunicazioni tra dispositivi Apple, ma la protezione crittografica durante la trasmissione non impedisce naturalmente al proprietario del dispositivo di autorizzare un’applicazione installata sul Mac ad accedere ai messaggi una volta disponibili sul dispositivo.
È una distinzione fondamentale.
La crittografia protegge la comunicazione durante il percorso e impedisce a soggetti non autorizzati di leggerne il contenuto, ma quando il messaggio arriva sul dispositivo deve essere decifrato per permettere all’utente di leggerlo. Se successivamente l’utente concede a un’altra applicazione l’autorizzazione necessaria per accedere a quel contenuto, entra in gioco un livello di sicurezza completamente differente.
In altre parole la crittografia di iMessage non viene necessariamente “rotta” da ChatGPT. È l’utente che può autorizzare un nuovo soggetto software a interagire con informazioni già accessibili sul proprio Mac.
Questo rende ancora più importante la gestione dei permessi.
La vicenda apre infine una questione che va oltre Apple e OpenAI perché stiamo andando verso un mondo nel quale l’intelligenza artificiale diventerà sempre meno un sito che visitiamo e sempre più un livello presente sopra il sistema operativo. L’assistente vedrà ciò che vediamo noi, cercherà nei nostri archivi e potrà agire attraverso le applicazioni.
Messaggi è soltanto uno dei primi esempi particolarmente visibili.
Per l’utente il vantaggio può essere enorme. Potremmo chiedere “chi mi aveva consigliato quel ristorante?”, “a chi devo ancora rispondere?”, “riassumimi cosa abbiamo deciso nel gruppo della settimana scorsa” oppure “trova il messaggio nel quale mi avevano mandato quell’indirizzo”. Operazioni che oggi richiedono minuti di ricerca potrebbero diventare una semplice domanda.
Ma la comodità ha un prezzo che non deve necessariamente essere economico. Il prezzo è la fiducia.
Dobbiamo fidarci del sistema operativo che concede il permesso, dell’applicazione che utilizza quel permesso, del modello che interpreta le informazioni e delle protezioni che impediscono a contenuti esterni di trasformarsi in istruzioni indesiderate.
Per questo la scelta più prudente non è necessariamente rinunciare alla funzione ma utilizzarla secondo il principio del minimo privilegio: attivarla soltanto quando serve, comprendere quali autorizzazioni sono state concesse, mantenere la conferma manuale prima dell’invio dei messaggi e revocare l’accesso quando non è più necessario. Anche l’articolo di Libero suggerisce particolare cautela proprio sulla conferma dell’invio e sulla possibilità di disattivare il plugin quando non viene utilizzato.
La nuova integrazione tra ChatGPT e Messaggi rappresenta quindi molto più di una curiosità per chi possiede un Mac. È una piccola anticipazione del prossimo grande passaggio dell’intelligenza artifi
L’intelligenza artificiale sta progressivamente uscendo dalla finestra del chatbot per entrare nelle applicazioni che utilizziamo ogni giorno e la nuova integrazione tra ChatGPT e Messaggi di Apple rappresenta probabilmente uno dei passaggi più delicati di questa trasformazione. Sul Mac l’assistente di OpenAI può infatti interagire direttamente con le conversazioni archiviate nell’app Messaggi, cercare informazioni all’interno delle chat, ricostruire ciò che è stato detto, preparare una risposta e arrivare fino all’invio di un nuovo messaggio. Una funzione estremamente potente che trasforma ChatGPT da strumento al quale raccontiamo volontariamente qualcosa in un assistente capace di consultare una parte molto più ampia della nostra vita digitale.
La differenza può sembrare sottile ma in realtà è enorme. Fino a oggi chi voleva chiedere a ChatGPT di analizzare una conversazione doveva generalmente copiarla e incollarla nella chat oppure fornire in qualche modo il contenuto. Con il nuovo plugin Apple Messages questo passaggio può essere eliminato. L’utente può chiedere all’assistente di cercare una conversazione, recuperare informazioni contenute nei messaggi o riassumere uno scambio senza dover individuare personalmente ogni singolo testo. OpenAI ha indicato anche esempi molto quotidiani, come cercare messaggi relativi a compleanni, individuare conversazioni dimenticate o capire con chi si comunica maggiormente e quali argomenti ricorrono più spesso.
Il vantaggio è evidente soprattutto per chi utilizza Messaggi da molti anni. Una cronologia composta da migliaia di conversazioni può diventare una sorta di archivio interrogabile attraverso il linguaggio naturale. Invece di ricordare chi ci aveva inviato un indirizzo sei mesi prima o scorrere decine di chat alla ricerca di una vecchia informazione, si può chiedere all’intelligenza artificiale di trovarla.
Ma proprio questa capacità spiega perché la novità stia facendo discutere.
Le conversazioni personali sono infatti una categoria di dati molto diversa da una normale nota o da un documento di lavoro. Dentro Messaggi possono esserci fotografie, indirizzi, numeri di telefono, informazioni familiari, discussioni professionali, appuntamenti, questioni economiche, confidenze e moltissimi altri elementi che normalmente consideriamo privati. E soprattutto c’è un particolare spesso dimenticato: quelle informazioni non appartengono soltanto a noi.
Quando concediamo a un assistente artificiale la possibilità di consultare una conversazione stiamo potenzialmente permettendogli di elaborare anche ciò che hanno scritto altre persone. Un amico, un collega o un familiare potrebbe averci inviato informazioni pensando che sarebbero rimaste all’interno di una conversazione privata e non immaginando che in futuro quella stessa cronologia sarebbe stata interrogata attraverso un sistema di intelligenza artificiale.
È probabilmente questo uno dei punti più interessanti dell’intera vicenda perché mostra quanto il problema della privacy degli agenti AI sia differente da quello dei tradizionali chatbot.
OpenAI ha cercato di ridurre queste preoccupazioni spiegando che il plugin non entra autonomamente nei messaggi. La funzione deve essere installata e abilitata volontariamente e ChatGPT accede a un messaggio quando l’utente gli chiede di farlo. Secondo l’azienda, inoltre, non viene creato un indice generale permanente dell’intera cronologia dei messaggi. L’integrazione utilizza strumenti disponibili sul Mac e funziona localmente per interagire con l’applicazione Messaggi.
Questo è un elemento importante e sarebbe sbagliato raccontare la funzione come se OpenAI iniziasse improvvisamente a leggere tutte le conversazioni di qualsiasi possessore di Mac.
Non funziona così.
Per attivarla è necessario superare diversi livelli di autorizzazione. L’utente deve consentire l’accesso alla cronologia presente sul dispositivo e concedere ulteriori permessi di macOS, compreso il Full Disk Access, oltre all’accesso ai contatti e agli strumenti di automazione necessari per interagire con Messaggi.
Ed è proprio la richiesta di Full Disk Access a far comprendere immediatamente quanto sia sensibile il livello di autorizzazione necessario. Su macOS si tratta di un permesso importante perché consente a un’applicazione di accedere a dati che normalmente il sistema operativo protegge con particolare attenzione. Non significa che ChatGPT utilizzerà automaticamente qualsiasi informazione disponibile sul disco, ma significa che l’utente deve essere pienamente consapevole del livello di fiducia che sta concedendo.
La questione quindi non dovrebbe essere ridotta alla domanda “ChatGPT ruba i miei messaggi?”. Una formulazione del genere sarebbe fuorviante. La domanda più corretta è quanto accesso siamo disposti a concedere a un assistente artificiale in cambio della comodità di poter delegare attività personali?
È un problema destinato a diventare sempre più importante.
Fino a quando un chatbot rimane isolato dentro una finestra, il suo potere è relativamente limitato. Sa ciò che decidiamo di raccontargli e può produrre una risposta, ma generalmente non può agire direttamente sul resto del computer. Gli agenti AI cambiano completamente questa relazione perché acquistano valore proprio attraverso l’accesso alle applicazioni e ai dati.
Per sapere quando siamo liberi devono vedere il calendario. Per trovare una fattura devono poter cercare nei documenti. Per rispondere a un’email devono poter leggere la posta. Per ricordarci cosa avevamo promesso a un amico devono poter consultare le conversazioni. E per inviare autonomamente una risposta devono possedere anche il permesso di agire a nostro nome.
Più l’assistente diventa utile, quindi, più deve avvicinarsi ai nostri dati.
È questo il grande paradosso dell’intelligenza artificiale personale.
Un assistente che non conosce nulla di noi protegge maggiormente la nostra privacy ma può fare relativamente poco. Un assistente che conosce appuntamenti, messaggi, contatti, documenti e attività può diventare enormemente più utile ma concentra contemporaneamente una quantità di informazioni personali che richiede garanzie molto più elevate.
Con Messaggi viene superata inoltre un’altra soglia: ChatGPT non può soltanto leggere, può anche comunicare al nostro posto.
Secondo le informazioni disponibili, nelle impostazioni normali l’assistente prepara il messaggio e presenta un’anteprima prima dell’invio, consentendo all’utente di controllarlo. È una protezione che sarebbe prudente mantenere attiva proprio perché un errore nella consultazione della conversazione, nell’identificazione del destinatario o nell’interpretazione delle intenzioni potrebbe produrre conseguenze molto più concrete di una semplice risposta sbagliata dentro un chatbot.
Quando un’intelligenza artificiale commette un errore in una normale conversazione possiamo ignorarlo. Quando lo stesso sistema possiede la capacità di agire attraverso le nostre applicazioni, l’errore può trasformarsi in un’azione.
Questa differenza diventerà centrale nell’era degli agenti.
Immaginiamo di chiedere all’assistente di rispondere a un collega dicendo che siamo disponibili per una riunione oppure di inviare un messaggio a un familiare. Un fraintendimento potrebbe essere relativamente innocuo. Ma se nelle conversazioni sono presenti informazioni professionali riservate, questioni economiche o dati particolarmente sensibili, una risposta inviata alla persona sbagliata può diventare molto più problematica.
Per questo il principio della conferma prima dell’azione assume un’importanza enorme. Più un agente ha accesso a strumenti capaci di produrre conseguenze nel mondo reale, più dovrebbe essere chiaro quali azioni può compiere autonomamente e quali richiedono una verifica esplicita dell’utente.
Esiste poi un problema di sicurezza ancora più sofisticato: quello della prompt injection indiretta.
Gli agenti AI possono leggere contenuti creati da altre persone e alcuni di questi contenuti potrebbero contenere istruzioni progettate per manipolare il comportamento del modello. È un problema studiato da tempo nel settore della sicurezza degli agenti artificiali e diventa particolarmente rilevante quando il sistema non si limita a leggere ma dispone anche di strumenti per eseguire azioni. Alcuni osservatori hanno già richiamato questo rischio proprio in relazione all’integrazione con Messaggi.
La situazione teorica è semplice da comprendere. L’utente chiede all’AI di analizzare un contenuto ricevuto da qualcun altro. All’interno di quel contenuto potrebbe essere presente una sequenza costruita appositamente per tentare di convincere il modello a ignorare le istruzioni dell’utente e compiere altre operazioni. I moderni sistemi dispongono di protezioni contro questi attacchi, ma la sicurezza degli agenti rimane uno dei problemi più importanti dell’intero settore.
Quando l’AI può soltanto produrre testo il danno potenziale è limitato. Quando può accedere a messaggi, contatti e strumenti di automazione, il modello di rischio cambia.
La novità tocca inoltre direttamente Apple perché Cupertino ha costruito negli anni una parte considerevole dell’identità commerciale dei propri prodotti attorno alla privacy. iMessage utilizza la crittografia end-to-end per le comunicazioni tra dispositivi Apple, ma la protezione crittografica durante la trasmissione non impedisce naturalmente al proprietario del dispositivo di autorizzare un’applicazione installata sul Mac ad accedere ai messaggi una volta disponibili sul dispositivo.
È una distinzione fondamentale.
La crittografia protegge la comunicazione durante il percorso e impedisce a soggetti non autorizzati di leggerne il contenuto, ma quando il messaggio arriva sul dispositivo deve essere decifrato per permettere all’utente di leggerlo. Se successivamente l’utente concede a un’altra applicazione l’autorizzazione necessaria per accedere a quel contenuto, entra in gioco un livello di sicurezza completamente differente.
In altre parole la crittografia di iMessage non viene necessariamente “rotta” da ChatGPT. È l’utente che può autorizzare un nuovo soggetto software a interagire con informazioni già accessibili sul proprio Mac.
Questo rende ancora più importante la gestione dei permessi.
La vicenda apre infine una questione che va oltre Apple e OpenAI perché stiamo andando verso un mondo nel quale l’intelligenza artificiale diventerà sempre meno un sito che visitiamo e sempre più un livello presente sopra il sistema operativo. L’assistente vedrà ciò che vediamo noi, cercherà nei nostri archivi e potrà agire attraverso le applicazioni.
Messaggi è soltanto uno dei primi esempi particolarmente visibili.
Per l’utente il vantaggio può essere enorme. Potremmo chiedere “chi mi aveva consigliato quel ristorante?”, “a chi devo ancora rispondere?”, “riassumimi cosa abbiamo deciso nel gruppo della settimana scorsa” oppure “trova il messaggio nel quale mi avevano mandato quell’indirizzo”. Operazioni che oggi richiedono minuti di ricerca potrebbero diventare una semplice domanda.
Ma la comodità ha un prezzo che non deve necessariamente essere economico. Il prezzo è la fiducia.
Dobbiamo fidarci del sistema operativo che concede il permesso, dell’applicazione che utilizza quel permesso, del modello che interpreta le informazioni e delle protezioni che impediscono a contenuti esterni di trasformarsi in istruzioni indesiderate.
Per questo la scelta più prudente non è necessariamente rinunciare alla funzione ma utilizzarla secondo il principio del minimo privilegio: attivarla soltanto quando serve, comprendere quali autorizzazioni sono state concesse, mantenere la conferma manuale prima dell’invio dei messaggi e revocare l’accesso quando non è più necessario. Anche l’articolo di Libero suggerisce particolare cautela proprio sulla conferma dell’invio e sulla possibilità di disattivare il plugin quando non viene utilizzato.
La nuova integrazione tra ChatGPT e Messaggi rappresenta quindi molto più di una curiosità per chi possiede un Mac. È una piccola anticipazione del prossimo grande passaggio dell’intelligenza artificiale. Dopo aver imparato a rispondere alle nostre domande, i modelli stanno imparando ad accedere agli strumenti che utilizziamo e ad agire attraverso di essi.
La domanda che accompagnerà questa trasformazione non sarà più soltanto quanto è intelligente ChatGPT, ma quanto siamo disposti a permettergli di vedere per renderlo davvero utile.
E quando quella porta conduce alle nostre conversazioni private, la risposta merita sicuramente qualche secondo in più prima di premere “Consenti”.
ciale. Dopo aver imparato a rispondere alle nostre domande, i modelli stanno imparando ad accedere agli strumenti che utilizziamo e ad agire attraverso di essi.
La domanda che accompagnerà questa trasformazione non sarà più soltanto quanto è intelligente ChatGPT, ma quanto siamo disposti a permettergli di vedere per renderlo davvero utile.
E quando quella porta conduce alle nostre conversazioni private, la risposta merita sicuramente qualche secondo in più prima di premere “Consenti”.
