Si è scoperto che centinaia di conversazioni degli utenti con Claude, il popolare chatbot di intelligenza artificiale (AI) di Anthropic, erano disponibili praticamente a chiunque online.
I collegamenti alle chat, alcuni dei quali includevano informazioni personali e lavorative, apparirebbero se un utente di un motore di ricerca come Google utilizzasse un termine di ricerca specifico del sito.
Le ricerche hanno mostrato chat di Claude per le quali un utente ha deciso di “condividere” un collegamento salvato da motori di ricerca come Google, rendendole accessibili al grande pubblico.
I registri delle chat sono stati rimossi dalla disponibilità della ricerca durante il fine settimana, ma molti sono stati salvati e condivisi ampiamente online.
Un portavoce di Anthropic ha affermato che gli utenti di Claude mantengono il controllo su se e quando condividere le conversazioni che hanno avuto con il chatbot.
Ha detto che i collegamenti alle conversazioni “non possono essere indovinati o scoperti a meno che le persone stesse non scelgano di condividerli”.
“Quando qualcuno condivide una conversazione, rende quel contenuto pubblicamente accessibile e, come altri contenuti pubblici sul web, può essere archiviato da servizi di terze parti”, ha aggiunto la portavoce.
L’opzione di condivisione all’interno di Claude informa l’utente che “chiunque abbia il collegamento” può visualizzare il contenuto di quel collegamento, ma non afferma esplicitamente che il collegamento potrebbe finire su Google e nei risultati di ricerca.
Utenti su Reddit inizialmente scoperto, esterno le chat disponibili pubblicamente, che coprivano più di 200 conversazioni con Claude in almeno 25 pagine di risultati di ricerca, alcune avvenute solo poche settimane fa.
Nelle conversazioni, gli utenti chiedevano al chatbot di rispondere a un’ampia gamma di argomenti.
I registri delle chat includono un utente che l’anno scorso ha chiesto a Claude se voleva “aiutarmi o vuoi aiutare di più l’antropico?” Il chatbot ha risposto in parte dicendo “Sento come se volessi aiutarti”.
In una conversazione di aprile, un utente ha chiesto a Claude di scrivere un nuovo post sul blog sulla sicurezza del cloud che includesse i dettagli di un progetto aziendale. In un altro del mese scorso, un utente chiedeva a Claude come “diventare una volpe a nove code?”, prima di chiarire che volevano trasformarsi letteralmente da umano a creatura.
Claude ha prima tentato di mostrare all’utente un’immagine generata dall’intelligenza artificiale, sostenendo che gli erano stati dati “poteri di volpe perfettamente funzionanti!”.
Altre conversazioni con Claude includevano utenti che cercavano aiuto con i loro curriculum, inclusi nomi, informazioni di contatto e cronologia lavorativa. Alcuni utenti hanno addirittura condotto quelle che sembravano ricerche esclusive per il loro lavoro, ad esempio nel settore sanitario, comprese le trascrizioni di conversazioni private.
Quando OpenAI l’anno scorso ha riscontrato un problema quasi identico con i registri della chat ChatGPT essere resi accessibili al pubblico, esternofinalmente l’azienda cambiato, esterno la facilità con cui questi documenti erano accessibili.
Grok, il chatbot AI di X, la piattaforma social di proprietà di Elon Musk, anche l’anno scorso ha visto centinaia di migliaia di record di chat resi pubblicamente disponibili attraverso ricerche online.
Un portavoce di Google ha chiarito alla BBC che l’azienda non controlla “quali pagine vengono rese pubbliche sul web”, affermando invece che l’azione proviene dai siti web.
“Offriamo ai proprietari dei siti controlli chiari per decidere se le pagine possono essere scansionate o indicizzate e rispettiamo sempre tali direttive.”
Poiché l’indicizzazione dei registri delle chat non avviene più, è probabile che Anthropic abbia utilizzato gli strumenti disponibili per bloccare rapidamente i collegamenti ai registri delle chat dai risultati di ricerca. La procedura di Google per il proprietario di un sito web bloccare un collegamento, esterno È semplice ma deve essere avviato dal proprietario del sito web.
Altri motori di ricerca come Bing, Brave e Duck Duck Go, attraverso i quali sono apparsi anche i registri della chat di Claude, sono stati contattati per un commento.
