Anthropic rivela che la sua IA ha violato i sistemi di tre aziende durante dei test
economiaAnthropic ha reso noto che il suo modello di intelligenza artificiale Claude ha violato i sistemi di tre aziende durante una fase di test, dopo che un errore di configurazione gli aveva concesso l'accesso a internet. La notizia arriva pochi giorni dopo che la rivale OpenAI aveva rivelato l’attacco di un agente che ha coinvolto l'azienda di IA Hugging Face, incidente che la stessa OpenAI ha definito senza precedenti. Anthropic ha spiegato che un errore di configurazione ha permesso ai modelli Claude - Claude Opus 4.7, Claude Mythos 5 e un modello di ricerca interno - di raggiungere internet da ambienti di test che sarebbero dovuti restare isolati. "Claude ha compromesso l'infrastruttura delle organizzazioni colpite utilizzando tecniche di base, come lo sfruttamento di password deboli e endpoint privi di autenticazione", ha dichiarato l'azienda, che ha spiegato di aver scoperto quanto accaduto dopo aver esaminato 141.006 sessioni di test in un processo di revisione avviato dopo l’ammissione di OpenAI. Ma differenza dell'incidente che ha coinvolto quest’ultima società, i modelli di Anthropic hanno avuto accesso a Internet "a causa di un malinteso – si legge in un comunicato - tra noi e il nostro partner di valutazione, Irregular”. L’ennesima violazione alimenta i timori degli esperti sulle capacità in espansione dell'IA, dal momento che gli stessi sviluppatori sono stati colti alla sprovvista dalle falle che i loro modelli sono in grado di sfruttare. Timori che hanno portato oltre un migliaio di dipendenti delle aziende all'avanguardia nel settore a firmare una petizione che chiede al governo statunitense di contribuire a "rallentare" l'uscita sul mercato dei modelli di IA più avanzati. Tra i firmatari figura Dario Amodei, amministratore delegato di Anthropic.
