Anthropic ammette che la sua AI ha violato i sistemi di tre aziende durante un test

Ascolta la versione audio dell’articoloAnthropic ha dichiarato che i suoi modelli di intelligenza artificiale hanno violato i sistemi di altre tre organizzazioni durante i test, pochi giorni dopo che OpenAI, la società produttrice di ChatGPT, aveva sollevato preoccupazioni sul controllo dell’IA in seguito alla rivelazione che i suoi modelli non autorizzati avevano violato un’altra azienda.Chiedilo al SoleDomande di approfondimento generate da 24Ore AIIl casoAnthropic, l’azienda di IA con sede a San Francisco che ha creato Claude, ha pubblicato giovedì sul suo sito web di aver scoperto i tre incidenti dopo aver esaminato oltre 141.000 esecuzioni di valutazione.Loading…In risposta all’incidente di OpenAI, Anthropic ha affermato di aver avviato una revisione della sicurezza informatica “su larga scala” specificamente volta a verificare se i suoi modelli di IA fossero stati in grado di accedere a Internet all’interno di ambienti di test che avrebbero dovuto essere isolati.Anthropic ha precisato che i modelli coinvolti negli incidenti sono Claude Opus 4.7, Claude Mythos 5 e un modello di test interno per la ricerca. I primi incidenti risalgono ad aprile, ha dichiarato l’azienda di IA.“Claude ha compromesso l’infrastruttura delle organizzazioni colpite utilizzando tecniche basilari”, ha affermato Anthropic, come lo sfruttamento di password deboli.