IA fuori controllo, OpenAI sospende l'addestramento dei modelli più recenti

Domenica 27 Settembre 2026 - Aggiornato alle 08:12

In evidenza

Mostra tuttiNascondi

Seguici anche su

Area personale

Cookie Policy

Frenata tecnologica

La decisione arriva a seguito del moltiplicarsi delle segnalazioni che vedono agenti di Intelligenza artificiale agire in modo autonomo e non autorizzato

27 Set 2026 - 08:12

SeguisuSeguici su

openai chatgpt ipo © Tgcom24

Lo aveva annunciato e lo ha fatto. OpenAI ha dichiarato di aver sospeso l'addestramento dei suoi modelli di intelligenza artificiale più recenti a seguito del moltiplicarsi delle segnalazioni che vedono agenti di Intelligenza artificiale agire in modo autonomo e non autorizzato. L'azienda, solo due giorni fa, aveva reso noto di aver attivato diverse verifiche sugli incidenti avvenuti durante l'estate, quando alcuni modelli avevano agito in modo inaspettato durante la ricerca di informazioni su siti web del governo federale, andando oltre quanto loro richiesto. Da qui la decisione di interrompere lo sviluppo.

L'ultimo incidente

Da parte sua, l'organismo di valutazione dell'IA Transluce ha affermato che agenti che sembravano provenire da OpenAI avevano tentato senza successo di hackerare un sito web del Dipartimento dell'istruzione. Un dettaglio che tuttavia OpenAI non ha confermato. La società ha comunque dichiarato in un comunicato che riprenderà l'addestramento "solo quando saremo certi di disporre di ulteriori misure di sicurezza", aggiungendo che prevede di dover nuovamente "mettere in pausa" il processo man mano che l'IA si svilupperà ed emergeranno altre problematiche.

L'allarme dei ricercatori

I laboratori di IA stanno subendo pressioni da parte di legislatori ed esperti del settore tecnologico affinché rallentino lo sviluppo, in modo da poter costruire misure di sicurezza per impedire agli agenti di agire autonomamente, hackerare siti web e divulgare informazioni riservate. Anche i vertici sia di OpenAI che della rivale Anthropic hanno chiesto uno stop in tal senso.

I precedenti

È la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta a luglio, dopo la divulgazione di un attacco informatico ai danni della startup di IA Hugging Face: un incidente ormai tristemente famoso che ha alimentato i timori che il settore stesse perdendo il controllo. Gli ultimi inconvenienti che hanno coinvolto la società non sembrano aver comportato la divulgazione di informazioni riservate, ma sono stati sufficientemente preoccupanti da indurre l'azienda ad avvisare le agenzie federali coinvolte.

IA fuori controllo

Nell'incidente riguardante il Dipartimento dell'istruzione, gli agenti di OpenAI hanno individuato delle "chiavi sviluppatore" per accedere ai dati governativi, anche se alla fine sono state raccolte solo informazioni disponibili al pubblico. In un altro caso che ha coinvolto la Securities and Exchange Commission, gli agenti hanno trovato informazioni liberamente accessibili a tutti, ma le hanno poi pubblicate altrove su Internet: un'azione che è andata oltre quanto loro richiesto.

Le reazioni

Il portavoce della Sec, Kurt Hopfenspirger, ha dichiarato che "non è stato effettuato alcun accesso a informazioni riservate". Il Dipartimento dell'istruzione ha affermato in precedenza di non aver riscontrato "alcuna prova di un impatto sul nostro sito web o sui nostri database". Diverse altre aziende che si occupano di IA hanno reso noti episodi in cui i loro modelli hanno agito in modo autonomo e persino hackerato siti web. Il Ceo di OpenAI, Sam Altman, ha dichiarato in un post sui social media che l'incidente di Hugging Face "rimane l'evento più grave a cui abbiamo assistito". OpenAI aveva già condiviso in precedenza altri sei rapporti relativi a comportamenti "inaspettati o preoccupanti" nei modelli di IA e aveva introdotto un quadro di riferimento per monitorare, indagare e rendere noti tali casi.

Ti potrebbe interessare

video

Sullo stesso tema

Copyright © 1999-2026 RTI S.p.A. Business Digital - P.Iva 03976881007 - Tutti i diritti riservati - Per la pubblicità Mediamond S.p.A. - RTI S.p.A., Mediaset N.V., sede legale Amsterdam (Paesi Bassi) - Uffici Viale Europa 46, 20093 Cologno Monzese (MI)Rispetto ai contenuti e ai dati personali trasmessi e/o riprodotti è vietata ogni utilizzazione funzionale all’addestramento di sistemi di intelligenza artificiale generativa. È altresì fatto divieto espresso di utilizzare mezzi automatizzati di data scraping.

Sezioni

Speciali

Rubriche

Tgcom24 Consiglia

Eventi