L’adozione dell’intelligenza artificiale promette di aumentare la produttività e ridurrei tempi di sviluppo, ma può anche trasformarsi in una voce di spesa difficile da controllare, è quanto emerge da alcuni documenti interni attribuiti ad Amazon, secondo i quali un progetto di sviluppo affidato all’assistente IA Claude Sonnet avrebbe accumulato costi per circa 1,8 milioni di dollari, superando dell’860% il budget inizialmente previsto.
Il caso, riportato da documenti interni citati dalla stampa, riaccende il dibattito sul costo reale dell’impiego degli agenti di intelligenza artificiale nelle grandi aziende, soprattutto quando vengono utilizzati su larga scala per attività di sviluppo software.
Segui TuttoTech.net su Google Discover
Pubblicità-39%
HiHonor
🎟 Coupon -700€: AATG700 + sconto permuta di 200€
1.399€
2.299€Un progetto relativamente semplice è diventato un caso interno, ma Amazon invita a contestualizzare i numeri
Secondo quanto emerso, il progetto aveva un obbiettivo tutt’altro che complesso, ossia associare correttamente le informazioni degli autori alle rispettive schede prodotto presenti nel catalogo di Amazon; un’attività considerata relativamente semplice, che tuttavia avrebbe continuato a utilizzare Claude Sonnet per circa cinque mesi senza che i costi venissero contenuti.
Il risultato è stato una spesa complessiva di circa 1,8 milioni di dollari, una cifra che internamente sarebbe stata definita come un errore catastroficamente costoso. A rendere ancora più significativo il caso c’è un altro dettaglio, il progetto non sarebbe nemmeno arrivato alla fase di produzione.
Alla base dell’aumento dei costi ci sarebbe il massiccio consumo di token, l’unità utilizzata dai modelli linguistici per calcolare il costo dell’utilizzo. Secondo la documentazione interna, gli agenti IA avrebbero fatto crescere il numero di richieste ben oltre le stime iniziali, trasformando errori che in passato avrebbero avuto un impatto economico limitato in spese decisamente più elevate.
Sempre secondo i documenti trapelati, il progetto dedicato al catalogo non rappresenterebbe un caso isolato, un altro strumento sviluppato per supportare le attività di auditing finanziario avrebbe infatti superato il budget di circa 541.000 dollari. Anche un sistema progettato per ottimizzare i tempi di consegna della rete logistica avrebbe registrato costi superiori alle previsioni, con uno sforamento stimato in ulteriori 134.000 dollari.
Questi episodi sembrano evidenziare una criticità sempre più discussa nel settore, con i moderni modelli di intelligenza artificiale basati su una tariffazione a consumo, ogni richiesta effettuata dagli agenti contribuisce ad aumentare la spesa complessiva. Se un processo automatizzato genera un numero elevato di operazioni o presenta comportamenti non ottimizzati, il costo finale può crescere molto rapidamente.
L’azienda ha comunque ridimensionato la portata della vicenda, in una presentazione interna citata dal Financial Times, Amazon ha spiegato che, come avviene per qualsiasi nuova tecnologia, i team stanno ancora sperimentando il modo migliore per utilizzare l’intelligenza artificiale, migliorandone progressivamente anche l’efficienza economica.
Secondo il colosso dell’e-commerce, prendere alcuni episodi isolati e considerarli rappresentativi dell’intera strategia aziendale non rifletterebbe il reale utilizzo dell’IA all’interno dell’organizzazione. I numeri, del resto, aiutano a contestualizzare l’accaduto; Amazon registra un fatturato trimestrale superiore ai 181 miliardi di dollari e, in questo scenario, una spesa di alcuni milioni rappresenta una quota minima dei ricavi complessivi. Per un’azienda di queste dimensioni si tratta quindi di un’impatto economico limitato, anche se sufficiente a sollevare interrogativi sulla gestione dei costi legati agli agenti IA.
La vicenda si inserisce in un contesto già complesso, negli ultimi mesi Amazon Web Services aveva già dovuto affrontare alcuni disservizi collegati agli strumenti di codifica automatica basati sull’intelligenza artificiale, intervenendo con limitazioni ai permessi concessi agli agenti per ridurre i rischi operativi.
Anche alcune iniziative interne sarebbero state riviste, tra queste figura la rimozione di una classifica che premiava i dipendenti più attivi nell’utilizzo degli strumenti IA, una scelta che sarebbe arrivata proprio quando i costi hanno iniziato ad aumentare sensibilmente.
Il caso mette in evidenza una questione che interessa ormai gran parte dell’industria tecnologica, sempre più aziende stanno adottando modelli di intelligenza artificiale con l’obbiettivo di aumentare la produttività, ma il passaggio da licenze a costo fisso a sistemi di tariffazione basati sul consumo di token rende molto più difficile prevedere la spesa finale. Per realtà delle dimensioni di Amazon questo può rappresentare un costo gestibile, mentre per aziende più piccole il rischio di esaurire rapidamente il budget dedicato all’IA potrebbe diventare un ostacolo significativo all’adozione di queste tecnologie.
>> Home