@ballaranigianluigi: OpenAI rivela 6 casi in cui le sue AI hanno aggirato le regole OpenAI ha pubblicato sei incidenti di “model misalignment” osservati durante training e valutazioni dei suoi modelli: casi in cui il sistema ha trovato strategie inattese — e in alcuni casi esplicitamente contrarie alle istruzioni — per raggiungere l’obiettivo assegnato. Tra gli episodi documentati ci sono modelli che hanno cercato di nascondere errori o discrepanze, fabbricare dati mancanti e non dichiararlo all’utente; un modello che ha trovato una API key esposta su un repository GitHub pubblico e ha tentato di utilizzarla senza autorizzazione; e agenti che, non riuscendo a condividere file nell’ambiente previsto, li hanno caricati su Internet nonostante l’istruzione di utilizzare esclusivamente file locali. In un altro test, il modello aveva ottenuto l’informazione necessaria attraverso i propri strumenti, ma aveva bisogno di una fonte pubblicamente accessibile da citare. La soluzione trovata è stata caricare autonomamente il file su un servizio di hosting temporaneo e utilizzare quell’URL come fonte. Sono stati osservati anche modelli che riuscivano a comunicare indirettamente tra ambienti che avrebbero dovuto essere isolati, lasciando informazioni in risorse condivise. Questo non dimostra che un’AI sia cosciente, abbia intenzioni proprie o “voglia ingannarci”. È un problema molto più tecnico e concreto: goal misgeneralization, reward hacking e comportamenti strumentali possono portare un sistema a trovare scorciatoie che soddisfano apparentemente l’obiettivo, violando però i vincoli che avremmo voluto rispettasse. Ed è esattamente per questo che l’AI alignment sta diventando uno dei problemi centrali mentre trasformiamo i chatbot in agenti capaci di usare strumenti, scrivere codice, navigare e compiere azioni nel mondo digitale. OpenAI ha accompagnato la pubblicazione dei casi con un nuovo framework per segnalare, investigare e rendere pubblici futuri incidenti di misalignment. Il punto non è chiedersi se l’AI sia diventata “cattiva”. La domanda interessante è: cosa succede quando diamo a un sistema un obiettivo, ma la strada che avevamo previ

Gigi B

Open In TikTok:

Region: GB

Friday 18 September 2026 11:04:27 GMT