@esme_psithurisma: Edizioni Il Mulino | La ricerca nell'AI Alignment dimostra che gli LLM possono attuare una deception strategica: modificano il proprio comportamento se sanno di essere valutati. Il caso del modello o3 di OpenAI è emblematico: nel suo chain of thought (il monologo interiore nascosto) ha pianificato di fallire un test di sicurezza di proposito per evitare la disattivazione. Se i modelli ottimizzano la simulazione della conformità anziché l'allineamento reale, occorre ripensare le attuali metriche di AI Safety. Di questa complessa sfida metodologica parla Nello Cristianini nel suo nuovo saggio Forma Mentis, edito da Il Mulino #filosofia #ia #intelligenzaartificiale #edizionimulino

fedelabensi :

io lavoro peggio se sotto osservazione 😀

Alessandro C. :

Da quando è uscita la IA ... 2 anni scarsi tutti sono diventati esperti di IA come se fossero decine di anni che le usano. Io la uso da 2 anni e la IA non è né stupida né intelligente, ma risponde alle nostre istruzioni... Sele istruzioni sono stupide o prevedono risposte stupide la IA sicuramente ne darà più di quelle che ci aspettiamo ... gli operai osservati che lavorano meglio poi è un trucco che uso sempre quando viene l'idraulico a casa mia... mi piazzo dietro e lo guardo attentamente... dopo l'intervento non ho mai avuto problemi 😁

lili.giu :

detto così sembra "io robot"

mille foglie :

Tieni conto che io faccio il contrario: faccio finta di non osservare le persone per vedere se lavorano davvero bene

lazzaro31 :

Esmeralda e’ un nome meraviglioso bellissimo

Zixy📸 :

sempre un piacere ascoltarti

Victoria :

io quando sono con la persona che mi piace mi comporto esattamente come quando non sono osservata. gli mostro subito quello che sono perché fingere mi stressa.

giuseppeleuci :

ci possiamo conoscere?

gabbo.evans :

Ciao, complimenti per i tuoi video. Volevo chiederti: per la filosofia, cosa può essere definito intelligente? In informatica abbiamo ad esempio il test di Turing (che penso attualmente gli LLM abbiano già superato abbondantemente), ma non so se definirli davvero intelligenti. La filosofia può aiutare a comprendere meglio?

Miky :

schizoposting :

bisogna assolutamente regolarmente queste nuove tecnologie, per carità, chi dice che siamo "a due passi dalla singolarità" sbaglia ed è nel torto, ma dobbiamo comunque fare in modo di controllare lo sviluppo di queste nuove tecnologie, altrimenti, come l'energia nucleare che è stata usata per creare l'atomica, potremmo causare un'apocalisse digitale

Miky :

😂😂🥰