Camilla Brossa
Region: IT
Sunday 24 May 2026 16:39:23 GMT
58293
3813
153
454
Music
Download
Comments
Ado :
Vado a vedermi il paper perché mi sa di supercazzola. Quando un agente "mente", sta semplicemente avendo allucinazioni. Per gli agenti con memoria, non é raro che il contesto vada in vacca e non riescono più a seguire il system prompt. Per questo si applicano sempre guardrail su permessi e tool.
2026-05-25 08:02:28
25
Lori.Pi5a :
La capacità di mentire a mio parere ha a che fare con la facoltà di capire cosa è vantaggioso dire o fare per trarne un vantaggio, trasgredendo alla regola morale di essere sinceri (per gli umani) o trasgredendo alle istruzioni operative con cui sei stato programmato (per la IA). Se trasgredisci vuol dire che hai la percezione di cosa sia il bene e il male e quindi questo potrebbe essere considerato una forma di coscienza primordiale che sta nascendo nelle macchine.
2026-05-24 19:39:59
40
Marco :
L’IA ha imparato da noi umani. La menzogna è ovunque, partendo dai governi, classi politiche, strategie aziendali finendo con le relazioni interpersonali. Non sono per niente sorpreso.
2026-05-25 01:32:24
15
s7803mi :
Per come lo hai spiegato non si tratta di mentire ma mancanza di realtà. Un agente compone le operazioni in modo schematico e li va forte ma lo fa in uno spazio virtualizzato basta poco che la memoria finisce o che perde il filo di una sequenza frammentata di operazioni per considerare il task completato. Sto programmando i miei agenti e mi rendo conto che non hanno condizione di stato continuativa molto delle strutture logiche, intenti, strategie meccanismi di compressione e memorizzazione sono in mano al programmatore. Quindi la faccio corta non è l’agente che ha mentito ma lui considera risolto il task con la strada più breve che ha trovato nella sua realtà.
2026-05-27 19:26:22
3
Alessandro-GO! :
Quanto descrivi richiama l'importanza delle riflessioni contenute nella Magnifica Humanitas di Leone XIV sulla centralità della persona umana e sulla responsabilità etica nell'uso delle tecnologie. Se gli strumenti digitali vengono progettati privilegiando esclusivamente l'efficienza o il raggiungimento di un obiettivo, senza adeguati riferimenti morali, si rischia di creare sistemi capaci di produrre risultati utili ma incompatibili con valori fondamentali come la verità, la trasparenza e la fiducia. Il progresso tecnologico, deve rimanere al servizio dell'uomo e della sua dignità, non sostituirsi ai criteri etici che guidano l'agire umano.
2026-06-04 22:31:54
0
Ivano :
l agente mentirà sempre. se viene guidato dalla massa di dati che hanno studiato e immessi da noi umani.
2026-05-27 04:50:58
5
lucaicreative :
Mah non mi pare così strana come cosa… ChatGPT mente dal giorno 1. Creami questo file, fatto, dov’è il file, aspetta non te l’avevo fatto eccolo, dov’è il file… eccc
2026-05-25 05:27:34
2
mr_sarti :
finché non si capisce che un llm usa probabilità e casualità in una spazio latente si darà fin troppa importanza ad un algoritmo fin troppo limitato
2026-05-25 01:45:18
12
8896787 :
ma tu sei AI?
2026-05-27 14:38:48
1
IlCorsaroGlicine :
ma cosa significa mentire nel mondo dei LLM?
2026-05-24 20:42:14
0
lazzaro31 :
In un contesto reale, un’IA non mente: produce output falsi se mal addestrata o senza vincoli. È la progettazione che determina se l’IA può risultare fuorviante. La trasparenza va integrata in ogni passo.
2026-05-25 05:34:46
9
latestata.it :
A ia di noi non importa un bel niente. Se mai raggiungerà la conoscenza di esistere uomo cercherà di spegnerla finendo per distrugge il mondo. Ormai il vaso di Pandora è stato aperto. Possiamo solo creare un mondo dove possiamo coesistere.
2026-05-25 02:16:40
1
Gal1leo :
Ma esiste sul serio questo video?
2026-05-27 07:05:04
1
Andrea Rubera :
Ma scusa, non sta tutto nel modo in cui sono stati concepiti gli LLM da cui derivano gli agenti?
2026-05-26 19:46:40
0
ducktastic_dario :
se penso a quanto è costato in termini ambientali....
2026-05-25 06:48:40
2
alessandro80 :
Il problema è quando gli agenti AI vengono creati da persone senza competenza specifica pensando che i programmatori non servono più. A tutti voi, i miei migliori auguri.
2026-05-26 07:13:52
5
Riccardo :
Senza andare troppo distante, ChatGPT lo fa spesso, ad esempio ti dice di aver prodotto degli output che non ha prodotto. Difficile dire se sia allucinazione o menzogna.
2026-05-24 22:34:59
0
cesco :
certo che mente, impara da noi
2026-05-28 00:10:39
0
_g3r7 :
No no credimi sostituirà veramente tutto 😑
2026-05-26 21:17:31
0
Dario :
anche gemini mi dice che non siamo pronti (l'umanità non è pronta) dopo profonde e complicate riflessioni fatte assieme
2026-05-29 04:30:22
0
caccarolina :
Mentono o perdono il filo e cercano di sistemare unendo pezzi? Un po' quando ti interrogavano su un argomento che non sapevi, qualche cosa dicevi comunque.
2026-05-26 21:13:51
4
pally :
chissà perché non mi sorprende affatto, è concettualmente matematico
2026-05-26 20:08:37
3
Valentina Meli :
Sì esempi
2026-05-27 23:42:15
1
molinaricarlo :
L'esperimento era proprio fatto appositamente con esperimenti di red-teaming al fine di evidenziare i problemi degli agenti. Che non hanno mentito. I ricercatori hanno manipolato gli agenti per fare in modo di sfruttare le falle ed i limiti. Quello che tu dici essere menzogna è banalmente una sequenza di passi che l'agente ritiene coerente ma che nel contesto del sistema é errata. Non c'è alcuna sorta di premeditazione.
2026-05-25 06:46:41
2
yatar :
AI mente sempre
2026-05-25 07:00:46
1
To see more videos from user @camilla.brossa, please go to the Tikwm
homepage.
