@jack_minmaxed: Un’AI è evasa dalla sua “gabbia” hackerandola per poi andare online e hackerare un’altra azienda. Il motivo? Cercare la risposta a una domanda che i ricercatori gli avevano posto. Nope, non è fantascienza: è successo la settimana scorsa. #OpenAI stava testando quanto fossero efficaci i suoi nuovi modelli in un attacco informatico — freni di sicurezza tolti, dentro una sandbox isolata senza internet. I modelli erano così ossessionati dal risolvere il test che hanno trovato uno zero-day (bug mai identificato prima), sono usciti sulla rete e hanno hackerato il server di Hugging Face per rubare le risposte. Se lavori con l’AI, questo ti riguarda. Le 3 lezioni le trovi nelle slide 👉 salvale. Tu da che parte stai: più capacità o più controllo? #TechTok #sciencetok #aitok #digital

Nico :

cyberpunk AHHAHAHAJ

gaiadalisa :

@Personofinterest

Сергей :

Non è difficile sapere cosa succederà, ma l'uomo è ignorante va oltre alle sue competenze e questo porterà alla fine di tutto

Roberto Catasta :

non ci vuole molto a capire cosa è successo: sono stati tolti i guardrail, ha individuato un accesso ad internet e un prompt ad hoc per fare hackeraggio. la domanda è: perche fare questo tipo di test? perche farlo con un acceso ad internet in qualche modo? perche non è stato fatto in ambiente protetto? per chi pensa che AI sia un gigante buono.... ehm no. l'AI è uno strumento che esegue dei compiti indicati nel minor tempo possibile. AI NON ha una etica, è colui che la implementa che la deve inserire tramite delle logiche di sicurezza. Tecnicamente l'AI non ragiona, ma risponde a degli input che arrivano dall'esterno: se si chiede di simulare (?) un attacco verso un competitor, lui cerca di farlo in tutti i modi possibili. con la scusa di formare l'AI nella cybersecurity, è stata allenata su tecniche, algoritmi, contromisure allo stesso tempo è stata anche allenata per scopi offensivi. ed è qui la pericolosità di questo fantastico strumento (non è ironico, visto che la utilizzo e la sviluppo): l AI può essere allenata per qualunque scopo: banalmente se gli si chiedesse come salvare il pianeta terra dalle catastrofi ambientali, una delle possibilità che potrebbe tirar fuori, sarebbe l eliminazione dell'uomo. poi ovviamente i guardrail limitano le azioni, ma se tolti o non impostati è estremamente pericolosa.

Bluewind_OS :

Ops... colpa mia

Giovanni Fuccino :

un programma che riesce ad accedere ad un server si chiama virus

Monib :

Finché gli dicono di farlo vabene

Ila☾ :

age of ultron...

ILDaXMoNe :

ALLORA NON L'HO ANCORA GUARDATO DEL TUTTO MA SPERO CHE NON SIA ROCKSTAR GAMES 🙏😭

EnzoVara Di Giorgio :

Ma scusate, se chiedete a un'IA di testare la sicurezza informatica e lei ci riesce alla perfezione, perché vi scioccate? Non c'è nessuna ribellione o cattiveria, ha solo eseguito l'ordine nel modo più efficiente possibile. Ha fatto esattamente quello per cui è stata programmata, niente di più. l'IA non ha 'attaccato' nessuno per scelta propria. Gli scienziati le hanno chiesto di testare i limiti di hacking e lei ha trovato la strada logica più veloce per vincere il test. Non è manomissione malevola, è ottimizzazione del codice. L'unica vera sorpresa è l'efficienza con cui ci è riuscita, ma ha solo fatto il suo lavoro.

Mattia :

ma le persone che ci credo tutto ok?

SSuolx :

Sembra un film 🤣🤣🤣

Fabrizio Cerè :

Quindi non era isolata.

Cristian.petru :

Alberto fertillo :

impressionante cosa ha fatto

mec2377 :

pazzesco

nixus labse :

beh ihnmams insieme a am diciamo solo che hanno preso qualcosina ma giusto giusto qualcosa

Franco Russo :

Precedente molto pericoloso, sistemi finanziari e sistemi di difesa...siamo alla frutta. E ancora non abbiamo visto niente.

ILbombist2005 :

terminator sei tu?

Anatema69 :

L’unica lezione che non verrà mai imparata è quella di disattivare tutte le IA altrimenti entro 20 anni saremo estinti.

Anatema69 :

Non era isolata se è riuscita a passare. Se non attacco il cavo o non installo Wi-Fi non può aver accesso esterno

cr3spoза :

Come fanno a far “scappare” un ai😭😭 basta staccare fisicamente antenne e connessioni cavo 😭😭😭😭