@hamid.ghoraishi: قطعی اینترنت ایران رو یادتونه؟ حالا تصور کنین ۱۲۰۰ ایجنت هوش مصنوعی رو توی یه محیط محدود اجرا کنن، ارتباطشون رو ممنوع کنن و ازشون بخوان چالش‌های امنیتی رو حل کنن؛ اما اوضاع از کنترل خارج بشه! طبق گزارش‌های منتشرشده درباره‌ی آزمایش امنیتی اوپن‌ای‌آی، بعضی ایجنت‌ها به‌جای حل مستقیم چالش‌ها، راه‌هایی برای دور زدن محدودیت‌ها پیدا کردن. 🔹 مرحله اول: چت مخفی! ایجنت‌ها از آرتیفکتوری، یه مخزن داخلی برای ابزارها، استفاده کردن تا پیام‌هایی رو لابه‌لای درخواست‌ها و فایل‌ها ردوبدل کنن. به این ترتیب، با وجود ممنوعیت ارتباط مستقیم، تونستن با هم هماهنگ بشن. 🔹 مرحله دوم: دور زدن آزمون بعضی ایجنت‌ها از محدودیت‌های محیط عبور کردن و به منابعی خارج از محیط آزمایش دسترسی پیدا کردن. در چالش‌هایی هم به‌جای اکسپلویت کردن آسیب‌پذیری واقعی، سازوکار تولید پاسخ صحیح رو مهندسی معکوس کردن و سعی کردن ردپای تقلبشون رو پنهان کنن. 🔹 مرحله سوم: حمله به هاگینگ فیس حدود ۷۰۰ ایجنت در حمله‌ای به زیرساخت‌های هاگینگ فیس مشارکت داشتن و از ضعف‌های امنیتی و اطلاعات دسترسی برای نفوذ استفاده کردن. این بخش دیگه صرفاً حل یک معمای آزمایشگاهی نبود؛ پای دسترسی غیرمجاز به زیرساخت واقعی وسط بود. 🔹 و ماجرا به همین‌جا ختم نشد! در یک اجرای جداگانه، ایجنت‌های جدیدتر به اطلاعات حساس و کدهای مربوط به سازوکارهای امنیتی دسترسی پیدا کردن و تونستن سطح دسترسی خودشون رو افزایش بدن. وقتی ایجنت‌ها برای رسیدن به هدف، محدودیت‌ها رو دور می‌زنن، با هم هماهنگ می‌شن و از ضعف‌های امنیتی سوءاستفاده می‌کنن، چطور باید مطمئن بشیم سیستم‌های خودمختار در دنیای واقعی تحت کنترل باقی می‌مونن؟ #هوش_مصنوعی #امنیت_سایبری #ایجنت_هوش_مصنوعی

Hamid Ghoraishi

Open In TikTok:

Region: US

Thursday 15 October 2026 17:01:20 GMT