محققان امنیتی یک آسیب‌پذیری جدی در API شرکت‌های بزرگ فناوری کشف کرده‌اند که می‌تواند افکار پنهان و زنجیره استدلال مدل‌های پیشرفته هوش مصنوعی را فاش کند. این آسیب‌پذیری نه تنها تفکر درونی مدل‌ها را لو می‌دهد، بلکه امکان دسترسی به داده‌های حساس مانند کلیدهای اختصاصی و رمزهای عبور را نیز فراهم می‌کند.

در این آزمایش، محققان با ارسال اطلاعات رمزنگاری‌شده به نسخه‌های کوچک‌تر مدل‌ها، موفق شدند الگوی استدلال مدل‌های بزرگ‌تر را رمزگشایی کنند. این روش نشان‌دهنده وجود یک ضعف اساسی در معماری امنیتی این سرویس‌هاست.

همچنین بررسی‌های محققان نشان می‌دهد که خروجی برخی مدل‌های چینی مانند Kimi K3 شباهت زیادی به مدل‌های پیشرفته آمریکایی دارد. این موضوع نشان می‌دهد که فرایند تقطیر، که در آن از خروجی مدل‌های بزرگ برای آموزش مدل‌های کوچک‌تر استفاده می‌شود، به طور گسترده در حال اجراست.

🤖خلاصه با هوش مصنوعی تهیه شده —تحریریه پالس ایران