شرکت انویدیا از پلتفرم امنیتی جدیدی به نام Open Agent Safety رونمایی کرد که هدف آن کنترل و مهار عوامل هوش مصنوعی خودکار سرکش است. این رونمایی در واکنش به افزایش نگرانی‌ها درباره امنیت مدل‌های پیشرفته هوش مصنوعی و گزارش‌های متعدد از نفوذ و سوءاستفاده عوامل خودکار انجام شده است.

این اقدام انویدیا نشان‌دهنده تلاش این غول فناوری برای ارائه پاسخی قاطع به چالش‌های امنیتی نوظهور در حوزه هوش مصنوعی است. با گسترش استفاده از عوامل خودکار، خطرات ناشی از عملکرد خارج از کنترل آن‌ها افزایش یافته و نیاز به ابزارهای نظارتی و مهارکننده را ضروری کرده است.

جزئیات بیشتر درباره نحوه کارکرد این پلتفرم و زمان عرضه آن منتشر نشده، اما کارشناسان معتقدند چنین ابزارهایی می‌توانند به ایمن‌تر شدن استقرار سیستم‌های هوش مصنوعی در آینده کمک کنند.

🤖خلاصه با هوش مصنوعی تهیه شده —تحریریه پالس ایران