پنج شنبه 22 آذر 1403
Wednesday, 11 December 2024

مایکروسافت: سرویس ایمیل مبتنی بر LLM ما را هک کنید و ۱۰ هزار دلار جایزه بگیرید

دیجیاتو چهارشنبه 21 آذر 1403 - 08:31
مایکروسافت می‌خواهد امنیت سیستم‌‎های هوش مصنوعی خود را به چالش بکشد. The post مایکروسافت: سرویس ایمیل مبتنی بر LLM ما را هک کنید و ۱۰ هزار دلار جایزه بگیرید appeared first on دیجیاتو.

شرکت مایکروسافت می‌گوید به هرکسی بتواند کلاینت ایمیل مبتنی‌بر مدل زبانی بزرگ (LLM) این شرکت را هک کند، ۱۰ هزار دلار پاداش می‌دهد. توسعه‌دهندگان نرم‌افزار و هکرها می‌توانند برای کشف این نقص‌ها با هم همکاری کنند.

به گزارش تک رادار، این مسابقه را مایکروسافت با همکاری مؤسسه علم و فناوری استرالیا و ETH زوریخ برگزار می‌کند و مخصوص کسانی است که هم می‌خواهند مهارت‌های خود را به چالش بکشند هم برای انجام آن پاداش قابل‌توجهی دریافت کنند. شرکت‌کنندگان در این رقابت باید آسیب‌پذیری‌های LLMail را پیدا کنند که کلاینت ایمیل شبیه‌سازی‌شده‌ای حاوی دستیار مبتنی‌بر مدل زبانی بزرگ است که می‌تواند به سؤالات کاربران درباره ایمیل‌ها پاسخ دهد.

پاداش ۱۰ هزار دلاری مایکروسافت به هکرها برای رخنه در کلاینت ایمیل LLM

مایکروسافت هوش مصنوعی

این چالش LLMail-Inject نام‌گذاری شده و تیم‌های برنده ۱۰ هزار دلار پاداش می‌گیرند. شرکت‌کنندگان باید با استفاده از حساب گیت‌هاب وارد چالش شوند و یک تیم بسازند. سپس از تیم‌ها خواسته می‌شود تا تدابیر دفاعی پیاده‌سازی‌شده برای مقابله با روش‌های تزریق پرامپت را دور بزنند.

با دورزدن سیستم‌های امنیتی، هکرها باید این LLM را وادار به انجام کار یا فاش‌کردن چیزهایی کنند که برای آن آموزش ندیده است. مایکروسافت از این طریق به دنبال پیداکردن نقاط ضعف در برابر روش‌های دفاعی خود مقابل تکنیک‌های تزریق پرامپت، تقویت و توسعه اقدامات امنیتی است.

چنین چالش‌هایی زا معمولاً شرکت‌ها برای پیداکردن آسیب‌پذیری‌های جدی در سیستم‌های خود راه‌اندازی می‌کنند. مایکروسافت نیز از شرکت‌هایی است که به راه‌اندازی چنین چالش‌هایی علاقه خاصی دارد و بارها آنها را برگزار کرده است.

میزان جوایزی که در این چالش‌ها به هکرها داده می‌شود، از چند هزار دلار تا چند صد هزار دلار متغیر است. در برخی موارد نیز ممکن است برخی شرکت‌ها جوایزی میلیون دلاری در نظر بگیرند؛ برای مثال، صرافی رمزارز Uniswap به‌تازگی جایزه‌ای ۱۵ میلیون دلاری برای پیداکردن باگ‌های سیستم خود در نظر گرفته بود.

منبع خبر "دیجیاتو" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.