کلیه حقوق مطالب متعلق به Vulnerlab است. بازنشر با ذکر منبع مجاز است.

Prompt Injection - LLMs -PROMPTFUZZ- Fuzzing

PROMPTFUZZ: بهره‌گیری از تکنیک‌های فازینگ برای ارزیابی مقاومت مدل‌های زبانی بزرگ (LLM) در برابر تزریق پرامپت

چکیده – مدل‌های زبانی بزرگ (LLM) به دلیل توانایی بالای خود در تولید متونی شبیه به انسان، به طور گسترده در کاربردهای گوناگونی مورد استفاده قرار گرفته‌اند. با این حال، حملات تزریق پرامپت (یا تزریق سریع – prompt injection) که شامل بازنویسی دستورالعمل‌های اصلی مدل با پرامپت‌های مخرب برای دستکاری متن تولید شده است، نگرانی‌های قابل توجهی را در مورد امنیت و قابلیت اطمینان این مدل‌ها ایجاد کرده است. اطمینان

مطالعه مقاله
Prompt Injection - LLMs -PROMPTFUZZ- Fuzzing

PROMPTFUZZ: بهره‌گیری از تکنیک‌های فازینگ برای ارزیابی مقاومت مدل‌های زبانی بزرگ (LLM) در برابر تزریق پرامپت

چکیده – مدل‌های زبانی بزرگ (LLM) به دلیل توانایی بالای خود در تولید متونی شبیه به انسان، به طور گسترده در کاربردهای گوناگونی مورد استفاده قرار گرفته‌اند. با این حال، حملات تزریق پرامپت (یا تزریق سریع – prompt injection) که شامل بازنویسی دستورالعمل‌های اصلی مدل با پرامپت‌های مخرب برای دستکاری متن تولید شده است، نگرانی‌های قابل توجهی را در مورد امنیت و قابلیت اطمینان این مدل‌ها ایجاد کرده است. اطمینان

مطالعه مقاله
wpChatIcon
wpChatIcon