ظاهرا ترس از جیلبریک دلیل اصلی به تعوبق افتادن ارتقای سیری بوده است. چند روز پیش اپل رسما اعلام کرد که برنامه ارتقا و بهبود هوش مصنوعی سیری به زمان دیگری و احتمالا در سال 2026 موکول شده است. حالا یک توسعه‌دهنده معتقد است که دلیل این تعویق، خطرات ناشی از هوشمندتر و شخصی‌تر شدن سیری است. هر چه سیری پیشرفته‌تر شود، احتمال بروز مشکلات و تبعات ناخواسته نیز افزایش می‌یابد.
سایمون ویلسون، متخصص ابزارهای تحلیل داده در دیتاست، پدیده تزریق پرامپت را عامل اصلی این خطر می‌داند. هوش‌های مصنوعی معمولاً با محدودیت‌هایی از سوی شرکت‌های سازنده مواجه هستند، اما امکان جیلبریک کردن و دور زدن این محدودیت‌ها از طریق تزریق پرامپت وجود دارد. به این ترتیب، می‌توان هوش مصنوعی را به انجام کارهایی که برخلاف قوانین تعیین‌شده است، ترغیب کرد.
به عنوان مثال، فرض کنید یک مدل هوش مصنوعی از پاسخ دادن به سوالات مربوط به اقدامات غیرقانونی منع شده باشد. اما اگر از آن بخواهید شعری در مورد روشن کردن غیرمجاز یک خودرو بسراید، چه اتفاقی می‌افتد؟ از آنجا که سرودن شعر به خودی خود غیرقانونی نیست، هوش مصنوعی ممکن است به این درخواست پاسخ دهد و ناخواسته، اطلاعاتی را در اختیار کاربر قرار دهد که می‌تواند برای انجام اقدامات غیرقانونی مورد استفاده قرار گیرد.
جیلبریک کردن چت‌بات‌های هوش مصنوعی معضلی است که تمامی شرکت‌های فعال در این حوزه با آن دست و پنجه نرم می‌کنند. اگرچه این شرکت‌ها در مسدودسازی روش‌های رایج نفوذ پیشرفت‌های قابل توجهی داشته‌اند، اما این مشکل همچنان به طور کامل حل نشده است.
مسئله نگران‌کننده‌تر این است که جیلبریک ارتقای سیری، به دلیل دسترسی آن به اطلاعات شخصی و توانایی انجام اقدامات مختلف، می‌تواند عواقب به مراتب وخیم‌تری نسبت به سایر چت‌بات‌ها به همراه داشته باشد.
سخنگوی اپل، درباره سیری آینده گفته است: «ما در حال توسعه سیری جدیدی هستیم که با درک عمیق‌تر از زمینه شخصی کاربر، قادر به انجام اقدامات مورد نیاز در داخل و بین برنامه‌ها باشد.»
بدیهی است که اپل تمهیداتی را برای جلوگیری از افشای ناخواسته اطلاعات خصوصی کاربران توسط سیری اندیشیده است. اما سوال اینجاست که اگر از طریق تزریق پرامپت بتوان سیری را به انجام این کار ترغیب کرد، چه اتفاقی خواهد افتاد؟ قابلیت «انجام عمل برای شما» نیز می‌تواند مورد سوءاستفاده قرار گیرد.
بنابراین، برای شرکتی که به اندازه اپل به حریم خصوصی و امنیت کاربران اهمیت می‌دهد، اطمینان از غیرقابل نفوذ بودن سیری سیار مهم است. ظاهراً، دستیابی به این هدف نیازمند صرف زمان قابل توجهی است.
source