هشدار OpenAI درباره یک ضعف جدی در مرورگرهای هوش مصنوعی

Prompt Injection دقیقاً چیست؟

Prompt Injection نوعی حمله است که در آن، دستورهای مخرب به‌صورت پنهان در محتوای وب، ایمیل‌ها یا اسناد قرار داده می‌شوند تا عامل هوش مصنوعی را فریب دهند و باعث اجرای رفتار ناخواسته شوند.

برخلاف آسیب‌پذیری‌های سنتی، این حملات از ضعف کد سوءاستفاده نمی‌کنند، بلکه مستقیماً منطق تصمیم‌گیری مدل‌های زبانی را هدف می‌گیرند؛ چیزی شبیه مهندسی اجتماعی، اما برای AI.

OpenAI این حملات را مشابه کلاهبرداری‌های اینترنتی می‌داند: قابل کاهش، اما نه قابل ریشه‌کن شدن.

چرا مرورگرهای هوش مصنوعی آسیب‌پذیرترند؟

مرورگرهای Agentic فقط صفحات وب را نمایش نمی‌دهند؛ آن‌ها می‌توانند ایمیل بخوانند، پیام ارسال کنند، فایل بسازند و حتی پرداخت انجام دهند. این سطح از دسترسی، ریسک امنیتی را به‌طور چشمگیری افزایش می‌دهد.

پژوهشگران امنیتی این ریسک را حاصل ضرب «خودمختاری» در «سطح دسترسی» می‌دانند؛ ترکیبی که در مرورگرهای هوشمند به نقطه‌ای حساس رسیده است.

اعتراف OpenAI؛ چرا این مشکل حل نمی‌شود؟

OpenAI به‌صراحت اعلام کرده که Prompt Injection احتمالاً هرگز به‌طور کامل حل نخواهد شد، زیرا مدل‌های زبانی ناچارند با محتوای پیش‌بینی‌ناپذیر و کنترل‌نشده‌ی وب تعامل داشته باشند.

به‌جای وعده‌ی امنیت مطلق، تمرکز OpenAI بر تشخیص زودهنگام، کاهش اثر حملات و به‌روزرسانی سریع دفاع‌ها قرار گرفته است.

راهکار متفاوت OpenAI؛ AI علیه AI

OpenAI از یک مهاجم خودکار مبتنی بر مدل‌های زبانی استفاده می‌کند که با یادگیری تقویتی آموزش دیده تا مانند یک هکر، آسیب‌پذیری‌های جدید را در محیط شبیه‌سازی‌شده شناسایی کند.

این سیستم می‌تواند حملات پیچیده و چندمرحله‌ای را آزمایش کند و حتی روش‌هایی را بیابد که در تست‌های انسانی شناسایی نشده‌اند.

نمونه واقعی؛ وقتی یک ایمیل ساده خطرساز می‌شود

در یکی از دموهای OpenAI، یک ایمیل حاوی دستورهای مخفی باعث شد عامل هوش مصنوعی به‌جای پاسخ خودکار، نامه استعفا ارسال کند. نمونه‌ای که نشان می‌دهد این تهدید کاملاً واقعی است.

پس از به‌روزرسانی امنیتی، Atlas توانست این حمله را شناسایی و به کاربر هشدار دهد؛ اما OpenAI تأکید می‌کند که این فقط کاهش ریسک است، نه حذف کامل خطر.

جمع‌بندی کلیدی امنیت مرورگرهای AI