عدم پاک‌سازی کامل اطلاعات پس از حذف گفتگوهای هوش مصنوعی
بر اساس پژوهش‌های انجام‌شده توسط محققان جورجیا تک، حذف یک گفتگو با دستیار هوش مصنوعی در گوشی‌های هوشمند ممکن است تمام ردپای اطلاعات را به طور کامل پاک نکند. پژوهشگران ابزاری توسعه داده‌اند که قادر است گفتگوهای حذف‌شده از دستیارهای هوش مصنوعی فعال روی گوشی‌های اندروید را بازیابی کرده و اطلاعات به دست آمده را به یک نشست کاری فعال هوش مصنوعی تبدیل کند.
این یافته‌ها نشان می‌دهد که پاک کردن یک گفتگو در دستیار هوش مصنوعی لزوماً به معنای از بین رفتن تمامی نشانه‌های آن نیست. این موضوع ضمن ایجاد نگرانی‌های حریم خصوصی برای کاربرانی که از دستیارهای هوش مصنوعی محلی استفاده می‌کنند، ابزار جدیدی در اختیار بازرسان دیجیتال برای بازیابی اطلاعات از گوشی‌های همراه قرار می‌دهد.
تفاوت دستیارهای محلی و مکانیزم حافظه کاری
دستیارهای هوش مصنوعی محلی به جای ارسال گفتگوها به سرویس‌های ابری، به صورت مستقیم روی خود گوشی اجرا می‌شوند. در زمان فعالیت این دستیارها، اطلاعات حاصل از گفتگوها می‌تواند پس از حذف شدن نیز در حافظه کاری گوشی باقی بماند. ابزار طراحی‌شده که اوریسا نام دارد، این حافظه را برای یافتن قطعات گفتگوهای حذف‌شده جستجو می‌کند.
جزئیات آزمایش و نتایج بازیابی
پژوهشگران برای سنجش این ابزار، یک دستیار هوش مصنوعی خیالی به نام پروژه نوت کیپر را با استفاده از برنامه اندرویدی چتریوآی ایجاد کردند. در این آزمایش، ۱۰۰ واقعیت خیالی درباره یک پروژه به این دستیار داده شد و سپس گفتگو حذف گردید. ابزار اوریسا توانست اطلاعات را از گفتگوی حذف‌شده بازیابی کرده و یک نشست کاری جدید ایجاد کند.
هنگامی که از دستیار بازسازی‌شده خواسته شد یادداشت‌های پروژه را فهرست کند، این سیستم ۲۶ واقعیت را بازگرداند. این در حالی است که نشست اصلی فقط به ۱۴ واقعیت دسترسی داشت، زیرا مابقی موارد خارج از حافظه فعال آن قرار گرفته بودند. این آزمایش نشان داد اطلاعاتی که هوش مصنوعی استفاده فعال از آن‌ها را متوقف کرده بود نیز قابل بازیابی هستند.
گستره آزمایش‌ها و چالش‌های بازیابی
کن شو، دانشجوی دکتری و نویسنده اصلی این مطالعه، اشاره می‌کند که این روش به مشخص شدن اطلاعات به اشتراک گذاشته‌شده و کمک‌های دریافت‌شده از دستیار هوش مصنوعی کمک می‌کند.
پژوهشگران ابزار اوریسا را در قالب شرایط زیر بررسی کردند:
- ارزیابی ابزار روی ۱۰ برنامه کاربردی مختلف سیستم‌عامل اندروید
- تست و سنجش عملکرد با استفاده از ۳ مدل گوناگون هوش مصنوعی
- اجرای ۶۰ پیکربندی آزمایشی برای بررسی میزان بازیابی داده‌ها
در تمامی این موارد، ابزار مذکور موفق شد اطلاعات گفتگوهای باقی‌مانده در حافظه گوشی را بازیابی کند. با این حال، محققان تاکید دارند که با بازنویسی حافظه گوشی توسط سایر فعالیت‌ها، بازیابی اطلاعات دشوارتر می‌شود. این پژوهش در همایش امنیت و حریم خصوصی آی‌ای‌ای‌ای در سال ۲۰۲۶ ارائه شده است.