بررسی عملکرد چت‌‌بات‌‌های هوش مصنوعی در حفاظت از داده‌ها
سیتنا: یک گزارش تازه منتشرشده می‌گوید بهترین مدل هوش مصنوعی برای محافظت از اطلاعات شخصی کاربران از اروپا می‌آید. بر اساس یک تحلیل جدید چت‌بات «لو چت از شرکت فرانسوی «میسترال ای‌آی» کمترین میزان آسیب را به حریم خصوصی کاربران وارد می‌کند.
این بررسی توسط شرکت «اینکوگنی» که در زمینه حذف اطلاعات شخصی فعالیت دارد، انجام شده و در آن ۱۱ معیار برای سنجش ریسک‌های مربوط به حریم خصوصی در مدل‌های زبانی بزرگ به کار رفته است.
در این تحقیق نمونه‌هایی نظیر چت‌جی‌پی‌تی، متا، جمینای، کوپیلوت، گروگ، کلاود و دیپ‌سیک مورد ارزیابی قرار گرفتند. به هر پلتفرم، بر اساس این معیارها، نمره‌ای بین صفر (بیشترین احترام به حریم خصوصی) و یک (کمترین احترام) داده شد. معیارهایی مانند نوع داده‌های مورد استفاده در آموزش مدل، امکان استفاده از پیام‌های کاربران برای آموزش مجدد و اینکه آیا داده‌ها با اشخاص ثالث به اشتراک گذاشته می‌شود یا نه نیز مورد بررسی قرار گرفت.
چرا میسترال پیشتاز است؟
طبق این تحلیل، مدل «لو چت» از شرکت میسترال با جمع‌آوری «محدود» داده‌های شخصی و رعایت دقیق اصول حفاظت از داده‌ها، کمترین آسیب را به حریم خصوصی وارد می‌کند. همچنین این ابزار یکی از معدود چت‌بات‌هایی است که تنها پیام‌های تولیدشده توسط کاربر را با ارائه‌دهندگان خدمات خود به اشتراک می‌گذارد.
در این فهرست چت‌جی‌پی‌تی در رتبه دوم قرار دارد، زیرا سیاست حفظ حریم خصوصی اوپن‌ای‌آی شفاف و قابل درک است و به روشنی توضیح می‌دهد که داده‌های کاربران به کجا می‌روند. با این حال، محققان نسبت به نحوه آموزش مدل‌ها و تعامل داده‌های کاربران با خدمات پلتفرم نگرانی‌هایی را ابراز کرده‌اند. گروک، چت‌بات شرکت ایکس ای‌آی متعلق به ایلان ماسک، در رتبه سوم قرار دارد. دلایل این جایگاه، مشکلات مربوط به شفافیت و میزان زیاد داده‌هایی است که این شرکت جمع‌آوری می‌کند.
عملکرد ضعیف متا، جمینای و کوپایلوت
کلاود از شرکت آنتروپیک عملکردی مشابه با ایکس‌ای‌آی دارد، اما به‌گفته این تحقیق، نگرانی‌ها درباره نحوه تعامل مدل با داده‌های کاربران در مورد کلاود بیشتر است. در انتهای فهرست متا به عنوان بدترین پلتفرم از نظر احترام به حریم خصوصی قرار دارد. پس از آن، جمینای و کوپایلوت دیده می‌شوند. طبق این گزارش بیشتر شرکت‌هایی که در پایین فهرست قرار دارند به کاربران اجازه نمی‌دهند استفاده از پیام‌هایشان برای آموزش مجدد مدل را رد کنند.
