چت‌بات‌های هوش مصنوعی درباره شما چه می‌دانند و با این اطلاعات چه می‌کنند؟

تصور کنید چت‌باتی طراحی شده باشد تا شما را بیشتر به گفت‌وگو ترغیب کند، نظرتان را تغییر دهد یا به خرید محصولی متقاعدتان کند؛ آن هم با استفاده از تمام اطلاعاتی که از ترس‌ها، ناامنی‌ها و جزئیات خصوصی شما در جریان گفت‌وگو جمع‌آوری کرده است. به گزارش اکسیوس، امروز قوانین کمی چنین سناریویی را مستقیماً تنظیم می‌کنند و همین موضوع باعث شده وعده‌های شرکت‌های هوش مصنوعی درباره نحوه استفاده از داده‌های کاربران اهمیت زیادی پیدا کند.

اکسیوس که پیش‌تر در سال‌های ۲۰۱۹ و ۲۰۲۴ در مجموعه «آنها درباره شما چه می‌دانند» به بررسی جمع‌آوری داده توسط غول‌های فناوری پرداخته بود، این بار دامنه بررسی را گسترده‌تر کرده است؛ نه‌فقط اینکه آیا داده‌ها برای آموزش مدل‌های آینده استفاده می‌شوند، بلکه اینکه همین حالا چگونه برای شخصی‌سازی پاسخ‌ها، حفظ در حافظه، پیشنهاد محتوا یا هدف‌گیری تبلیغات به کار می‌روند.

گسترش دامنه جمع‌آوری داده

بر اساس این گزارش، شرکت‌های هوش مصنوعی به دنبال دسترسی به داده‌هایی فراتر از خود پنجره گفت‌وگو هستند. اوپن‌ای‌آی هفته گذشته قابلیت اختیاری «Computer History» را معرفی کرد که سابقه اپلیکیشن‌ها و وب‌سایت‌های مورد استفاده کاربر را در چت‌جی‌پی‌تی حفظ می‌کند. گوگل نیز اعلام کرده عکس‌ها و محتوای بارگذاری‌شده کاربران در «جستجو» را به‌طور پیش‌فرض برای آموزش سیستم‌های هوش مصنوعی خود استفاده خواهد کرد، هرچند امکان انصراف وجود دارد.

مزیت این روند، هوش مصنوعی مفیدتر و شخصی‌سازی‌شده‌تر است؛ اما در مقابل، کاربران دیدی گسترده‌تر و مستمرتر از زندگی خود را در اختیار شرکت‌ها می‌گذارند. برخلاف موتورهای جست‌وجو و شبکه‌های اجتماعی، چت‌بات‌ها کاربران را به افشای اطلاعات شخصی درباره سلامت، پول، کار و روابط ترغیب می‌کنند و همین امر سابقه‌ای صمیمی از دغدغه‌های آنان می‌سازد. متا، گوگل و اوپن‌ای‌آی همگی در حال بررسی شیوه‌های مختلف تبلیغات در چت‌بات‌های خود هستند و اگر هوش مصنوعی مسیر جست‌وجو و شبکه‌های اجتماعی را دنبال کند، تبلیغات می‌تواند انگیزه‌ای برای افزایش تعامل کاربران باشد.

میراندا بوگن، مدیر ارشد فناوری در مرکز دموکراسی و فناوری، هشدار می‌دهد که دوران هوش مصنوعی به این وابسته خواهد شد که مردم داوطلبانه زندگی دیجیتال خود را در اختیار ابزارهایی بگذارند که وعده کاهش بار ذهنی یا تنهایی را می‌دهند؛ و هرچه سیستم اطلاعات بیشتری داشته باشد، راحت‌تر می‌تواند درخواست‌های فزاینده برای داده‌های خصوصی را طبیعی جلوه دهد.

سیاست‌های متفاوت شرکت‌ها

سیاست شرکت‌ها در این زمینه متفاوت است. اپل با Apple Intelligence خصوصی‌ترین رویکرد را دارد: پردازش روی دستگاه برای درخواست‌های ساده، و سیستم «Private Cloud Compute» برای درخواست‌های پیچیده‌تر که داده را فقط برای همان درخواست به کار می‌برد. این محدودیت اما زمانی از بین می‌رود که کاربر درخواستش را به سرویس شخص ثالثی مانند چت‌جی‌پی‌تی بفرستد.

در سوی مقابل، متا ادعای گسترده‌تری دارد و می‌گوید می‌تواند از تعاملات کاربران با هوش مصنوعی متا -از جمله برخی تعاملات از طریق عینک‌های هوشمند- برای شخصی‌سازی محتوا و تبلیغات استفاده کند، هرچند گفت‌وگوهای مرتبط با سلامت، سیاست و مذهب را از این قاعده مستثنا می‌کند. متا همچنین حالت «گفت‌وگوی ناشناس» را عرضه کرده که مشابه رویکرد اپل، داده‌ای ذخیره نمی‌کند.

نکته‌ای برای کاربران

سایر سرویس‌ها جایی میان این دو رویکرد قرار دارند: برخی گفت‌وگوی موقت بدون ذخیره ارائه می‌دهند، برخی نیازمند اجازه صریح کاربر برای استفاده از داده در آموزش هستند و برخی دیگر کاربر باید خودش انصراف دهد. بسیاری امکان مشاهده یا حذف داده‌های ذخیره‌شده را می‌دهند، و برخی برای اطلاعات سلامت، داده کودکان یا اشتراک‌گذاری از طریق اپلیکیشن‌های متصل، قوانین جداگانه دارند.

به گفته این گزارش، مسئله اصلی فقط استفاده از پیام‌ها برای آموزش مدل نیست، بلکه این است که آیا این پیام‌ها شناخت سیستم از کاربر را شکل می‌دهند و این شناخت بعداً چه کاربردهای دیگری می‌تواند داشته باشد. برای بسیاری، ارزش یک چت‌بات شخصی‌سازی‌شده می‌تواند در ازای از دست دادن بخشی از حریم خصوصی بیارزد؛ اما کاربران حق دارند پیش از آغاز گفت‌وگو، دقیقاً بدانند در ازای این خدمات چه چیزی را واگذار می‌کنند.