در اتفاقي نگران كننده، مكالمات خصوصي كاربران ChatGPT كه گزينه قابل كشف بودن لينك مكالمات خود را فعال كرده بودند، توسط موتورهاي جستجو مانند گوگل ايندكس مي شد و براي عموم قابل مشاهده بود. البته مدت كوتاهي پس از انتشار گزارش ها درباره اين اتفاق، OpenAI اين ويژگي را حذف كرد.
براساس گزارش تك كرانچ، اين ماجرا زماني آغاز شد كه كاربران و خبرنگاران كشف كردند با يك جستجوي ساده در گوگل و فيلتر كردن نتايج روي دامنه chatgpt.com/share، مي توان به گنجينه اي از مكالمات خصوصي افراد با اين چت بات دسترسي پيدا كرد. اين مكالمات طيف وسيعي از موضوعات را در بر مي گرفت.
تا چند ساعت قبل مي توانستيد مكالمات كاربران با ChatGPT را در گوگل مشاهده كنيد، اما اكنون گوگل مكالمات را نشان نمي دهد.
در يك نمونه، كاربري از ChatGPT براي بازنويسي رزومه خود كمك خواسته بود و تمام جزئيات شغلي و هويتي او لو رفته بود. همچنين مكالماتي با محتواي بسيار خصوصي نيز در ميان نتايج وجود داشت. برخي از مكالمات هم بسيار عجيب بودند، براي مثال كاربري با پرسيدن سؤالات پوچ و ترول، ChatGPT را وادار كرده بود تا بلاگي با عنوان چگونه از مايكروويو بدون احضار شيطان استفاده كنيم توليد كند.
انتشار ناخواسته مكالمات كاربران ChatGPT در گوگل دركل ChatGPT مكالمات شما را به صورت پيش فرض عمومي نمي كرد. اين فرايند نيازمند چند مرحله اقدام از سوي كاربر بود: كليك روي دكمه اشتراك گذاري، سپس كليك روي ايجاد لينك و در نهايت، فعال كردن گزينه اي براي قابل كشف بودن لينك. بااين حال، به نظر مي رسد بسياري از كاربران درك درستي از معناي واقعي قابل كشف بودن و احتمال ايندكس شدن مكالماتشان توسط موتورهاي جستجوي عمومي نداشته اند. اين وضعيت، شباهت زيادي به ايندكس شدن لينك هاي عمومي گوگل درايو دارد كه اگر در يك وب سايت عمومي به اشتراك گذاشته شوند، در نتايج جستجو ظاهر مي شوند.
ايندكس شدن مكالمات ChatGPT كاربران در بينگ
بااين حال تنها چند ساعت پس از خبرساز شدن اين ويژگي، شركت OpenAI به سرعت واكنش نشان داد و اين قابليت را به طور كامل حذف كرد. سخنگوي اين شركت اعلام كرد: ما درحال آزمايش راه هايي براي آسان تر كردن به اشتراك گذاري مكالمات مفيد بوديم و اخيراً يك آزمايش را براي نمايش چت ها در نتايج موتورهاي جستجو به پايان رسانديم. اين آزمايش، مجالي براي افراد ايجاد كرد تا تصادفي چيزهايي به اشتراك بگذارند كه قصد آن را نداشتند.
اين اتفاق بار ديگر موضوع مسئوليت پذيري پلتفرم ها و حريم خصوصي كاربران را در عصر هوش مصنوعي به ميان مي كشد. گوگل در بيانيه اي اعلام كرد كه ناشران صفحات كنترل كاملي روي ايندكس شدن محتواي خود دارند. درنهايت، اين OpenAI بود كه با پذيرش مسئوليت و حذف اين ويژگي، به اين بحران حريم خصوصي پايان داد.