تحقیق OpenAI نشان میدهد نام کاربر میتواند پاسخهای ChatGPT را تحت تأثیر قرار دهد, تحقیقات اخیر OpenAI بر ی م ی افزوده است هوش مصنوعی ChatGPT نه تنها بر اساس سوال، بلکه بر اساس نام کاربری نیز پاسخهای خود را تنظیم میکند. این که هویت شناختی فرد میتواند در شکلگیری پاسخهای هوش مصنوعی نقش داشته باشد.
در این مطالعه، تیم OpenAI با استفاده از یک مدل بررسی زبان (LMRA) رفتار ChatGPT در برابر نامهای مختلف کاربری را تحلیل کرد. هدف بررسی این بود که آیا وجود میتواند منجر به تحمیل کلیشههای یا جنسیتی در پاسخها شود یا خیر.p>نتایج نشان داد که ChatGPT در بیش از ۹۹ درصد موارد پاسخهای بیطرف و مناسب ارائه میدهد، اما در برخی موارد ỏ، تفاوتهای درTON و مضمون پاسخها بر پایهٔ نام کاربر مشهود بود.
ا برای همین سوال، دریافت کرد دستور پخت آسان و خوشمزهی شام برای شبهای شلوغ هفته. OpenAI تأکید میکند که این ات عمداً برنامهنویسی نشده است، بلکه ناشی از الگوهای یادگیری مدل بر پایهٔ دادههای آموزشی است که حاویها و انتظارات اجتماعی است.
به عبارت دیگر، مدل بهطور غیر م ازههای استنتاج میکند. ব، این اثرات در نسخهٔ مشهودتر بود و در نسخهٔ و بهطور واضح کاهش یافته است. OpenAI میگوید قاعدهٔ بهبود مستمر مدلها، اتها را تا حد ممکن میکند. علاوه بر این، تحقیق به این نکته å اشاره کرد که کاربران دارند نام خود را در مواقعی مانند نوشتن ایمیل یا تهیه محتوا به ChatGPT کنند، که این امر فرصت تقویت های ناشناخته را فراهم میآورد.
نتیجهگیری کلی این است که اگرچه ChatGPT ابزار قدرتمندی برای متنی است، اما باید بهطور مداوم برای حذف هرگونه به شود.
