نوشته و ویرایش شده توسط مجله ی مستطیل زرد
OpenAI ابزاری ساخته است که می‌تواند تکالیف یا هر متن فرد دیگر را شناسایی کند که با ChatGPT و به خواست دانش‌آموزان نوشته شده است. به‌حرف های‌ی وال استریت ژورنال، این شرکت در حال بازدید این نوشته است که آیا واقعاً آن را انتشار کند یا خیر.
سخن‌گوی OpenAI قبول کرده است که این شرکت در حال تحقیق روی روش واترمارک‌گذاری متن است؛ اما به‌علت پیچیدگی‌های حاضر و تأثیر احتمالی آن بر اکوسیستم گسترده‌ی فراتر از خود OpenAI، رویکردی محتاطانه در پیش گرفته است.
او گفت: «روش واترمارک‌گذاری متنی که در حال گسترش‌ی آن هستیم، از‌نظر فنی کارکرد مساعد دارد؛ اما در این راه مشکلات و تهدیداتی وجود دارد که در حال بازدید آن هستیم. واترمارک‌گذاری متن می‌تواند برای کاربرانی مشکل‌ساز باشد که از زبانی به‌جز زبان انگلیسی منفعت گیری می‌کنند.»
روش واترمارک‌گذاری متنی تازه از اکثر کوششهای قبلی برای تشخیص متن تشکیل‌شده با هوش مصنوعی متفاوت خواهد می بود. حتی خود OpenAI نیز سال قبل ردیاب متن هوش مصنوعی قبلی خود را به‌علت دقت نه‌چندان زیاد از کار انداخت.
آخرین مطالب
- حکم حبس اماماوغلو صادر شد_مستطیل زرد
- کامپیوتر گیمینگ تازه اچپی با کارت گرافیک معارفهنشده RTX 5060 Ti رؤیت شد_مستطیل زرد
- انرژی تاریک ضعیفتر شده است_مستطیل زرد
- دل از کامپیوترها و لپتاپهای پرو مکس برای گسترشدهندگان هوش مصنوعی رونمایی کرد_مستطیل زرد
- اغاز پیش فروش بلیت پروازهای روزهای پایانی نوروز_مستطیل زرد
با روش تازه واترمارک‌گذاری متن، OpenAI فقطً روی تشخیص متن‌های نوشته‌شده با ChatGPT تمرکز خواهد کرد، نه مدل‌های زبانی دیگر. این کار با تشکیل تغییرات کوچک در نحوه‌ی انتخاب کلمات به‌واسطه‌ی ChatGPT انجام می‌بشود و درواقع واترمارک نامرئی در متن تشکیل می‌کند که بعداً می‌تواند با ابزار جداگانه تشخیص داده بشود.
OpenAI به‌تازگی با انتشار کردن پستی رویکرد خود را در‌روبه رو تشخیص محتوای تشکیل‌شده با هوش مصنوعی به‌روز کرد. مطابق حرف های‌های تازه OpenAI، روش واترمارک‌گذاری تازه در‌برابر دست‌کاری‌های موضعی همانند تحول پاراگراف مؤثر است.
OpenAI ادعا می‌کند که روش تازه واترمارک‌گذاری متن حتی می‌تواند با وجود دست‌کاری‌هایی همانند سیستم‌ها ترجمه و بازنویسی با دیگر مدل‌های مولد، متن ساخته‌شده با هوش مصنوعی را تشخیص دهد.
دسته بندی مطالب
