اپن‌ای‌آی ابزاری را توسعه داده است که می‌تواند تکالیف یا هر متنی را که با چت‌جی‌پی‌تی و به درخواست دانش‌آموزان نوشته شده شناسایی کند. به گزارش وال‌استریت ژورنال، این شرکت در حال ارزیابی است که آیا واقعا این ابزار را منتشر نماید یا خیر.
سخن‌گوی اپن‌ای‌آی تأیید کرده که شرکت در حال تحقیق بر روی روش واترمارک‌گذاری متن است؛ اما به دلیل پیچیدگی‌های موجود و تأثیر احتمالی بر اکوسیستم گسترده‌تر از خود اپن‌ای‌آی، رویکردی محتاطانه را در پیش گرفته است.
او بیان کرد روش واترمارک‌گذاری متنی که در حال گسترش آن هستیم، از نظر فنی کارکرد مساعد دارد؛ اما در این راه مشکلات و تهدیداتی وجود دارد که در حال بررسی آن‌ها هستیم. واترمارک‌گذاری متن می‌تواند برای کاربرانی که از زبانی به جز انگلیسی بهره می‌برند، مشکل‌ساز باشد.
روش جدید واترمارک‌گذاری متن از اکثر تلاش‌های قبلی برای تشخیص متنهای تولیدشده با هوش مصنوعی متفاوت خواهد بود. حتی خود اپن‌ای‌آی نیز سال گذشته ردیاب متن هوش مصنوعی پیشین خود را به دلیل دقت نه‌چندان زیاد از کار انداخت.
با روش تازه واترمارک‌گذاری، اپن‌ای‌آی تنها بر روی تشخیص متنهای نوشته‌شده با چت‌جی‌پی‌تی تمرکز خواهد کرد، نه مدل‌های زبانی دیگر. این کار با اعمال تغییرات جزئی در نحوه انتخاب کلمات توسط چت‌جی‌پی‌تی انجام می‌شود و در واقع یک واترمارک نامرئی در متن ایجاد می‌کند که بعدا می‌تواند با ابزار جداگانه تشخیص داده شود.
اپن‌ای‌آی اخیرا با انتشار یک پست، رویکرد خود را در مواجهه با تشخیص محتوای تولیدشده با هوش مصنوعی به‌روزرسانی کرد. بر اساس توضیحات جدید، روش واترمارک‌گذاری تازه در برابر دست‌کاری‌های موضعی مانند باز‌نویسی پاراگراف مؤثر است.
اپن‌ای‌آی ادعا می‌کند که روش جدید واترمارک‌گذاری متن حتی می‌تواند با وجود دست‌کاری‌هایی نظیر سیستم‌های ترجمه و باز‌نویسی با دیگر مدل‌های مولد، متن ساخته‌شده با هوش مصنوعی را تشخیص دهد.
