AI Text Classifier

AI Classifier برای نشان دادن متن نوشته شده هوش مصنوعی یک ابزار است که قادر به تمایز بین محتوای متنی انسانی و تولید شده توسط AI می باشد. OpenAI این Classifier را توسعه داد که برای تشخیص متن تولید شده از انواع ارائه دهندگان AI آموزش دیده است. در حالی که آن را نادرست در تشخیص تمام محتوای نوشته شده AI نیست، اما می تواند به جلوگیری از سوء استفاده از متون تولید شده هوش مصنوعی کمک کند، مانند کمپین های اطلاعات غلط خودکار، عدم صداقت تحصیلی یا ارائه chatbots AI به عنوان انسان.D رغم کاربرد آن، ابزار کاملا قابل اعتماد نیست. به عنوان مثال، محدودیت هایی در شناسایی متون کوتاه دارد و ممکن است به طور نادرستی متن نوشته شده توسط انسان را به عنوان AI تولید کند. علاوه بر این، اثربخشی ابزار برای متون به زبان های غیر از انگلیسی کاهش می یابد و در متن های مبتنی بر کد ضعیف عمل می کند. علاوه بر این، آن را به درستی شناسایی متون است که بسیار قابل پیش بینی هستند. تلاش برای فریب دادن طبقه بندی با ویرایش متن نوشته شده AI نیز ممکن است. و در نهایت، طبقه بندی های مبتنی بر شبکه عصبی مانند این فرد تمایل به ضعیف کالیبره شدن خارج از داده های آموزشی خود دارند که منجر به پیش بینی های نادرست می شود. آموزش Classifier شامل یک مدل زبان در مجموعه ای از مجموعه داده های AI نوشته شده و متن انسان نوشته شده روی موضوعات مشابه است. پاسخ ها از چندین مدل مختلف زبان از سازمان های مختلف ایجاد شد که سپس به سرعت و پاسخ تقسیم شدند. برای برنامه وب، آستانه اعتماد ابزار تنظیم شده است تا نرخ مثبت پایین را حفظ کند.The AI Classifier برای استفاده عمومی باز است، با OpenAI علاقه مند به بازخورد در مورد سودمندی و اثربخشی ابزار است. این تیم پیش بینی می کند تاثیر ابزار برای گسترش به بخش هایی مانند روزنامه نگاری، تحقیق و آموزش.