OpenAI تایید کرد متن تولید شده توسط هوش مصنوعی قابل تشخیص نیست

OpenAI

طبق اعلام شرکت OpenAI، هیچ‌کدام از ابزارهای تشخیص محتوای هوش مصنوعی نمی‌توانند تفاوت متن‌های تولید شده توسط انسان و متن‌های تولید شده توسط هوش مصنوعی را تشخیص دهند.

هفته گذشته در یک پست وبلاگ تبلیغاتی OpenAI نکاتی را برای معلمان منتشر کرد که در آن دستورات پیشنهادی برای شروع وجود دارد و نشان می‌دهد چگونه برخی از معلمان از ChatGPT به عنوان یک ابزار کمک آموزشی استفاده می‌کنند. همچنین در یک پرسش متداول مرتبط، آن‌ها رسما به آنچه که قبلا می‌دانستیم هم اعتراف کردند: برنامه‌های تشخیص متن‌های تولید شده با هوش مصنوعی علیرغم اینکه اغلب برای تنبیه یا تشویق دانش‌آموزان استفاده می‌شوند، عملکرد درستی ندارند.

در بخشی از سوالات متداول OpenAI با عنوان «آیا آشکارسازهای هوش مصنوعی کار می‌کنند؟ OpenAI نوشته: “به طور خلاصه، خیر.” این درحالی است که برخی شرکت‌ها از جمله خود OpenAI ابزارهایی منتشر کرده‌اند که ادعا می‌شود محتوای ساخته شده توسط هوش مصنوعی را شناسایی می‌کنند، هیچ‌کدام از این ابزارها تایید و ثابت شده نیستند و نمی‌توانند فرق بین محتوای تولید شده توسط هوش مصنوعی و محتوای تولید شده توسط انسان را تشخیص دهند.

چند وقت پیش، به این موضوع پرداختیم که چرا آشکارسازهای نوشتن هوش مصنوعی مانند GPTZero کار نمی‌کنند و کارشناسان آن‌ها را “روغن مار” می‌نامند. این آشکارسازها اغلب به دلیل تکیه بر معیارهای تشخیص اثبات نشده، نتایج مثبت کاذب ارائه می‌دهند.

در کل باید گفت، هیچ چیز خاصی در مورد، متن نوشته شده توسط هوش مصنوعی وجود ندارد که بتواند آن‌را از متن نوشته شده توسط انسان متمایز کند و می‌توان با بازنویسی برنامه‌های تشخیص متن‌های تولید شده با هوش مصنوعی را شکست داد. در همان ماه، OpenAI طبقه‌بندی کننده هوش مصنوعی خود، که ابزاری آزمایشی برای تشخیص متن نوشته شده توسط هوش مصنوعی بود را متوقف کرد. زیرا این ابزار میزان دقت افتضاح ۲۶ درصدی داشت.

پرسش‌های متداول جدید OpenAI همچنین به یک تصور اشتباه بزرگ دیگر می‌پردازد و آن این است که ChatGPT خود می‌تواند بداند که آیا متن با هوش مصنوعی نوشته شده است یا خیر. OpenAI می‌نویسد، علاوه بر این‌ها، ChatGPT هیچ دانشی درباره محتوایی که می‌تواند توسط هوش مصنوعی تولید شود، ندارد. گاهی اوقات ChatGPT به سوالاتی مانند “آیا تو این مقاله را نوشته‌ای؟” بدین شکل پاسخ می‌دهد “ممکن است این توسط هوش مصنوعی نوشته شده باشد” این پاسخ‌ها تصادفی هستند و هیچ مبنای واقعی ندارند.

در همین راستا OpenAI به تمایل مدل‌های هوش مصنوعی خود برای ترکیب اطلاعات نادرست هم پرداخته است. این شرکت نوشته: “گاهی اوقات ChatGPT قانع کننده به نظر می‌رسد، اما ممکن است اطلاعات نادرست یا گمراه کننده‌ای به شما بدهد (که در ادبیات عام “توهم” نامیده می‌شود).” حتی گاهی اوقات می‌تواند مواردی مانند نقل قول‌ها یا مثل‌هایی را بسازد که نادرست هستند، بنابراین برای انجام تحقیقات خود از آن به عنوان تنها منبع استفاده نکنید.

در ماه مه امسال، یک وکیل به خاطر استفاده از ChatGPT به عنوان منبع، با مشکل مواجه شد. این وکیل به شش پرونده که از ChatGPT بیرون کشیده بود استناد کرد که همگی غیرموجود و نادرست بودند.

اگرچه ابزارهای خودکار تشخیص محتوای تولید شده با هوش مصنوعی عملکرد درست و مناسبی ندارند، اما این بدان معنا نیست که انسان هم هرگز نمی‌تواند نوشته‌های هوش مصنوعی را تشخیص دهد. به عنوان مثال، معلمی را درنظر بگیرید که با سبک نوشتن معمول دانش‌آموزان خود کاملا آشنا است، این معلم می‌تواند باتوجه به تغییر سبک یا توانایی دانش‌آموزان در نوشتن، متوجه شود که متن ارائه شده توسط هوش مصنوعی یا شخص دیگری نوشته شده است.

همچنین، برخی نشانه‌ها در محتوای تولید شده توسط هوش مصنوعی مانند عبارت “به‌عنوان مدل زبان هوش مصنوعی” می‌توانند نشانه‌های گویایی از کار هوش مصنوعی باشند. وجود این نشانه‌ها به این معنی است که شخصی بدون دقت یا بازنویسی، خروجی ChatGPT را کپی و جای‌گذاری کرده است. اخیرا مقاله‌ای در مجله علمی Nature نشان داد که چگونه انسان‌ها متوجه عبارت “Regenere Response” در یک مقاله علمی شده‌اند که برچسب یک دکمه در ChatGPT است.

همانطور که امروزه این فناوری وجود دارد، ایمن‌ترین کار این است که به طور کامل از ابزارهای خودکار تشخیص هوش مصنوعی خودداری کنید. “اتان مولیک”، تحلیلگر هوش مصنوعی و پروفسور وارتون، در ماه جولای به Ars گفت: “نمی‌توان متن تولید شده با هوش مصنوعی را تشخیص داد و این مسئله احتمالاً در آینده هم تغییر نخواهد کرد. ابزارهای تشخیص محتوای هوش مصنوعی نرخ کارآیی مثبت کاذبی دارند، درنتیجه نباید از آن‌ها استفاد نمود.”

منبع:

https://arstechnica.com/information-technology/2023/09/openai-admits-that-ai-writing-detectors-dont-work/

همچنین خواندن مطالب زیر توصیه می شود:

آموزش استفاده از نرم افزار DNS Benchmark به منظور افزایش سرعت اینترنت

روش برطرفسازی اختلال در DNS در اپراتور های اینترنت همراه ( برای ویندوز، ios و اندروید )

آیا اینترنت فیبر نوری با TD-LTE تفاوت دارد؟

مودم‌های فیبر نوری چیستند و تفاوت آنها با مودم‌های معمولی چیست؟