ओपनएआई द्वारा डिजाइन किया गया एक एल्गोरिदम यह पहचान सकता है कि चैटजीपीटी का उपयोग निबंध या शोध पत्र लेखन के लिए किया जा रहा है या नहीं।
जब एआई-लिखित पाठ की पहचान करने की बात आती है, तो चैटजीपीटी की तकनीक 99.9% शुद्धता।
ओपनएआई का नया एल्गोरिदम निबंध या शोध पत्र के लिए चैटजीपीटी के उपयोग की पहचान कर सकता है
यह तकनीक एक वर्ष से उपलब्ध है, लेकिन आंतरिक चर्चाओं और उपयोगकर्ता फीडबैक को लेकर चिंताओं के कारण इसे लांच नहीं किया जा सका।
ओपनएआई सर्वेक्षण में पाया गया कि लगभग एक तिहाई समर्पित चैटजीपीटी उपयोगकर्ता इस तकनीक से असहमत हैं।
ऐसी चिंता है कि गैर-देशी अंग्रेजी भाषी लोग इस उपकरण से अनुचित रूप से प्रभावित हो सकते हैं।
उपकरण की तकनीकी संभावनाओं के बावजूद, ओपनएआई विकल्पों पर विचार कर रहा है और जोखिमों का विश्लेषण कर रहा है।
धोखाधड़ी-रोधी प्रौद्योगिकी द्वारा प्रयुक्त वॉटरमार्किंग तकनीक, पाठ उत्पादन में टोकन चयन को सूक्ष्म तरीके से संशोधित करती है।
वॉटरमार्किंग से एक अदृश्य पैटर्न उत्पन्न होता है जिसे ओपनएआई की प्रणाली पहचान सकती है।
ऐसी चिंताएं हैं कि वॉटरमार्क को मिटाने के लिए अनुवाद या इमोजी जोड़ने-घटाने जैसी विधियों का उपयोग किया जा सकता है।
यह तय करना कठिन है कि डिटेक्टर तक किसे पहुंच मिलनी चाहिए।
59% मिडिल और हाई स्कूल प्रशिक्षकों ने होमवर्क में एआई के उपयोग का खुलासा किया
प्रोफेसर और शिक्षक कक्षा में एआई के दुरुपयोग का मुकाबला करने के लिए संसाधनों को लेकर उत्साहित हैं।
सर्वेक्षण में शामिल मिडिल और हाई स्कूल के 59% प्रशिक्षकों ने कहा कि उनके विचार में विद्यार्थियों ने होमवर्क के लिए कृत्रिम बुद्धिमत्ता (एआई) का उपयोग किया है।
इस बात को लेकर चिंतित कि धोखाधड़ी-रोधी टूल निष्पक्षता और उपयोगकर्ता अनुभव को किस प्रकार प्रभावित कर सकता है, ओपनएआई सतर्क है।
वॉटरमार्किंग समाधान अन्य कंपनियों द्वारा भी विकसित किए जा रहे हैं, जैसे कि गूगल, जो अब अपने सिंथआईडी टूल का परीक्षण कर रही है।
चूंकि ऑडियो और विजुअल वॉटरमार्किंग का प्रभाव टेक्स्ट की तुलना में अधिक होता है, विशेष रूप से चुनावी वर्षों में, इसलिए ओपनएआई उन्हें टेक्स्ट की तुलना में प्राथमिकता देता है।
इस टूल पर जनता की राय जानने के लिए ओपनएआई ने सर्वेक्षण कराया है और आंतरिक बहस में भाग लिया है।
झूठे आरोप और चैटजीपीटी के प्रदर्शन पर उनका संभावित प्रभाव चिंता का कारण हैं।
एआई पारदर्शिता के संबंध में जनता की भावना और संभावित नए कानून के अनुरूप कार्य करने के प्रयास में, ओपनएआई कम विवादास्पद विकल्पों पर विचार कर रहा है।