ChatGPT Teen Safety: अब AI खुद पता करेगा यूजर की उम्र, टीनएजर्स के लिए बदला नियम

इस नई तकनीक का मुख्य उद्देश्य टीन यूजर्स को एक सुरक्षित डिजिटल माहौल देना है। यह सिस्टम केवल यूजर द्वारा बताई गई जन्मतिथि पर निर्भर नहीं रहेगा, बल्कि यह खुद यूजर के व्यवहार और संकेतों को पढ़कर उनकी उम्र का अनुमान लगाएगा। आइए विस्तार से समझते हैं कि यह तकनीक कैसे काम करती है और इसके लागू होने से टीन यूजर्स के अनुभव में क्या बदलाव आएगा।

कैसे काम करेगा यह नया सिस्टम?

अक्सर देखा जाता है कि इंटरनेट पर कई बार बच्चे अकाउंट बनाते समय अपनी गलत उम्र दर्ज कर देते हैं, जिससे वे एडल्ट कंटेंट या हानिकारक जानकारी तक पहुंच जाते हैं। इस समस्या का समाधान करने के लिए ChatGPT अब एक विशेष 'एज प्रेडिक्शन मॉडल' का उपयोग करेगा।

यह मॉडल किसी एक जानकारी पर निर्भर नहीं है, बल्कि यह 'बिहेवियरल' और 'अकाउंट-लेवल' सिग्नल्स के कॉम्बिनेशन का विश्लेषण करता है। उम्र का सही अनुमान लगाने के लिए यह सिस्टम निम्नलिखित चीजों पर ध्यान देगा:

• अकाउंट की हिस्ट्री: यूजर का अकाउंट कब बनाया गया था और वह कितने समय से सक्रिय है।
• एक्टिविटी पैटर्न: यूजर किस तरह के सवाल पूछता है, उसकी भाषा शैली कैसी है और वह किस समय प्लेटफॉर्म का उपयोग करता है।
• साइन-अप डेटा: अकाउंट बनाते समय यूजर ने अपनी उम्र क्या बताई थी।
  

इन सभी संकेतों का विश्लेषण करके AI यह तय करेगा कि यूजर 18 साल से कम उम्र का है या नहीं। कंपनी का कहना है कि जैसे-जैसे लोग इसका इस्तेमाल करेंगे, यूजर फीडबैक के आधार पर यह मॉडल और भी सटीक होता जाएगा।

सेफ्टी पहले से ज्यादा मजबूत

यदि इस सिस्टम को लगता है कि कोई यूजर 18 साल से कम उम्र का है, तो यह तुरंत अतिरिक्त सुरक्षा सेटिंग्स लागू कर देगा। इसका मतलब यह है कि टीन यूजर्स के लिए कंटेंट फिल्टरिंग बहुत सख्त हो जाएगी। OpenAI ने स्पष्ट किया है कि कम उम्र के यूजर्स को संवेदनशील और मानसिक स्वास्थ्य को नुकसान पहुंचाने वाला कंटेंट नहीं दिखाया जाएगा।

सुरक्षा के तहत इन श्रेणियों के कंटेंट पर रोक लगाई जाएगी:

1. ग्राफिक वायलेंस: अत्यधिक हिंसा या खून-खराबे वाली सामग्री।
2. हानिकारक वायरल चैलेंज: इंटरनेट पर चलने वाले ऐसे चैलेंज जो जानलेवा हो सकते हैं।
3. अनुचित रोल-प्ले: सेक्शुअल, रोमांटिक या हिंसक रोल-प्ले वाले संवाद।
4. ब्यूटी स्टैंडर्ड और बॉडी शेमिंग: अवास्तविक शारीरिक सुंदरता के पैमाने, अनहेल्दी डाइटिंग या शरीर को लेकर शर्मिंदा करने वाली बातें।
   

इस कदम से यह सुनिश्चित किया जाएगा कि टीनएजर्स को वही जानकारी मिले जो उनकी उम्र और मानसिक विकास के लिए उपयुक्त हो।

अगर AI ने गलत अंदाजा लगाया तो क्या होगा?

टेक्नोलॉजी कितनी भी एडवांस हो जाए, गलती की गुंजाइश हमेशा रहती है। OpenAI ने इस बात का भी ध्यान रखा है। यदि यह मॉडल किसी वयस्क यूजर को गलती से 'माइनर' (18 से कम) समझ लेता है और सुरक्षा सेटिंग्स ऑन कर देता है, तो यूजर के पास इसे सुधारने का विकल्प होगा।

ऐसे मामलों में यूजर को अपनी उम्र सत्यापित करनी होगी। इसके लिए यूजर को अपनी एक सेल्फी अपलोड करनी पड़ सकती है या आईडी वेरिफिकेशन प्रक्रिया से गुजरना होगा। वेरिफिकेशन सफल होने पर सिस्टम उस यूजर के लिए एडल्ट सेटिंग्स को दोबारा बहाल कर देगा। वहीं, अगर सिस्टम किसी की उम्र का सही अंदाजा नहीं लगा पाता है, तो वह सुरक्षा के लिहाज से डिफॉल्ट रूप से सेफ्टी सेटिंग्स को ऑन कर देगा।

ओपनएआई का यह कदम डिजिटल दुनिया में बच्चों की सुरक्षा को लेकर एक सकारात्मक पहल है। केवल जन्मतिथि पूछने के बजाय यूजर के व्यवहार से उम्र का पता लगाना एक स्मार्ट तरीका है। इससे न केवल माता-पिता की चिंता कम होगी, बल्कि टीनएजर्स भी एक सुरक्षित वातावरण में AI टेक्नोलॉजी का लाभ उठा सकेंगे।