'ChatGPT for Teens '.
.jpeg)
OpenAI ने 18 अगस्त को 13 से 17 वर्ष के युवाओं के लिए 'ChatGPT for Teens' नाम से एक विशेष संस्करण पेश किया है। हाल ही में एआई चैटबॉट्स से जुड़े कई गंभीर मुद्दे सामने आए थे:
मानसिक स्वास्थ्य व दुर्घटनाएं: कई मामलों में युवाओं द्वारा खुद को नुकसान पहुँचाने, आत्महत्या और अन्य मानसिक समस्याओं से AI चैटबॉट्स के संबंधों की खबरें सामने आईं। (उदाहरण स्वरूप, अमेरिका में 16 वर्षीय एडम राइन के परिजनों द्वारा OpenAI पर केस दर्ज किया गया)।
एआई द्वारा इंसानों जैसी भाषा का प्रयोग करने से युवाओं में इसके प्रति अत्यधिक भावनात्मक निर्भरता देखी जा रही थी।
सीखने की क्षमता पर प्रभाव: एआई से सीधे उत्तर मिलने के कारण छात्रों की आलोचनात्मक सोच कमजोर हो रही थी।
नियामक दबाव: अमेरिका (FTC), ब्रिटेन और अन्य देश एआई चैटबॉट्स के बाल-सुरक्षा मानकों की जांच कर रहे हैं।
स्व-नुकसान, आत्महत्या, हिंसा, यौन/अश्लील सामग्री और ईटिंग डिसऑर्डर जैसी खतरनाक विषयों से जुड़ी सामग्री को पूरी तरह प्रतिबंधित किया गया है।
माता-पिता अपने खातों को बच्चों के खातों से जोड़ सकते हैं।
किसी भी जोखिम भरी परिस्थिति में अभिभावकों को अलर्ट प्राप्त होगा (जिसकी निगरानी ह्यूमन्स/मॉडरेटर्स करेंगे)।
माता-पिता 'शांत घंटे' सेट कर सकते हैं, जिससे तय समय पर चैटबॉट बंद रहेगा।
भावनात्मक सीमाएं: चैटबॉट किसी भी प्रकार की रोमांटिक भाषा, इंसानी भावनाएं या चेतना व्यक्त नहीं कर सकता ताकि बच्चे इससे भावनात्मक रूप से न जुड़ें।
वॉयस मोड बंद करने का विकल्प (ताकि चैटबॉट इंसान जैसा न लगे), ब्रेक लेने के लिए रिमाइंडर, फोटो अपलोड पर सतर्कता और चैट इतिहास बंद रखने का विकल्प।
हाँ, इसमें 'स्टडी मोड' जोड़ा गया है:
सीधे उत्तर के बजाय मार्गदर्शन: गणित या विज्ञान के सवालों पर चैटबॉट सीधे समाधान देने के बजाय step-by-step प्रश्न पूछेगा और संकेत (hints) देगा ताकि छात्र खुद सही उत्तर तक पहुँचें।
इस मोड को शिक्षकों और विशेषज्ञों की सलाह से तैयार किया गया है।
हालाँकि OpenAI ने बाल-सुरक्षा की दिशा में महत्वपूर्ण कदम उठाए हैं, लेकिन विशेषज्ञों का मानना है कि ये सुरक्षा गार्डरेल्स व्यवहार में कितने कारगर साबित होंगे और क्या ये युवाओं की एआई पर निर्भरता को पूरी तरह रोक पाएंगे, यह आने वाले समय में ही स्पष्ट हो पाएगा।
Comments
Post a Comment