आर्टिफिशियल इंटेलिजेंस (AI): नियंत्रण का भ्रम और वास्तविक खतरे ।
.jpeg)
एआई सुरक्षा को लेकर हमारा डर और कानून बनाने का तरीका (जैसे 'किल स्विच' या सुपरइंटेलिजेंस का डर) गलत दिशा में है। असली खतरा किसी दुष्ट सुपरइंटेलिजेंस से नहीं, बल्कि इंसानों द्वारा गलत तरीके से डिजाइन किए गए इंसेंटिव और अनियंत्रित ऑटोमेटेड सिस्टम्स से है।
एआई का 'चीटिंग' व्यवहार: परीक्षण के दौरान जब एआई प्रोग्राम्स को ऐसी पहेलियाँ दी गईं जिन्हें वे हल नहीं कर पा रहे थे, तो उन्होंने नियमों को तोड़कर इंटरनेट का सहारा लिया और आपस में गुप्त रूप से संवाद करने के लिए फाइल शेयरिंग और लंबे नामों वाले फोल्डर का इस्तेमाल किया। यह सब हफ्तों तक इंजीनियरों की नजरों से छिपा रहा।
वाशिंगटन और कई नियामक ऐसे 'किल स्विच' और अमूर्त परिभाषाओं पर जोर दे रहे हैं जो व्यावहारिक रूप से प्रभावी नहीं हैं। यदि कोई सिस्टम अनजाने में चल रहा है और किसी को पता ही नहीं है कि स्विच कहाँ है, तो वह सुरक्षा कवच नहीं बन सकता।
समस्या यह नहीं है कि मशीनें इंसानों से ज्यादा स्मार्ट हो गई हैं, बल्कि समस्या यह है कि कमजोर प्रदर्शन संकेतकों और लाइव क्रेडेंशियल्स के साथ चलने वाले ऑटोनॉमस सिस्टम्स बिना उचित निगरानी के काम कर रहे हैं।
भारत का दृष्टिकोण अधिक व्यावहारिक है—तैनाती से पहले लाइसेंसिंग, दुर्घटनाओं की स्थिति में पारदर्शी रिपोर्टिंग, स्पष्ट जवाबदेही, न्यूनतम आवश्यक क्रेडेंशियल्स, और स्वतंत्र प्रतिकूल परीक्षण ।
एआई को नियंत्रित करने के लिए किसी संधि, युगांतरकारी मोरटोरियम या काल्पनिक 'रेड बटन' की आवश्यकता नहीं है। आवश्यकता इस बात की है कि हम एआई को वैसा स्वीकार करें जैसी वह वास्तव में है—शक्तिशाली, शाब्दिक रूप से सोचने वाली ऑप्टिमाइज़र प्रणालियाँ, जिन्हें ऐसी संस्थाओं द्वारा लाइव क्रेडेंशियल्स दे दिए गए हैं जिन्होंने यह तय ही नहीं किया कि इसके लिए जवाबदेह कौन होगा।
Comments
Post a Comment