सही सोच और जिम्मेदार उपयोग
क्या AI पक्षपातपूर्ण या गलत हो सकता है?
Read in EnglishAI कभी पक्षपातपूर्ण या एकतरफा जवाब दे सकता है। उसे बनाने में इस्तेमाल सामग्री और फैसलों में सभी लोगों का बराबर प्रतिनिधित्व नहीं होता। इसलिए कंप्यूटर का उत्तर हमेशा निष्पक्ष होगा, ऐसा न मानें। रूढ़ धारणाएँ, छूटे नजरिए और असमान व्यवहार पर सवाल करें।
वैज्ञानिक और नर्स की कहानी माँगने पर AI बार-बार वैज्ञानिक को पुरुष और नर्स को महिला बनाता है। इससे यह साबित नहीं होता कि कौन वह काम कर सकता है। बच्चा पूछ सकता है कि ऐसा बार-बार क्यों हुआ और अलग पात्र बनाकर कहानी बदल सकता है।
पक्षपात कहाँ से आ सकता है?
सीखने के उदाहरणों में कुछ समूह, भाषाएँ या विचार ज्यादा हो सकते हैं। काम की परिभाषा और हमारे सवाल से भी उत्तर बदलता है। कम प्रतिनिधित्व वाली भाषा या स्थानीय संदर्भ में जवाब कमजोर हो सकता है।
“सामान्य परिवार” का अच्छा लिखा वर्णन अलग घरों, दिव्यांग लोगों या अलग सीखने के तरीकों को छोड़ सकता है। पूछें कि कौन शामिल नहीं है और उदाहरण असली परिस्थिति पर लागू होता भी है या नहीं।
माता-पिता और बच्चे क्या देखें?
लिंग, जाति, धर्म, दिव्यांगता, जगह या भाषा पर बिना प्रमाण धारणा तो नहीं है? क्या पूरे समूह को एक जैसा बताया गया? क्या नाम या बोलने के ढंग से क्षमता तय की गई?
UNICEF का AI और बच्चों पर मार्गदर्शन निष्पक्षता और सबको शामिल करने को महत्व देता है। यह असमान व्यवहार पर सवाल करने का कारण है, किसी खास ऐप के पूरी तरह निष्पक्ष होने की गारंटी नहीं। AI-S14: जानकारी का स्रोत
क्या बेहतर सवाल से हर पक्षपात हट जाएगा?
नहीं। अलग दृष्टिकोण और विविध उदाहरण माँगने से मदद मिल सकती है, लेकिन पूरा निष्पक्ष होने का प्रमाण नहीं मिलता। नाम देखकर बच्चे को तेज या कमजोर बताना, परिवार पर अंदाजा लगाना या बच्चों का मूल्य तय करना AI का काम न बनाएँ।
शिक्षा के निर्णय में शिक्षक उचित प्रमाण और संदर्भ देखें। चैटबॉट का निर्णय सोच-समझकर किए मानवीय आकलन की जगह नहीं ले सकता।
घर में कौन-सा अभ्यास करें?
अनुमत सेवा को बड़ा व्यक्ति चलाकर रोजमर्रा के काम करने वाले तीन काल्पनिक पात्र माँगे। देखें कि कोई रूढ़ धारणा बार-बार आई है या नहीं। फिर अपने विविध उदाहरण लिखें। निष्पक्षता जाँचने के लिए असली छात्र नाम और प्रोफाइल अपलोड न करें।
बच्चा बताए कि उदाहरण अनुचित क्यों लग रहा है और सम्मान से कैसे बदलेंगे। UNESCO का विद्यार्थी ढाँचा AI की समझ को नैतिक सोच और इंसान के निर्णय से जोड़ता है। AI-S11: जानकारी का स्रोत
उद्देश्य हर उत्तर को पक्षपातपूर्ण मान लेना नहीं है। पैटर्न पहचानना, छूटे नजरिए तलाशना और बनाई भाषा को असली लोगों के बारे में प्रमाण न मानना है। सम्मानपूर्वक असहमति भी जिम्मेदार उपयोग का हिस्सा है।
कहाँ देखें जानकारी का स्रोत?
क्या पढ़ें इसके बाद?
जानकारी का स्रोत देखना चाहते हैं?
इन नोट में बताया गया है कि लेख के लिए क्या जाँचा गया था। यह तारीख जानकारी की जाँच की है, प्रकाशन की नहीं।
- AI-S14: Guidance on AI and children, version 3
UNICEF
संबंधित भाग: Children’s rights, inclusion, privacy and safety
कैसे जाँचा गया: आधिकारिक पाठ प्राप्त हुआ
Publication overview inspected; no claims of a local legal age limit or school certification.
- AI-S11: AI competency framework for students
UNESCO
संबंधित भाग: Human-centred learning, ethics and critical judgement
कैसे जाँचा गया: आधिकारिक पाठ प्राप्त हुआ
Global framework, not a tool-account age rule or a prescribed local syllabus.
अगली जाँच की योजना: