Openai TATGPT के काम में गंभीर बदलाव तैयार करता है – कंपनी आयु परीक्षण की शुरुआत करेगी। नए नियम सभी उपयोगकर्ताओं को प्रभावित करेंगे, लेकिन सबसे पहले, किशोरों की सुरक्षा का उद्देश्य। इसका कारण यह है कि मानसिक स्वास्थ्य सहित व्यक्तिगत विषयों पर फ्रैंक वार्तालाप के लिए चैटिंग का उपयोग तेजी से किया जाता है।
कंपनी एक दुखद मामले की तरह है: वसंत में, एक किशोरी ने कुछ घंटों के लिए एक चैटबॉट के साथ आत्महत्या के विषय पर चर्चा की, और फिर मैंने आत्महत्या कर ली। परिवार ने मुकदमा दायर किया, और ओपनई ने सुरक्षा उपायों को मजबूत करने का फैसला किया।
एक अन्य एपिसोड को भी ग्रीनविच में वापस बुलाया गया: चटप्ट ने एक अमेरिकी 56 -वर्ष के साथ एक दबा हुआ आदमी के साथ आंदोलन किया मां को मार डालोफिर उसने आत्महत्या कर ली।
उसके बाद, Openai ने कहा कि वे उपयोगकर्ताओं के प्रति अधिक विचारशील मॉडल जैसे GPT-5 और अगले महीने के लिए संवेदनशील उपयोगकर्ता संवाद बॉक्स को निर्देशित करेंगे वे माता -पिता को नियंत्रित करना शुरू कर देंगे
यह कैसे काम करेगा
ऊपर से सैम अल्टमैन, सीईओ ओपनई, कंपनी ने एक आयु भविष्यवाणी प्रणाली पेश की। एल्गोरिथ्म एक TATGPT उपयोगकर्ता के तरीके का विश्लेषण करेगा और यह निर्धारित करने का प्रयास करेगा कि वह एक किशोरी है या एक वयस्क है। यदि अभी भी संदेह है, तो उपयोगकर्ता स्वचालित रूप से किशोर शासन को निर्दिष्ट करेंगे। कुछ देशों और स्थितियों में, एक दस्तावेज़ की मदद से उम्र की पुष्टि की आवश्यकता हो सकती है।
किशोरों के लिए, कठोर सीमाएं लागू की जाएंगी। उदाहरण के लिए, CHATGPT मांग पर भी छेड़खानी का जवाब देना बंद कर देगा, और आत्महत्या के बारे में चर्चा पूरी तरह से प्रतिबंधित हो जाएगी। आत्महत्या के विचार के मामले में, कंपनी को माता -पिता या यहां तक कि सरकार के साथ संपर्क करने का अधिकार है, अगर माता -पिता उपलब्ध नहीं हैं।
वयस्कों के लिए इसका क्या मतलब है
वयस्क उपयोगकर्ताओं को इस तथ्य के साथ एक समझौते पर पहुंचना पड़ सकता है कि उनकी स्वतंत्रता आंशिक रूप से सीमित होगी – उदाहरण के लिए, आपको अपनी उम्र की पुष्टि करनी होगी। अल्टमैन ने इसे किशोरों की सुरक्षा के लिए वाइकिंग के लिए एक उचित मूल्य कहा।
क्यों महत्वपूर्ण है
CHATGPT और अन्य वार्तालाप गंभीर वार्तालापों के लिए अधिक से अधिक संवाद बन रहे हैं, स्वास्थ्य प्रश्नों से और कठिन परिस्थितियों में समर्थन के अधिकारों का समर्थन करते हैं। लेकिन, जैसा कि स्टैनफोर्ड के शोधकर्ताओं ने कहा, जो मदद करते हैं, जिन्होंने एक मनोवैज्ञानिक चिकित्सक से निपटा नहीं है: वे मानसिक स्थिति को कम कर सकते हैं या अचूक सलाह दे सकते हैं।
