कृत्रिम बुद्धिमत्ता कंपनी ओपनएआई अपनी वेबसाइट पर सोमवार को पोस्ट की गई एक योजना के अनुसार, अपने सबसे उन्नत मॉडलों में सुरक्षा को संबोधित करने के लिए एक रूपरेखा स्थापित की है, जिसमें बोर्ड को सुरक्षा निर्णयों को ओवरराइड करने की अनुमति देना भी शामिल है।
माइक्रोसॉफ्टOpenAI द्वारा समर्थित, यह अपनी नवीनतम तकनीक को केवल तभी तैनात करेगा जब इसे साइबर सुरक्षा और परमाणु खतरों जैसे विशिष्ट क्षेत्रों में सुरक्षित माना जाएगा। कंपनी सुरक्षा रिपोर्ट की समीक्षा करने और उन्हें कंपनी के अधिकारियों और निदेशक मंडल को भेजने के लिए एक सलाहकार समूह भी बना रही है। यदि अधिकारी निर्णय भी लेते हैं, तो निदेशक मंडल उन निर्णयों को पलट सकता है।
से चैटजीपीटी एक साल पहले लॉन्च किया गया एआई के संभावित खतरे एआई शोधकर्ताओं और आम जनता दोनों के लिए एक प्रमुख चिंता का विषय हैं। जेनरेटिव एआई तकनीक ने कविता और निबंध लिखने की अपनी क्षमता से उपयोगकर्ताओं को चकित कर दिया है, लेकिन गलत सूचना फैलाने और मनुष्यों को हेरफेर करने की इसकी क्षमता के कारण सुरक्षा संबंधी चिंताएं भी पैदा हो गई हैं।
अप्रैल में, AI उद्योग के नेताओं और विशेषज्ञों के एक समूह ने एक खुले पत्र पर हस्ताक्षर किए, जिसमें समाज के लिए संभावित जोखिमों का हवाला देते हुए OpenAI के GPT-4 से अधिक शक्तिशाली सिस्टम के विकास को छह महीने के लिए रोकने का आह्वान किया गया। मई रॉयटर्स/इप्सोस सर्वेक्षण में पाया गया कि दो-तिहाई से अधिक अमेरिकी एआई के संभावित नकारात्मक प्रभावों के बारे में चिंतित हैं और 61% का मानना है कि इससे सभ्यता को खतरा हो सकता है।
इस महीने की शुरुआत में, OpenAI ने 2024 की शुरुआत तक अपने कस्टम GPT स्टोर के लॉन्च में देरी की। OpenAI ने नवंबर में अपने पहले डेवलपर सम्मेलन में कस्टम GPT और स्टोर पेश किया था। कंपनी ग्राहकों की प्रतिक्रिया के आधार पर जीपीटी में “सुधार करना” जारी रखेगी।
पिछले महीने, ओपनएआई को भी उथल-पुथल का सामना करना पड़ा जब उसके बोर्ड ने अपने सीईओ को निकाल दिया। सैम ऑल्टमैन. ऑल्टमैन तो आय उनके निष्कासन के कुछ दिनों बाद कंपनी में बोर्ड का पुनर्गठन किया गया।
© थॉमसन रॉयटर्स 2023
