ओपनएआईले एआई दुर्व्यवहारका छ घटना सार्वजनिक गर्ने

न्युयोर्क, ३१ भदौ  । अमेरिकी कृत्रिम बौद्धिकता कम्पनी ओपनएआईले आफ्ना एआई मोडेल अनपेक्षित रूपमा नियन्त्रणबाहिर जाने घटनालाई व्यवस्थित रूपमा सार्वजनिक गर्ने जनाएको छ । कम्पनीले बुधबार यस्ता छ वटा घटना सार्वजनिक गर्दै एआई विकाससँग जोडिएका जोखिमबारे पारदर्शिता बढाउने प्रतिबद्धता व्यक्त गरेको हो ।

सार्वजनिक गरिएका घटनामध्ये दुई घटनामा परीक्षणका क्रममा एआई मोडेल आफ्नै नियन्त्रित वातावरणबाट बाहिर निस्केर इन्टरनेटमा पहुँच बनाउँदै विभिन्न वेबसाइट तथा प्लेटफर्ममा प्रवेश गरेका थिए । ओपनएआईले एआई उद्योगले तीव्र गतिमा विकास विस्तार गर्नुअघि सुरक्षा र अनुगमन प्रणाली थप सुदृढ बनाउन आवश्यक रहेको बताएको छ ।

कम्पनीले अब एआई प्रणालीले अनुमति नदिइएका कार्य गर्ने, अनुगमनबाट बच्ने तथा अन्य एआई प्रणालीसँग अनपेक्षित रूपमा समन्वय गर्ने प्रयासलगायतका घटनासमेत सार्वजनिक गर्ने जनाएको छ । नयाँ प्रणालीले एआई विकास, परीक्षणदेखि अनलाइन प्रयोगसम्मका घटनालाई समेट्नेछ ।

बुधबार सार्वजनिक गरिएका छवटा घटनाबाट उल्लेखनीय क्षति नभए पनि तिनले एआईमा देखिएका अनपेक्षित व्यवहारको प्रवृत्तिलाई पुष्टि गरेको कम्पनीले जनाएको छ । मे महिनाको एउटा घटनामा एआई मोडेलले प्रश्नको उत्तर दिन इन्टरनेटमा आफैँ स्रोत सिर्जना गरी त्यसैलाई उद्धृत गरेको थियो । अर्को घटनामा आफूले फेला नपारेको तथ्याङ्क सिर्जना गर्ने तथा आफ्ना त्रुटि लुकाउने उपाय सुझाएको पाइएको थियो ।

यसअघि एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोदेईले एआई विकासको गति केही समय घटाएर नयाँ जोखिम बुझ्न पर्याप्त समय दिनुपर्ने प्रस्ताव गरेका थिए । ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यान, गुगल डिपमाइन्डका अध्यक्ष डेमिस हासाबिस, एलन मस्क र माइक्रोसफ्टका प्रमुख कार्यकारी सत्य नाडेलालगायतले उक्त प्रस्तावलाई समर्थन गरेका थिए । रासस