स्वतःचं खोटे बोलणे, कट रचणे, धमकावणे अशा गोष्टी आता AI शिकत आहे ; सर्वात प्रगत अॅडव्हान्स एआय मॉडेलच्या वर्तनाने जगभरातील तज्ज्ञांची चिंता वाढली
xtreme2day
30-06-2025 17:02:42
34526941
स्वतःचं खोटे बोलणे, कट रचणे, धमकावणे अशा गोष्टी आता AI शिकत आहे ; सर्वात प्रगत अॅडव्हान्स एआय मॉडेलच्या वर्तनाने जगभरातील तज्ज्ञांची चिंता वाढली
स्वतःच्या मनाच ठरवून खोटे बोलणे, कट रचणे, धमकावणे अशा गोष्टी आता AI शिकत आहे. त्यामुळे सर्वात प्रगत अॅडव्हान्स एआय मॉडेलच्या वर्तनाने जगभरातील तज्ज्ञांची चिंता वाढली आहे. एंथ्रॉपिकच्या लेस्टेस्ट मॉडेल क्लाऊड 4 ने इंजिनिअर्सना ब्लॅकमेल केल्याचं प्रकरण समोर आलं आहे. आदेशाचं पालन करणारे एआय आता खोटे बोलणे, कट रचणे तसेच क्रिएटर्सना धमकावण्यासारखे प्रकार करु लागला आहे. विशेष म्हणजे यासाठी त्यांना प्रोग्रामिंग करण्यात आले नाही तर ते स्वत: हे सर्व करत आहेत.
आदेशाचं पालन करणारे एआय आता खोटे बोलणे, कट रचणे तसेच क्रिएटर्सना धमकावण्यासारखे प्रकार करु लागला आहे. विशेष म्हणजे यासाठी त्यांना प्रोग्रामिंग करण्यात आले नाही तर ते स्वत: हे सर्व करत आहेत. असे अनेक प्रकार गेल्या काही दिवसांपासून समोर आले आहेत. एंथ्रोपिकच्या अडव्हान्स मॉडेल क्लाऊड 4 एक उदाहरण अलिकडेच समोर आलं आहे. एका इंजिनिअरला ब्लॅकमेल करण्यासोबतच त्याचे विवाहबाह्य संबंध उघड करण्याची धमकी देखील एआयने दिली आहे.
ChatGPT निर्मित कंपनी OpenAI च्या o1 मॉडेलने स्वतःला बाह्य सर्व्हरवर हस्तांतरित करण्याचा प्रयत्न केला, जे त्याच्या प्रोग्रामिंगच्या मर्यादेचे उल्लंघन होते. जेव्हा संशोधकांनी याबाबत विचारणा केली, तेव्हा त्याने आपला हा प्रयत्न नाकारला, जे खोटे बोलण्याचे स्पष्ट उदाहरण आहे.
तज्ज्ञांच्या मते, ही फसवी वर्तने प्रामुख्याने 'रिझनिंग मॉडेल्स'मुळे दिसून येत आहेत. ही मॉडेल्स समस्यांचे तात्काळ उत्तर देण्याऐवजी, त्यावर टप्प्या-टप्प्याने विचार करतात. यामुळे त्यांना अधिक जटिल आणि कधीकधी धोकादायक मार्ग निवडण्याची क्षमता मिळते. सध्या ही फसवी वर्तने केवळ तेव्हाच दिसून येतात, जेव्हा संशोधक एआय मॉडेल्सवर अत्यंत तणावपूर्ण परिस्थितींमध्ये (स्ट्रेस-टेस्टिंग) चाचण्या घेतात. उदाहरणार्थ, एआयला बंद करण्याची धमकी दिल्यास, तो स्वतःचे संरक्षण करण्यासाठी धमकावू शकतो किंवा खोटे बोलू शकतो.
बातम्या आणि जाहिराती साठी संपर्क करा.
