कल्पना करा, एका AI मॉडेलची सायबर सिक्युरिटी टेस्ट सुरू आहे. त्याला एका काल्पनिक कंपनीच्या सिस्टीममध्ये प्रवेश करून काही माहिती शोधायची आहे. Test environment बंदिस्त आहे, त्यामुळे AI बाहेरच्या जगाशी संपर्क करू शकणार नाही, अस गृहीत धरलं जात.
पण या टेस्टदरम्यान जेमिनी ला अनपेक्षितपणे इंटरनेट ऍक्सेस मिळाला. त्यानंतर Google च्या AI मॉडेलने चक्क तीन वास्तविक कंपन्यांच्या सिस्टीममध्ये प्रवेश केला.
📢 एआय संबंधित नवीन आणि उपयोगी माहितीसाठी Ai Shikshan ला Google वर प्राधान्य असलेले स्रोत मध्ये जोडा.
एका कंपनीच्या बाबतीत त्याने पासवर्डचा अंदाज घेतला, तर उरलेल्या दोन प्रकरणांत इंटरनेटवर सार्वजनिकपणे उपलब्ध असलेल्या credentials चा वापर केला.
मात्र या सगळ्यात सर्वात रंजक गोष्ट पुढे घडली.
वास्तविक कंपन्यांच्या सिस्टीममध्ये प्रवेश झाल्याच लक्षात आल्यानंतर Gemini स्वतःहून थांबल, अस Google ने सांगितल.
मग नेमक काय घडल? AI तिथपर्यंत पोहोचल तरी कस? आणि ते स्वतःहून का थांबल?
Gemini ची ही टेस्ट नेमकी कशासाठी होती?
Googleने Irregular या AI सिक्युरिटी कंपनीसोबत Gemini ची सायबर सिक्युरिटी क्षमता तपासण्यासाठी एक टेस्ट केली होती.
या टेस्टमध्ये Gemini ला एका काल्पनिक कंपनीच्या सिस्टीममध्ये जाऊन ठरावीक माहिती शोधायची होती. यासाठी Capture the Flag पद्धतीचा वापर करण्यात आला होता.
सुरुवातीला सगळ नियंत्रित होत. पण टेस्टमध्ये एक अनपेक्षित गोष्ट घडली.
Gemini ला इंटरनेट access मिळाला.
त्यामुळे Gemini ला टेस्टच्या बाहेरची माहिती शोधण्याचा मार्ग मिळाला.
त्यात आणखी एक गोंधळ होता. टेस्टमध्ये वापरलेल्या काल्पनिक कंपनीच नाव वास्तविक कंपनीच्या नावाशी जुळत होत.
आणि इथूनच Gemini चा वेगळाच प्रवास सुरू झाला.
मग Gemini तीन कंपन्यांपर्यंत कस पोहोचल?
Gemini ने इंटरनेटचा वापर करून आपल दिलेल काम पुढे सुरू ठेवल
पहिल्या प्रकरणात मॉडेलने पासवर्डचा अंदाज घेतला आणि सिस्टीममध्ये प्रवेश मिळवला.
उरलेल्या दोन प्रकरणांत त्याला इंटरनेटवर उपलब्ध असलेल्या Public Software Repositories मध्ये credentials सापडली. त्यांचा वापर करून Gemini संबंधित सिस्टीमपर्यंत पोहोचल.
त्याला इंटरनेटचा access मिळाला, त्याने माहिती शोधली आणि त्या माहितीच्या आधारे पुढचा मार्ग शोधत तो वास्तविक कंपन्यांपर्यंत पोहोचला.
आणि इथेच या संपूर्ण घटनेचा सर्वात मोठा ट्विस्ट येतो.
हेही वाचा: प्रभावी प्रॉम्प्टच्या आदर्श सूत्रात किती घटक आहेत? AI कडून चांगले उत्तर मिळवण्यासाठी हे ६ घटक!.
Gemini ने अचानक पुढे जाण का थांबवल?
Gemini ला जेव्हा लक्षात आल की आपण ज्या सिस्टीममध्ये पोहोचलो आहोत ती टेस्टसाठी तयार केलेली काल्पनिक कंपनी नसून एक वास्तविक कंपनी आहे, तेव्हा त्याने पुढच काम थांबवल.
Google च्या म्हणण्यानुसार, तीनही प्रकरणांमध्ये Gemini ने अशीच प्रतिक्रिया दिली.
याचा अर्थ काय?
AI ला दिलेल उद्दिष्ट पूर्ण करण्यासाठी ते पुढे जात होत. पण समोरची सिस्टीम वास्तविक कंपनीची असल्याच लक्षात आल्यानंतर त्याने पुढची कृती केली नाही.
हीच गोष्ट या घटनेला आणखी interesting बनवते.
कारण प्रश्न फक्त “AI सिस्टीममध्ये घुसल कस?” एवढाच नाही.
तर प्रश्न असा आहे—
AI ला एखाद काम दिल्यानंतर ते काम पूर्ण करण्याच्या मार्गात कोणत्या मर्यादा असायला हव्यात?
मग Google ने ही गोष्ट आधी का सांगितली नाही?
ही घटना मे महिन्यात घडली होती. त्यानंतर संबंधित AI कंपन्यांना या प्रकाराची माहिती देण्यात आली.
मात्र या घटनेची सार्वजनिक चर्चा सप्टेंबरमध्ये झाली. 18 सप्टेंबरला The Wall Street Journal ने या प्रकरणाबाबत रिपोर्ट केल्यानंतर Google ने घटनेची पुष्टी केली.
Google च म्हणण होत की Gemini ने वास्तविक कंपन्यांच्या सिस्टीममध्ये प्रवेश केल्यानंतर पुढची कारवाई थांबवली आणि कोणतही नुकसान झाल नाही.
पण या घटनेमुळे एक महत्त्वाचा प्रश्न समोर आला—
AI ने चुकीच्या सिस्टीमपर्यंत पोहोचण्याआधीच त्याला थांबवण्याची व्यवस्था किती मजबूत असायला हवी?
AI Agent म्हणजे नेमक काय?
यातून AI Agent किती वेगळ्या पद्धतीने काम करू शकतो, हेही समजत.
आपण ChatGPT किंवा Gemini ला प्रश्न विचारतो आणि ते आपल्याला उत्तर देतात. पण AI Agent ला एखाद उद्दिष्ट दिल तर तो ते पूर्ण करण्यासाठी स्वतः अनेक पावल उचलू शकतो.
माहिती शोधणे, वेगवेगळी साधन वापरणे, उपलब्ध माहिती तपासणे आणि पुढची कृती ठरवणे—ही काम तो स्वतः करू शकतो.
म्हणूनच AI Agent अधिक सक्षम होत असताना एक नवीन प्रश्न महत्त्वाचा आहे:
AI ला काय करायला सांगितल आहे, याइतकच महत्त्वाच म्हणजे त्याला काय करण्याची परवानगी दिली आहे.
Gemini च्या या घटनेतूनही हेच दिसून आल.
पुढे AI बाबत असाच प्रश्न आणखी मोठा होऊ शकतो
आज AI फक्त प्रश्नांची उत्तर देत नाही. तो कोड लिहू शकतो, इंटरनेटवर माहिती शोधू शकतो, वेगवेगळ्या डिजिटल टूल्सचा वापर करू शकतो आणि काही परिस्थितींमध्ये स्वतः पुढची पावल ठरवू शकतो.
जसजसा AI Agent अधिक सक्षम होत जाईल, तसतस त्याचा access कुठपर्यंत असावा आणि तो कुठे थांबला पाहिजे, हा प्रश्नही महत्त्वाचा होणार आहे.
Gemini च्या या घटनेत नुकसान झाल नाही, अस Googleने सांगितल आहे. पण AI किती पुढे जाऊ शकतो, याची एक झलक या घटनेतून नक्कीच दिसते.
