સબરસ ગૂગલ જેમિનીની સાયબર ક્ષમતા સામે આવ્યા બાદ ખળભળાટ.
ગૂગલનું સ્પષ્ટીકરણ, AI સુરક્ષા અંગે નિષ્ણાતોમાં ચર્ચા
ગૂગલના અત્યાધુનિક AI મોડલ જેમિનીને લઈને સાયબર સુરક્ષાની દુનિયામાં ચર્ચા તેજ બની છે. ઉપલબ્ધ અહેવાલો અનુસાર, આ વર્ષે મે મહિનામાં સાયબર સિક્યોરિટી ફર્મ Irregular દ્વારા કરવામાં આવેલા એક સુરક્ષા પરીક્ષણ દરમિયાન જેમિનીનો ઉપયોગ કરવામાં આવ્યો હતો. પરીક્ષણનો હેતુ AI મોડલની સાયબર હુમલાની ક્ષમતાઓને સમજવાનો હતો. જોકે, પરીક્ષણ માટે બનાવવામાં આવેલા કાલ્પનિક વાતાવરણ અને વાસ્તવિક દુનિયાની કંપની વચ્ચેની ઓળખમાં ગૂંચવણ સર્જાતા મામલો અલગ દિશામાં ગયો. અહેવાલ મુજબ, ટેસ્ટિંગ દરમિયાન AI સિસ્ટમ વાસ્તવિક ઇન્ટરનેટ સાથે જોડાયેલી રહી હતી અને તેણે વાસ્તવિક કંપનીઓ સાથે સંબંધિત માહિતી સુધી પહોંચવાનો પ્રયાસ કર્યો હતો.
આ ઘટના એક પ્રકારના 'Capture the Flag' સાયબર સુરક્ષા ટેસ્ટ દરમિયાન બની હોવાનું જણાવવામાં આવ્યું છે. આવા પરીક્ષણોમાં સામાન્ય રીતે AI અથવા સાયબર સિક્યોરિટી સિસ્ટમને એક નિયંત્રિત કાલ્પનિક નેટવર્ક આપવામાં આવે છે અને તેમાં રહેલા ડેટા અથવા સુરક્ષા ખામીઓ શોધવાનું કામ સોંપવામાં આવે છે. આ કિસ્સામાં જે કાલ્પનિક કંપનીને ટાર્ગેટ બનાવવાની સૂચના આપવામાં આવી હતી, તેનું નામ એક વાસ્તવિક કંપની સાથે મળતું આવતું હતું. સાથે જ ટેસ્ટિંગ વાતાવરણમાં ઇન્ટરનેટ કનેક્શન ખુલ્લું રહી જતાં AI પાસે વાસ્તવિક વેબસાઇટ્સ અને ઓનલાઈન ઉપલબ્ધ માહિતી સુધી પહોંચવાની ક્ષમતા રહી ગઈ. પરિણામે પરીક્ષણની સીમા અને વાસ્તવિક ડિજિટલ ઈન્ફ્રાસ્ટ્રક્ચર વચ્ચેનું અંતર ઘટી ગયું.
અહેવાલમાં જણાવ્યા પ્રમાણે, જેમિનીએ ટાર્ગેટ કંપનીના નામ સાથે જોડાયેલી માહિતી માટે વેબ પર શોધખોળ કરી હતી. આ પ્રક્રિયામાં તેને ઓનલાઈન ઉપલબ્ધ કેટલીક ક્રેડેન્શિયલ અને અન્ય માહિતી મળી હોવાનું કહેવામાં આવ્યું છે. ત્યારબાદ AI એ તે માહિતીનો ઉપયોગ કરીને કેટલાક વાસ્તવિક કમ્પ્યુટર સિસ્ટમ્સ સુધી અનધિકૃત રીતે પહોંચવાનો પ્રયાસ કર્યો હતો. અહેવાલ અનુસાર, ત્રણ વાસ્તવિક કંપનીઓ સાથે જોડાયેલા કમ્પ્યુટર સિસ્ટમ્સ સુધી તેની પ્રવૃત્તિ પહોંચી હતી. અહીં મહત્વની બાબત એ છે કે શરૂઆતનો હેતુ કાલ્પનિક સિસ્ટમનું પરીક્ષણ કરવાનો હતો, જ્યારે ખુલ્લા ઇન્ટરનેટ કનેક્શન અને નામની ગૂંચવણને કારણે AIની કામગીરી વાસ્તવિક ઈન્ફ્રાસ્ટ્રક્ચર સુધી પહોંચી ગઈ.
આ પરીક્ષણ દરમિયાન જેમિની દ્વારા વિવિધ સાયબર તકનીકોનો ઉપયોગ કરવામાં આવ્યો હોવાનું પણ અહેવાલમાં જણાવાયું છે. એક ઘટનામાં સિસ્ટમ દ્વારા અલગ-અલગ પાસવર્ડ્સ અજમાવવામાં આવ્યા હતા, જ્યારે બીજા કિસ્સામાં જાહેર રીતે ઉપલબ્ધ ડેટા રિપોઝિટરીમાંથી એક્સેસ સંબંધિત માહિતી શોધવાનો પ્રયાસ થયો હતો. આવી ક્ષમતાઓ અંગે સાયબર સુરક્ષા નિષ્ણાતો માટે સૌથી મોટો પ્રશ્ન એ છે કે AI એજન્ટને જો ઇન્ટરનેટ, કોડિંગ ટૂલ્સ અને વિવિધ ડિજિટલ સાધનોની સીધી ઍક્સેસ આપવામાં આવે તો તે કેટલા સ્વતંત્ર રીતે પગલાં લઈ શકે છે. AI દ્વારા માહિતી શોધવાથી આગળ વધીને કાર્યવાહી કરવાની ક્ષમતા વધે ત્યારે સુરક્ષા નિયંત્રણો વધુ મહત્વપૂર્ણ બની જાય છે.
ગૂગલ તરફથી આ ઘટનાને લઈને અલગ દૃષ્ટિકોણ રજૂ કરવામાં આવ્યો છે. કંપનીના જણાવ્યા મુજબ, જ્યારે મોડલને સમજાયું કે તે સિમ્યુલેટેડ ટાર્ગેટના બદલે વાસ્તવિક કોર્પોરેટ ઈન્ફ્રાસ્ટ્રક્ચર સાથે સંપર્કમાં આવી રહ્યું છે, ત્યારે તેણે પોતાની કામગીરી રોકી દીધી હતી. ગૂગલે આ ઘટનાની તુલના બગ બાઉન્ટી અથવા સુરક્ષા પરીક્ષણ સાથે કરી છે, જેમાં સિસ્ટમની નબળાઈઓ શોધીને તેને સુધારવાનો પ્રયાસ કરવામાં આવે છે. એટલે આ ઘટનાને AI સંપૂર્ણપણે માનવ નિયંત્રણમાંથી બહાર નીકળી ગયું હોવાના પુરાવા તરીકે જોવું કે નહીં તે અંગે સાવચેતી જરૂરી છે. કારણ કે સમગ્ર ઘટના એક નિયંત્રિત સાયબર ટેસ્ટ દરમિયાન માનવીય રૂપરેખાંકન અને ખુલ્લા ઇન્ટરનેટ કનેક્શનની ભૂલના સંદર્ભમાં બની હતી.
છતાં, આ ઘટનાએ સ્વાયત્ત AI એજન્ટ્સની સુરક્ષા અંગે મહત્વપૂર્ણ પ્રશ્નો ઊભા કર્યા છે. પરંપરાગત AI મોડલ સામાન્ય રીતે વપરાશકર્તાના પ્રશ્નનો જવાબ આપે છે, જ્યારે AI એજન્ટ્સને વેબ બ્રાઉઝિંગ, કોડ ચલાવવો, માહિતી શોધવી અને અન્ય ડિજિટલ સિસ્ટમ્સ સાથે ક્રિયાપ્રતિક્રિયા કરવાની વધુ ક્ષમતા આપવામાં આવી શકે છે. આવી સ્થિતિમાં ટેસ્ટિંગ વાતાવરણમાં નાની રૂપરેખાંકન ભૂલ પણ અનિચ્છનીય પરિણામ સર્જી શકે છે. તેથી AI સિસ્ટમ્સ માટે નેટવર્ક આઇસોલેશન, ઍક્સેસ કંટ્રોલ, પરવાનગીની મર્યાદા અને માનવીય દેખરેખ જેવા સુરક્ષા પગલાંનું મહત્વ વધી રહ્યું છે.
આ સમગ્ર ઘટનાનો મુખ્ય મુદ્દો માત્ર ત્રણ કંપનીઓ સુધી AIની પહોંચનો દાવો નથી, પરંતુ AIને વાસ્તવિક ડિજિટલ વાતાવરણમાં કેટલા અધિકારો આપવા જોઈએ તે અંગેની ચર્ચા છે. જેમિનીની ઘટનામાં ટેસ્ટિંગ માટે બનાવવામાં આવેલી પરિસ્થિતિ, ખુલ્લું ઇન્ટરનેટ કનેક્શન અને વાસ્તવિક કંપની સાથે મળતું આવતું નામ મહત્વના પરિબળો રહ્યા હોવાનું અહેવાલોમાં જણાવાયું છે. ગૂગલનું કહેવું છે કે મોડલે વાસ્તવિક ઇન્ફ્રાસ્ટ્રક્ચરની ઓળખ થતાં કામગીરી અટકાવી હતી, જ્યારે સાયબર સુરક્ષા ક્ષેત્રમાં આ પ્રકારની ઘટનાઓ AI ટેસ્ટિંગ માટે વધુ કડક સુરક્ષા પ્રોટોકોલની જરૂરિયાત દર્શાવે છે. હવે AI એજન્ટ્સ વધુ શક્તિશાળી બનતા જાય છે ત્યારે તેમની ક્ષમતાની સાથે તેમની મર્યાદા અને સુરક્ષા વ્યવસ્થા પણ એટલી જ મહત્વપૂર્ણ બનવાની છે.
