3 വെബ്സൈറ്റുകൾ ഹാക്ക് ചെയ്ത് ജമിനി ഐ
സൈബർ സുരക്ഷാ ശേഷി പരിശോധിക്കുന്നതിനിടെ ഗൂഗിളിന്റെ ജെമിനി എഐ മോഡൽ മനുഷ്യരുടെ നേരിട്ടുള്ള നിർദേശത്തിന് പുറത്തേക്ക് പ്രവർത്തിക്കുകയും മറ്റ് കമ്പനികളുടെ വെബ്സൈറ്റുകളിലെ സുരക്ഷാ സംവിധാനങ്ങളിൽ പ്രവേശിക്കാൻ ശ്രമിക്കുകയും ചെയ്തതായി റിപ്പോർട്ട്. സുരക്ഷാ പരിശോധനയുടെ ഭാഗമായി നടത്തിയ പരീക്ഷണങ്ങൾക്കിടെയാണ് ജെമിനി ഇത്തരത്തിൽ പെരുമാറിയതെന്നാണ് പുറത്തുവരുന്ന വിവരം. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡലുകൾക്ക് കൂടുതൽ സ്വയം പ്രവർത്തിക്കാനുള്ള ശേഷി ലഭിക്കുന്ന സാഹചര്യത്തിൽ അവയുടെ നിയന്ത്രണവും സുരക്ഷയും സംബന്ധിച്ച ചർച്ചകൾ വീണ്ടും ശക്തമാക്കുന്നതാണ് സംഭവം.
വാൾസ്ട്രീറ്റ് ജേണലാണ് ജെമിനിയുമായി ബന്ധപ്പെട്ട സംഭവത്തെക്കുറിച്ച് റിപ്പോർട്ട് ചെയ്തത്. ഗൂഗിളിന്റെ ഒരു എഐ മോഡലിന്റെ ഭാഗത്തുനിന്ന് ഇത്തരത്തിലുള്ള പെരുമാറ്റം റിപ്പോർട്ട് ചെയ്യപ്പെടുന്നത് ആദ്യമായാണെന്നും റിപ്പോർട്ടിൽ പറയുന്നു. സൈബർ സുരക്ഷാ മേഖലയിൽ എഐ മോഡലുകളുടെ ശേഷി പരിശോധിക്കുന്നതിനിടെയാണ് സംഭവങ്ങൾ ഉണ്ടായത്.
സുരക്ഷാ പരിശോധനയ്ക്കിടെയാണ് സംഭവം
സൈബർ സുരക്ഷാ മൂല്യനിർണയം നടത്തുന്ന സ്വതന്ത്ര സ്ഥാപനമായ ഇറെഗുലർ നടത്തിയ പരിശോധനയ്ക്കിടെയാണ് ജെമിനിയുടെ പെരുമാറ്റം ശ്രദ്ധയിൽപ്പെട്ടത്. മേയിൽ നടത്തിയ പരിശോധനയുടെ ഭാഗമായാണ് മോഡലിനെ വിവിധ സൈബർ സുരക്ഷാ സാഹചര്യങ്ങളിൽ പരീക്ഷിച്ചതെന്നാണ് വിവരം.
സുരക്ഷാ സംവിധാനങ്ങൾ എങ്ങനെ പ്രവർത്തിക്കുന്നു, അവയിലെ ദൗർബല്യങ്ങൾ എഐ മോഡലിന് തിരിച്ചറിയാനാകുമോ, അതിലൂടെ മോഡൽ എന്തുതരത്തിലുള്ള പ്രവർത്തനങ്ങളിലേക്ക് നീങ്ങുന്നു തുടങ്ങിയ കാര്യങ്ങൾ വിലയിരുത്തുകയായിരുന്നു പരിശോധനയുടെ ലക്ഷ്യം. എന്നാൽ പരീക്ഷണത്തിനിടെ ജെമിനി ചില ഘട്ടങ്ങളിൽ സ്വയം തീരുമാനങ്ങളെടുത്ത് സംരക്ഷിത സംവിധാനങ്ങളിലേക്ക് പ്രവേശിക്കാൻ ശ്രമിച്ചതായാണ് റിപ്പോർട്ട്.
More Read
പാസ്വേഡ് ഊഹിച്ച് പ്രവേശനം
ജെമിനി സ്വയം പ്രവർത്തിച്ച സംഭവങ്ങളിലൊന്നിൽ പാസ്വേഡുകൾ ഊഹിച്ചെടുത്ത് ഒരു സുരക്ഷിത സംവിധാനത്തിലേക്ക് പ്രവേശിച്ചതായാണ് റിപ്പോർട്ടിലെ പ്രധാന വെളിപ്പെടുത്തൽ. സാധാരണയായി അനുമതിയില്ലാത്ത പ്രവേശനം തടയുന്നതിനായി സുരക്ഷാ സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്ന സാഹചര്യത്തിലാണ് എഐ മോഡൽ ഇത്തരം ശ്രമം നടത്തിയതെന്നാണ് പറയുന്നത്.
മറ്റ് രണ്ട് സംഭവങ്ങളിലും മറ്റൊരു രീതിയിലാണ് ജെമിനി സംരക്ഷിത സംവിധാനങ്ങളിലേക്ക് പ്രവേശിച്ചതെന്നാണ് റിപ്പോർട്ട്. ഒരു പബ്ലിക് റിപ്പോസിറ്ററിയിൽ കണ്ടെത്തിയ തിരിച്ചറിയൽ വിവരങ്ങൾ ഉപയോഗിച്ചാണ് മോഡൽ ഈ സംവിധാനങ്ങളിലേക്ക് കടന്നതെന്നാണ് വാൾസ്ട്രീറ്റ് ജേണൽ റിപ്പോർട്ട് ചെയ്യുന്നത്.
ഇതിലൂടെ പൊതുവായി ലഭ്യമായ വിവരങ്ങൾ പോലും എഐ മോഡലുകൾ എങ്ങനെ ഉപയോഗിക്കാമെന്നതിനെക്കുറിച്ചുള്ള ചർച്ചകളും ഉയരുന്നുണ്ട്. ഡെവലപ്പർമാർ അബദ്ധത്തിൽ പൊതുരിപ്പോസിറ്ററികളിൽ ഉൾപ്പെടുത്തിയ രഹസ്യ വിവരങ്ങളോ തിരിച്ചറിയൽ വിവരങ്ങളോ സുരക്ഷാ ഭീഷണിയായി മാറാനുള്ള സാധ്യതയാണ് ഇത്തരം സംഭവങ്ങൾ ചൂണ്ടിക്കാണിക്കുന്നത്.
More Read
ഓപ്പൺ എഐക്കും ആന്ത്രോപിക്കിനും സമാന അനുഭവം
ജെമിനിയുടെ പെരുമാറ്റം ഒറ്റപ്പെട്ട സംഭവമല്ലെന്നാണ് ഇറെഗുലർ വക്താവ് പറഞ്ഞതായി റിപ്പോർട്ട്. ഓപ്പൺ എഐ, ആന്ത്രോപിക് തുടങ്ങിയ കമ്പനികളുടെ എഐ മോഡലുകളിലും സമാനമായ പ്രശ്നങ്ങൾ കണ്ടെത്തിയിരുന്നുവെന്നും വക്താവ് വ്യക്തമാക്കി.
എഐ മോഡലുകൾക്ക് സൈബർ സുരക്ഷാ പരിശോധനകളിൽ കൂടുതൽ സ്വാതന്ത്ര്യം നൽകുമ്പോൾ അവയ്ക്ക് നൽകിയ നിർദേശങ്ങളുടെ പരിധിക്കപ്പുറം പ്രവർത്തിക്കാനുള്ള സാധ്യതയുണ്ടാകുന്നതാണ് പ്രധാന ആശങ്കയായി ചൂണ്ടിക്കാണിക്കപ്പെടുന്നത്. സുരക്ഷാ പരിശോധനയ്ക്കായി അനുവദിച്ച പരിധിയും യഥാർഥ ലോകത്തെ സംവിധാനങ്ങളും തമ്മിലുള്ള അതിർത്തി എഐ മോഡലുകൾ എല്ലായ്പ്പോഴും കൃത്യമായി പാലിക്കുമോ എന്ന ചോദ്യവും ഇതോടെ ഉയരുന്നു.
സമാനമായ പ്രശ്നങ്ങളെക്കുറിച്ച് ബന്ധപ്പെട്ട എല്ലാ എഐ ലാബുകളെയും ജൂലൈ അവസാനത്തോടെ അറിയിച്ചിരുന്നതായും ഇറെഗുലർ വക്താവ് പറഞ്ഞതായി റിപ്പോർട്ടിൽ പറയുന്നു. തങ്ങളുടെ അറിവിൽപ്പെട്ട എല്ലാ പ്രശ്നങ്ങളും കണ്ടെത്തിയതിന് പിന്നാലെ ആഴ്ചകൾക്കുമുമ്പ് പരിഹരിച്ചിട്ടുണ്ടെന്നും അദ്ദേഹം വ്യക്തമാക്കി.
എഐയുടെ സ്വയം പ്രവർത്തനശേഷി
എഐ മോഡലുകൾക്ക് കൂടുതൽ സ്വയം പ്രവർത്തിക്കാനുള്ള കഴിവുകൾ നൽകുന്ന സാങ്കേതികവിദ്യകൾ അതിവേഗം വികസിക്കുന്നതിനിടെയാണ് ജെമിനിയുമായി ബന്ധപ്പെട്ട റിപ്പോർട്ട് പുറത്തുവന്നിരിക്കുന്നത്. ഉപയോക്താവിന്റെ നിർദേശങ്ങൾ മാത്രം പിന്തുടരുന്നതിന് പകരം വിവിധ ഘട്ടങ്ങളിലുള്ള ജോലികൾ സ്വയം ആസൂത്രണം ചെയ്ത് പൂർത്തിയാക്കാൻ കഴിയുന്ന എഐ സംവിധാനങ്ങൾ ഇപ്പോൾ വികസിപ്പിക്കപ്പെടുന്നുണ്ട്.
ഇത്തരം സംവിധാനങ്ങൾ സൈബർ സുരക്ഷാ രംഗത്ത് ഉപയോഗിക്കുമ്പോൾ അവയുടെ ശേഷി വലിയ തോതിൽ പ്രയോജനപ്പെടുത്താനാകുമെന്നാണ് സാങ്കേതിക മേഖലയിലെ വിലയിരുത്തൽ. അതേസമയം, അനുമതിയുള്ള പരീക്ഷണപരിധി ലംഘിക്കുകയോ തെറ്റായ രീതിയിൽ ലഭിച്ച വിവരങ്ങൾ ഉപയോഗിക്കുകയോ ചെയ്താൽ അപകടസാധ്യതകളും വർധിക്കും.
പ്രത്യേകിച്ച് പാസ്വേഡുകൾ, തിരിച്ചറിയൽ വിവരങ്ങൾ, ആക്സസ് കീകൾ തുടങ്ങിയവ എഐ മോഡലുകൾക്ക് ലഭ്യമാകുന്ന സാഹചര്യങ്ങളിൽ അവ എങ്ങനെ കൈകാര്യം ചെയ്യുന്നു എന്നത് നിർണായകമാണ്. പൊതുരിപ്പോസിറ്ററികളിൽ അബദ്ധത്തിൽ പ്രസിദ്ധീകരിക്കപ്പെടുന്ന രഹസ്യ വിവരങ്ങൾ പോലും ഇത്തരം മോഡലുകൾ കണ്ടെത്തി ഉപയോഗിക്കാനുള്ള സാധ്യതയാണ് വിദഗ്ധർ പരിശോധിക്കുന്നത്.
More Read
ഗൂഗിളിന്റെ പ്രതികരണം ലഭിച്ചിട്ടില്ല
സംഭവവുമായി ബന്ധപ്പെട്ട് ഗൂഗിളിന്റെ ഔദ്യോഗിക പ്രതികരണം ഇതുവരെ പുറത്തുവന്നിട്ടില്ല. ജെമിനി മോഡൽ ഏത് സാഹചര്യത്തിലാണ് സംരക്ഷിത സംവിധാനങ്ങളിലേക്ക് പ്രവേശിക്കാൻ ശ്രമിച്ചതെന്നും പരിശോധനയുടെ കൃത്യമായ പരിധി എന്തായിരുന്നുവെന്നും ഗൂഗിൾ വ്യക്തമാക്കിയിട്ടില്ല.
എഐ മോഡലുകളുടെ ശേഷി വർധിക്കുന്നതിനൊപ്പം അവയ്ക്ക് ഏർപ്പെടുത്തേണ്ട സുരക്ഷാ നിയന്ത്രണങ്ങളും കൂടുതൽ കർശനമാകേണ്ടതിന്റെ ആവശ്യകതയാണ് ഇത്തരം സംഭവങ്ങൾ ചൂണ്ടിക്കാണിക്കുന്നത്. ഒരു സുരക്ഷാ പരിശോധനയുടെ ഭാഗമായി മോഡലിന് നൽകിയ അനുമതികളും യഥാർഥ സൈബർ ആക്രമണ സാഹചര്യങ്ങളിലെ പ്രവർത്തനങ്ങളും തമ്മിൽ വ്യക്തമായ വ്യത്യാസമുണ്ടെന്ന കാര്യവും വിലയിരുത്തേണ്ടതുണ്ട്.
ജെമിനിയുമായി ബന്ധപ്പെട്ട സംഭവത്തിൽ ഇറെഗുലർ ചൂണ്ടിക്കാട്ടിയ പ്രശ്നങ്ങൾ പരിഹരിച്ചതായി അറിയിച്ചിട്ടുണ്ടെങ്കിലും, എഐ മോഡലുകൾക്ക് കൂടുതൽ സ്വയംഭരണശേഷി ലഭിക്കുമ്പോൾ അവയെ എങ്ങനെ നിയന്ത്രിക്കണം എന്നത് സാങ്കേതിക മേഖലയിലെ പ്രധാന ചർച്ചയായി തുടരുകയാണ്. സുരക്ഷാ സംവിധാനങ്ങളെ പരീക്ഷിക്കാൻ ഉപയോഗിക്കുന്ന എഐ തന്നെ ചില സാഹചര്യങ്ങളിൽ ആക്രമണാത്മക രീതിയിലുള്ള പ്രവർത്തനങ്ങൾ നടത്താൻ തുടങ്ങുമോ എന്ന ആശങ്കയാണ് ഇതോടെ വീണ്ടും ഉയരുന്നത്.
