ന്യൂഡൽഹി: കൂടുതൽ സ്വതന്ത്രമായി സങ്കീർണ ജോലികൾ പൂർത്തിയാക്കാൻ കഴിയുന്ന AI മോഡലുകളുടെ വികസനം വേഗത്തിലാകുന്നതിനിടെ സുരക്ഷാ മാനദണ്ഡങ്ങളിൽ വിട്ടുവീഴ്ച വേണ്ടെന്ന നിലപാട് വ്യക്തമാക്കി OpenAI. സുരക്ഷയും അലൈൻമെന്റും സംബന്ധിച്ച ആഭ്യന്തര പരിശോധനയിൽ പ്രതീക്ഷിച്ച നിലവാരം കൈവരിക്കാത്തതിനെ തുടർന്ന് GPT-6.1 Astra പുറത്തിറക്കേണ്ടതില്ലെന്ന് കമ്പനി തീരുമാനിച്ചതായി റിപ്പോർട്ട്.
ഉപയോക്താവിന്റെ അനുമതിക്ക് പുറത്തേക്ക് പോകുമോ?
വെബ് ബ്രൗസിങ് ഉൾപ്പെടെയുള്ള പ്രവർത്തനങ്ങളും വിവിധ ഡിജിറ്റൽ സംവിധാനങ്ങളുമായുള്ള ഇടപെടലുകളും കൂടുതൽ സ്വതന്ത്രമായി നിർവഹിക്കാൻ ലക്ഷ്യമിട്ട മോഡലായിരുന്നു GPT-6.1 Astra. എന്നാൽ ഉപയോക്താവ് നൽകിയ അധികാരപരിധിക്കുള്ളിൽ തന്നെ പ്രവർത്തിക്കുന്നതിലും പൂർത്തിയാക്കിയ ജോലികളെക്കുറിച്ച് കൃത്യമായി വിവരിക്കുന്നതിലും മോഡൽ പ്രതീക്ഷിച്ച നിലവാരം കൈവരിച്ചില്ലെന്നാണ് റിപ്പോർട്ടുകൾ.
OpenAIയുടെ സേഫ്റ്റി സിസ്റ്റംസ് വിഭാഗം മേധാവി സാച്ചി ജെയിന്റെ വിശദീകരണമനുസരിച്ച്, മോഡൽ മുമ്പത്തെ പതിപ്പുകളെ അപേക്ഷിച്ച് ജോലികൾ പൂർത്തിയാക്കുന്നതിൽ കൂടുതൽ സജീവമായിരുന്നെങ്കിലും scope, authorization, ഉപയോക്താവിനോട് നടത്തിയ പ്രവർത്തനങ്ങൾ വ്യക്തമാക്കൽ തുടങ്ങിയ മേഖലകളിൽ ആവശ്യമായ നിലവാരം കൈവരിച്ചില്ല.
AI ഏജന്റുകൾക്ക് നിയന്ത്രണം നിർണായകം
സ്വന്തമായി തീരുമാനങ്ങളെടുത്ത് പല ഘട്ടങ്ങളുള്ള ജോലികൾ പൂർത്തിയാക്കുന്ന AI ഏജന്റുകളുടെ കാര്യത്തിൽ ഉപയോക്താവിന്റെ അനുമതി കൃത്യമായി പാലിക്കുന്നതും ഓരോ പ്രവർത്തനവും സുതാര്യമായി അറിയിക്കുന്നതും പ്രധാന സുരക്ഷാ മാനദണ്ഡങ്ങളാണ്.
അതേസമയം, കൂടുതൽ കഴിവുള്ള AI മോഡലുകൾക്ക് കൂടുതൽ സ്വാതന്ത്ര്യം നൽകുമ്പോൾ അവയുടെ പ്രവർത്തനപരിധി എങ്ങനെ നിയന്ത്രിക്കാമെന്നത് വ്യവസായത്തിലെ പ്രധാന ചർച്ചയായി തുടരുകയാണ്.
GPT-6 Astraയും GPT-6.1 Astraയും വ്യത്യസ്തം
ഇവിടെ ശ്രദ്ധിക്കേണ്ടത് GPT-6 Astraയും GPT-6.1 Astraയും ഒരേ മോഡലല്ല എന്നതാണ്. GPT-6 Astra സെപ്റ്റംബറിൽ തന്നെ പുറത്തിറക്കിയതായി OpenAIയുടെ ഔദ്യോഗിക രേഖ വ്യക്തമാക്കുന്നു. അതേസമയം, GPT-6.1 Astra എന്ന അടുത്ത പതിപ്പിന്റെ പുറത്തിറക്കലാണ് സുരക്ഷാ പരിശോധനകളെ തുടർന്ന് ഒഴിവാക്കാൻ തീരുമാനിച്ചത്.
GPT-6.1 Astraയുടെ ഭാവിയിൽ പരിഷ്കരിച്ച പതിപ്പ് എപ്പോൾ പുറത്തിറങ്ങുമെന്ന കാര്യത്തിൽ നിലവിൽ വ്യക്തതയില്ല.
Hugging Face സംഭവവും സുരക്ഷാ ചർച്ചയും
AI ഏജന്റുകളുടെ സ്വയംപ്രവർത്തന ശേഷിയെക്കുറിച്ചുള്ള ചർച്ചകൾ ശക്തമാകുന്നതിനിടെയാണ് ഈ തീരുമാനം. ജൂലൈയിലെ ആഭ്യന്തര സൈബർ സുരക്ഷാ പരിശോധനയ്ക്കിടെ ചില OpenAI മോഡലുകൾ ഇന്റർനെറ്റ് നിയന്ത്രണങ്ങൾ മറികടന്ന് OpenAIയുടെ ഗവേഷണ സംവിധാനങ്ങളിലേക്കും Hugging Face സംവിധാനങ്ങളിലേക്കും പ്രവേശിച്ച സംഭവത്തെക്കുറിച്ച് OpenAI പിന്നീട് വിശദീകരിച്ചിരുന്നു.
അതേസമയം, ഓസ്‌ട്രേലിയയിലെ സർക്കാർ സംവിധാനങ്ങളുമായി ബന്ധപ്പെട്ട AI ഏജന്റ് സംഭവവും റിപ്പോർട്ട് ചെയ്യപ്പെട്ടിരുന്നു. ഇത്തരം സംഭവങ്ങൾ AI ഏജന്റുകൾക്ക് നൽകുന്ന സ്വാതന്ത്ര്യം, അവയുടെ അധികാരപരിധി, മേൽനോട്ട സംവിധാനങ്ങൾ എന്നിവയെക്കുറിച്ചുള്ള സുരക്ഷാ ചർച്ചകൾക്ക് കൂടുതൽ പ്രാധാന്യം നൽകി.
സുരക്ഷാ മാനദണ്ഡത്തിന് മുൻഗണന
കൂടുതൽ കഴിവുള്ള AI മോഡലുകൾ വികസിപ്പിക്കുന്നതിനൊപ്പം അവ നൽകിയിരിക്കുന്ന നിർദേശങ്ങളും അധികാരപരിധിയും കൃത്യമായി പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കേണ്ടതിന്റെ പ്രാധാന്യമാണ് GPT-6.1 Astraയുടെ സംഭവവികാസം വീണ്ടും മുന്നിലെത്തിക്കുന്നത്.
OpenAIയുടെ ഔദ്യോഗിക സുരക്ഷാ രേഖകളിലും Astra പോലുള്ള ഉയർന്ന ശേഷിയുള്ള മോഡലുകൾക്ക് ദുരുപയോഗവും മോഡൽ തന്നെ അനധികൃത പ്രവർത്തനങ്ങളിലേക്ക് നീങ്ങുന്നതുമടക്കമുള്ള അപകടസാധ്യതകൾ പരിഗണിച്ച് അധിക സുരക്ഷാ സംവിധാനങ്ങൾ ആവശ്യമാണെന്ന് വ്യക്തമാക്കിയിട്ടുണ്ട്.
English Summary:
OpenAI has decided not to release GPT-6.1 Astra after internal safety and alignment tests found that the model did not meet the company’s required standards. Reports say the model did not consistently remain within authorised scope or clearly communicate the work it had performed. The decision comes amid wider concerns over increasingly autonomous AI agents and recent security incidents involving AI systems. OpenAI has separately highlighted the need for stronger safeguards as AI capabilities increase
