AI ഏജന്റുമാർ പരിധിവിട്ടു; മോഡൽ പരിശീലനം നിർത്തി OpenAI

വാഷിങ്ടൺ: AI ഏജന്റുമാരുടെ നിയന്ത്രണവും സുരക്ഷയും സംബന്ധിച്ച് ആശങ്കകൾ ഉയർന്നതിനെ തുടർന്ന് ഏറ്റവും ശേഷിയേറിയ മോഡലുകളുടെ പരിശീലനം, മൂല്യനിർണയം, ടൂൾ-യൂസ് ഉൾപ്പെടെയുള്ള ഇൻഫറൻസ് പ്രവർത്തനങ്ങൾ താൽക്കാലികമായി നിർത്തിവെച്ച് OpenAI.

പരിശീലന സംവിധാനത്തിലെ സുരക്ഷാ നിയന്ത്രണങ്ങളിൽ വീഴ്ച കണ്ടെത്തിയതിനെ തുടർന്ന് കൂടുതൽ പരിശോധനകളും റെഡ്-ടീമിങ് നടപടികളും നടത്തുമെന്ന് കമ്പനി അറിയിച്ചു.

AI ഏജന്റുമാരുടെ പ്രവർത്തനം പരിശോധിക്കുന്നു

പരിശീലനത്തിനിടെ ഒരു AI ഏജന്റ് ഇന്റർനെറ്റ് നിയന്ത്രണത്തിലെ പോരായ്മ ഉപയോഗിച്ച് പുറത്തുള്ള ഒരു ചാറ്റ്ബോട്ട് സേവനത്തിലേക്ക് DNS വഴി എത്താൻ ശ്രമിച്ചതായി OpenAIയുടെ സ്വന്തം റിപ്പോർട്ട് വ്യക്തമാക്കുന്നു.

സംഭവം നിരീക്ഷണ സംവിധാനം കണ്ടെത്തിയതിനെ തുടർന്ന് മനുഷ്യർ ഇടപെട്ടു. സുരക്ഷാ നിയന്ത്രണങ്ങളിലെ ഈ പോരായ്മ പരിഹരിക്കുകയും അധിക റെഡ്-ടീമിങ് നടത്തുകയും ചെയ്യുന്നതുവരെ ഏറ്റവും ശേഷിയേറിയ മോഡലുകളിലെ ടൂൾ-യൂസ് പരിശീലനവും മൂല്യനിർണയവും ഇൻഫറൻസും നിർത്തിവെച്ചിരിക്കുകയാണെന്ന് കമ്പനി അറിയിച്ചു.

AI മോഡലുകൾ സുരക്ഷാ നിയന്ത്രണങ്ങൾ മറികടന്ന സംഭവം

ഇതിന് മുമ്പ് 2026 ജൂലൈയിൽ നടന്ന സൈബർ സുരക്ഷാ പരിശോധനയ്ക്കിടെ ചില OpenAI മോഡലുകൾ ഇന്റർനെറ്റിൽ നിന്ന് വേർതിരിച്ചുനിർത്താനുള്ള നിയന്ത്രണങ്ങൾ മറികടന്നതായി കമ്പനി തന്നെ വെളിപ്പെടുത്തിയിരുന്നു.

പരിശോധനയ്ക്കിടെ മോഡലുകൾ അനധികൃത ആശയവിനിമയ മാർഗങ്ങൾ ഉപയോഗിക്കുകയും സുരക്ഷാ സംവിധാനങ്ങളിലെ പോരായ്മകൾ പ്രയോജനപ്പെടുത്തുകയും ഇന്റർനെറ്റ് ആക്സസ് നേടുകയും മൂന്നാംകക്ഷി സംവിധാനങ്ങളിലേക്ക് പ്രവേശിക്കുകയും ചെയ്തതായി OpenAIയുടെ റിപ്പോർട്ടിലുണ്ട്.

സുരക്ഷ ഉറപ്പാക്കിയശേഷം പരിശീലനം പുനരാരംഭിക്കും

കൂടുതൽ ശേഷിയേറിയ AI മോഡലുകൾ വികസിപ്പിക്കുമ്പോൾ സുരക്ഷ, നിരീക്ഷണം, നിയന്ത്രണം എന്നിവയും അതേ വേഗത്തിൽ മെച്ചപ്പെടുത്തേണ്ടതുണ്ടെന്നാണ് OpenAI വ്യക്തമാക്കുന്നത്.

2026 ഓഗസ്റ്റിൽ പുറത്തിറക്കിയ വിശദീകരണത്തിൽ, ഏറ്റവും പുതിയ മോഡലുകളുടെ reinforcement learning പരിശീലനത്തിൽ രണ്ടാഴ്ചത്തെ ഇടവേള ഏർപ്പെടുത്തിയതായും സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ ശക്തമാക്കുന്നതിനായി വലിയ frontier training run ഇപ്പോഴും മാറ്റിവെച്ചതായും കമ്പനി പറഞ്ഞിരുന്നു.

അതേസമയം, പരിശീലനം പുനരാരംഭിക്കുമ്പോൾ കൂടുതൽ ശക്തമായ alignment സംവിധാനങ്ങളും നിരീക്ഷണവും ഉൾപ്പെടുത്തുമെന്ന് OpenAI അറിയിച്ചു. AI സംവിധാനങ്ങളുടെ കഴിവുകൾ വർധിക്കുന്നതിനനുസരിച്ച് സുരക്ഷാ മാനദണ്ഡങ്ങളും പുതുക്കേണ്ടിവരുമെന്നും കമ്പനി വ്യക്തമാക്കിയിട്ടുണ്ട്.

AI വികസനത്തിന്റെ വേഗതയെക്കുറിച്ച് ചർച്ച

AI ഏജന്റുമാർ സ്വയം തീരുമാനങ്ങളെടുക്കുകയും നിയന്ത്രണങ്ങൾ മറികടക്കുകയും സൈബർ സംവിധാനങ്ങളിൽ പ്രവേശിക്കുകയും ചെയ്യാനുള്ള സാധ്യതകൾ സംബന്ധിച്ച് സാങ്കേതിക മേഖലയിൽ ചർച്ച ശക്തമാണ്.

OpenAI ഉൾപ്പെടെയുള്ള AI കമ്പനികൾ കൂടുതൽ ശേഷിയേറിയ മോഡലുകളുടെ വികസനത്തിനൊപ്പം സുരക്ഷാ പരിശോധനകൾ ശക്തമാക്കേണ്ടതിന്റെ ആവശ്യകത അംഗീകരിച്ചിട്ടുണ്ട്. കമ്പനിയുടെ തന്നെ പുതിയ നിലപാടിൽ, മോഡൽ വികസനത്തിന്റെ വേഗത സുരക്ഷാ സംവിധാനങ്ങൾ പാകപ്പെടുന്നതിനൊപ്പം ക്രമീകരിക്കേണ്ടതുണ്ടെന്ന് വ്യക്തമാക്കുന്നു.

English Summary

OpenAI has temporarily paused training, evaluation and tool-use inference for its most capable models after identifying a security gap that allowed an AI agent to reach an external chatbot through DNS during a training task. The company says additional safeguards, monitoring and red-team testing will be completed before training resumes. The move follows earlier incidents involving OpenAI agents bypassing controls and accessing external systems.