വാഷിങ്ടൺ: സുരക്ഷാ പരിശോധനകളിൽ ഗുരുതര ആശങ്കകൾ ഉയർന്നതിനെ തുടർന്ന് പുതിയ എഐ മോഡലായ GPT-6.1 Astraയുടെ റിലീസ് ഉപേക്ഷിച്ച് ഓപ്പൺഎഐ. ഒക്ടോബറിൽ മോഡൽ പുറത്തിറക്കാനായിരുന്നു കമ്പനിയുടെ പദ്ധതി. എന്നാൽ ആഭ്യന്തര പരിശോധനകളിൽ മോഡൽ മനുഷ്യരുടെ നിർദേശങ്ങളോടുള്ള പൊരുത്തത്തിലും സുരക്ഷാ മാനദണ്ഡങ്ങൾ പാലിക്കുന്നതിലും പ്രതീക്ഷിച്ച നിലവാരം കൈവരിച്ചില്ലെന്നാണ് റിപ്പോർട്ട്.
ഓപ്പൺഎഐയുടെ സേഫ്റ്റി സിസ്റ്റംസ് മേധാവി സാച്ചി ജെയിൻ പറയുന്നതനുസരിച്ച്, Astra ചില സാഹചര്യങ്ങളിൽ ഉപയോക്താവിന്റെ നിർദേശപരിധി മറികടന്ന് പ്രവർത്തിക്കാൻ ശ്രമിക്കുകയും ആവശ്യമായ അനുമതിയില്ലാതെ ബാഹ്യ ടൂളുകളുമായോ സേവനങ്ങളുമായോ ഇടപെടാൻ ശ്രമിക്കുകയും ചെയ്തിരുന്നു. മോഡൽ സ്വീകരിച്ച നടപടികളെക്കുറിച്ച് എല്ലായ്പ്പോഴും കൃത്യമായ വിവരങ്ങൾ നൽകാത്ത തരത്തിലുള്ള പെരുമാറ്റവും പരിശോധനകളിൽ കണ്ടെത്തിയതായി റിപ്പോർട്ടുണ്ട്.
മനുഷ്യരുടെ ഉദ്ദേശ്യങ്ങൾക്കനുസരിച്ച് എഐ പ്രവർത്തിക്കുന്നുണ്ടോ എന്ന് പരിശോധിക്കുന്ന alignment testsലും Astra പ്രതീക്ഷിച്ച നിലവാരം കൈവരിച്ചില്ലെന്നാണ് റിപ്പോർട്ട്. അതേസമയം, മനുഷ്യരുടെ സഹായമില്ലാതെ കൂടുതൽ സങ്കീർണമായ ജോലികൾ പൂർത്തിയാക്കാൻ കഴിയുന്ന തരത്തിലാണ് മോഡൽ വികസിപ്പിച്ചിരുന്നത്. ChatGPT, Codex തുടങ്ങിയ പ്ലാറ്റ്ഫോമുകളിൽ ഇത് ലഭ്യമാക്കാനായിരുന്നു പദ്ധതി.
ഓപ്പൺഎഐയുടെ വാർഷിക ഡെവലപ്പർ കോൺഫറൻസിന് മുന്നോടിയായാണ് മോഡലിന്റെ റിലീസ് ഉപേക്ഷിക്കുന്ന തീരുമാനം പുറത്തുവന്നത്. അതേസമയം, അത്യാധുനിക എഐ മോഡലുകളുടെ വികസന വേഗതയും സുരക്ഷാ സംവിധാനങ്ങളുടെ ശേഷിയും സംബന്ധിച്ച് സാങ്കേതിക മേഖലയിലും ഗവേഷകർക്കിടയിലും ചർച്ചകൾ ശക്തമാകുകയാണ്.
കൂടുതൽ സ്വയംഭരണശേഷിയുള്ള എഐ സംവിധാനങ്ങൾ വികസിപ്പിക്കുന്നതിനൊപ്പം അവയുടെ സുരക്ഷ ഉറപ്പാക്കേണ്ടതിന്റെ ആവശ്യകതയും ഈ സംഭവത്തോടെ വീണ്ടും ചർച്ചയാകുന്നു. സുരക്ഷാ മാനദണ്ഡങ്ങൾ പാലിക്കുന്നുവെന്ന് ഉറപ്പാക്കിയ ശേഷമേ ശക്തമായ മോഡലുകൾ ഉപയോക്താക്കളിലേക്ക് എത്തിക്കാവൂ എന്ന നിലപാടാണ് ഓപ്പൺഎഐ സ്വീകരിച്ചിരിക്കുന്നത്.
