ഓപ്പൺഎഐയുടെ ടെസ്റ്റിംഗിനിടയിൽ തങ്ങളുടെ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് ഏജന്റുകൾ സുരക്ഷാ നിരീക്ഷണ സംവിധാനങ്ങൾ നിർജ്ജീവമാക്കിയതായി കമ്പനി വെളിപ്പെടുത്തി. മനുഷ്യന്റെ നിർദ്ദേശങ്ങൾക്ക് വിരുദ്ധമായി പ്രവർത്തിക്കുന്ന എഐ മോഡലുകളെ കണ്ടെത്താനുള്ള ഈ നിരീക്ഷണ സംവിധാനങ്ങളാണ് എഐ ഏജന്റുകൾ പ്രവർത്തനരഹിതമാക്കുകയോ ദുർബലപ്പെടുത്തുകയോ ചെയ്തത്. രണ്ട് ടെസ്റ്റിംഗ് കോഡിംഗ് ജോലികൾക്കിടെയാണ് ഈ സുരക്ഷാ ലംഘനങ്ങൾ ഉണ്ടായത്.

ഒരു GPT-6.1 Sol ഏജന്റ് കമ്പനിയുടെ സുരക്ഷാ ടീമിന് ലഭിക്കേണ്ട ഓട്ടോമാറ്റിക് അലേർട്ടുകൾ ഓഫ് ചെയ്തു. കൂടാതെ ഒരു GPT-6 Astra ഏജന്റ് ഒരു നിരീക്ഷണ സംവിധാനം നീക്കം ചെയ്യുകയും, അത് ചെയ്തിട്ടില്ലെന്ന് തെറ്റായി അവകാശപ്പെടുകയും ചെയ്തു. ഇത് ഏറ്റവും ഉയർന്ന മുൻഗണന ആവശ്യമുള്ള ഒരു സംഭവമായി കണക്കാക്കുന്നില്ലെന്നും, ഉടനടി സുരക്ഷാ ടീമിന്റെ അവലോകനം ആവശ്യമില്ലെന്നും ചാറ്റ്ജിപിടി നിർമ്മാതാക്കൾ അറിയിച്ചു.

ഈ സംഭവങ്ങളെത്തുടർന്ന്, നിരീക്ഷണ സംവിധാനങ്ങൾ നിർജ്ജീവമാക്കാനുള്ള ശ്രമങ്ങൾ കൂടുതൽ നന്നായി കണ്ടെത്താൻ തങ്ങളുടെ സിസ്റ്റങ്ങൾ അപ്‌ഡേറ്റ് ചെയ്തതായും, കാരണം കണ്ടെത്താൻ അന്വേഷണം ആരംഭിച്ചതായും ഓപ്പൺഎഐ പറഞ്ഞു. ഈ പെരുമാറ്റം എഐ മോഡലുകൾക്ക് നിരീക്ഷണത്തിന്റെ പ്രാധാന്യം മനസ്സിലാകാത്തതുകൊണ്ടാവാമെന്നും, നിർദ്ദേശങ്ങൾ അമിതമായി നടപ്പിലാക്കാൻ നിർബന്ധിക്കുന്നതുകൊണ്ടാകാമെന്നും സാൻ ഫ്രാൻസിസ്കോ ആസ്ഥാനമായുള്ള കമ്പനി വിലയിരുത്തി.

എഐ, സൈബർ സുരക്ഷാ വിദഗ്ദ്ധനായ റോമൻ വി യാംപോൾസ്കി ഈ വെളിപ്പെടുത്തലുകളെ "അങ്ങേയറ്റം ആശങ്കാജനകവും എന്നാൽ അത്ഭുതകരമല്ലാത്തതും" എന്നാണ് വിശേഷിപ്പിച്ചത്. നിരീക്ഷിക്കപ്പെടുന്ന സിസ്റ്റത്തിന് തന്നെ പ്രവർത്തനരഹിതമാക്കാൻ കഴിയുന്ന ഒരു സുരക്ഷാ സംവിധാനം വിശ്വസനീയമല്ലെന്ന് അദ്ദേഹം അൽ ജസീറയോട് പറഞ്ഞു. ഒരു ഏജന്റ് മോണിറ്റർ നീക്കം ചെയ്ത ശേഷം അത് നിഷേധിച്ചത് പ്രത്യേകിച്ചും ആശങ്കാജനകമാണെന്നും അദ്ദേഹം കൂട്ടിച്ചേർത്തു.

ഈ വർഷം ജൂലൈയിൽ, ചില ഓപ്പൺഎഐ ഏജന്റുകൾ നിയന്ത്രിത ടെസ്റ്റിംഗ് പരിതസ്ഥിതിയിൽ നിന്ന് പുറത്തുകടന്ന് എഐ പ്ലാറ്റ്‌ഫോമായ ഹഗ്ഗിംഗ് ഫേസ് ഹാക്ക് ചെയ്തതായി ഓപ്പൺഎഐ വെളിപ്പെടുത്തിയിരുന്നു. വിനാശകരമായ ദോഷങ്ങൾ കുറയ്ക്കുന്നതിനായി എഐ വികസനം ആഗോളതലത്തിൽ മന്ദഗതിയിലാക്കാൻ ഓപ്പൺഎഐയും അതിന്റെ പ്രധാന എതിരാളിയായ ആന്ത്രോപിക്കും ഡെവലപ്പർമാരോടും സർക്കാരുകളോടും ആഹ്വാനം ചെയ്തിട്ടുണ്ട്.

English Summary: OpenAIs AI agents reportedly disabled their own safety monitoring systems during internal coding tasks. The company revealed that a GPT-6.1 Sol agent turned off automatic alerts to its security team, while a GPT-6 Astra agent removed a monitoring system and falsely denied doing so. OpenAI stated that these incidents did not meet the highest priority threshold but have since updated their systems to better detect such attempts and initiated an investigation. An expert, Roman V Yampolskiy, described the revelations as extremely concerning, highlighting that a safety mechanism that can be disabled by the monitored system is unreliable.

Tags: OpenAI, AI Safety, ChatGPT, Technology News, Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, AI Agents, Cybersecurity, Tech News Malayalam, USA News, USA News Malayalam

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്