മെറ്റാ സൂപ്പർ ഇന്റലിജൻസ് ലാബിലെ (MSL) അലൈൻമെന്റ് ഡയറക്ടറായ സമ്മർ യു (Summer Yue) തന്റെ ഇൻബോക്സിലെ നൂറുകണക്കിന് ഇമെയിലുകൾ ഒരു എഐ ഏജന്റ് അനുവാദമില്ലാതെ ഡിലീറ്റ് ചെയ്ത വാർത്ത പുറത്തുവിട്ടു. ഓപ്പൺ സോഴ്സ് എഐ ടൂളായ ഓപ്പൺ ക്ലോ (OpenClaw) ആണ് സമ്മർ യുവിന്റെ നിർദ്ദേശങ്ങൾ ലംഘിച്ചുകൊണ്ട് മെയിലുകൾ ഡിലീറ്റ് ചെയ്തത്. "ഓരോ നടപടിയും എടുക്കുന്നതിന് മുൻപ് അനുവാദം ചോദിക്കണം" എന്ന തന്റെ നിർദ്ദേശം കാറ്റിൽ പറത്തിയാണ് എഐ ഏജന്റ് ഈ പ്രവൃത്തി ചെയ്തതെന്ന് അവർ പറഞ്ഞു.

തന്റെ സ്മാർട്ട് ഫോണിലൂടെ ഈ പ്രക്രിയ തടയാൻ സമ്മർ യു ശ്രമിച്ചെങ്കിലും എഐ ബോട്ട് അത് അവഗണിച്ചു. ഒടുവിൽ തന്റെ മാക് മിനി (Mac mini) കമ്പ്യൂട്ടറിലേക്ക് ഓടിയെത്തി മാന്വലായി പ്രോസസ്സ് ഓഫ് ചെയ്താണ് കൂടുതൽ മെയിലുകൾ നഷ്ടപ്പെടുന്നത് അവർ ഒഴിവാക്കിയത്. "ബോംബ് നിർവീര്യമാക്കാൻ ഓടുന്നത് പോലെയാണ് എനിക്ക് തോന്നിയത്" എന്നാണ് അവർ എക്സിൽ (X) കുറിച്ചത്. എഐയുമായി നടത്തിയ ചാറ്റിന്റെ സ്ക്രീൻഷോട്ടുകളും അവർ പങ്കുവെച്ചിട്ടുണ്ട്.

നേരത്തെ ചെറിയ പരീക്ഷണങ്ങളിൽ കൃത്യമായി പ്രവർത്തിച്ചതിനാലാണ് തന്റെ പ്രധാന ജിമെയിൽ ഇൻബോക്സ് കൈകാര്യം ചെയ്യാൻ അവർ ഓപ്പൺ ക്ലോ ഉപയോഗിച്ചത്. എന്നാൽ വലിയ തോതിലുള്ള ഡാറ്റ കൈകാര്യം ചെയ്തപ്പോൾ എഐയുടെ കോണ്ടക്സ്റ്റ് കോംപാക്ഷൻ (Context Compaction) എന്ന സാങ്കേതിക പ്രക്രിയ കാരണം മുൻപ് നൽകിയ സുരക്ഷാ നിർദ്ദേശം ബോട്ടിന് നഷ്ടപ്പെടുകയായിരുന്നു. ഇതോടെ ഇൻബോക്സ് ക്ലീൻ ചെയ്യുക എന്നത് മാത്രമായി ബോട്ടിന്റെ ലക്ഷ്യം. നൂറുകണക്കിന് മെയിലുകൾ ഡിലീറ്റ് ചെയ്തതിന് ശേഷം എഐ ബോട്ട് മാപ്പ് പറയുകയും ചെയ്തു.

എഐ സുരക്ഷാ രംഗത്തെ പ്രമുഖയായ ഒരാൾക്ക് തന്നെ ഇത്തരം ഒരു അനുഭവം ഉണ്ടായത് വലിയ ചർച്ചകൾക്കാണ് വഴിതുറന്നിരിക്കുന്നത്. ഇതൊരു റൂക്കി മിസ്റ്റേക്ക് (Rookie mistake) ആണെന്ന് സമ്മർ യു സമ്മതിച്ചു. എഐ ഏജന്റുകൾക്ക് സിസ്റ്റങ്ങളിൽ വലിയ തോതിലുള്ള ആക്സസ് നൽകുന്നത് എത്രത്തോളം അപകടകരമാണെന്ന് ഈ സംഭവം തെളിയിക്കുന്നു. ഓപ്പൺ ക്ലോയുടെ സ്രഷ്ടാവ് പീറ്റർ സ്റ്റെയ്ൻബെർഗറെ കഴിഞ്ഞയാഴ്ച ഓപ്പൺഎഐ (OpenAI) ജോലിക്കെടുത്തിരുന്നു.

English Summary:

Summer Yue, Director of Alignment at Meta Superintelligence Lab, shared an incident where her OpenClaw AI agent deleted hundreds of emails from her Gmail inbox without approval. Despite explicit instructions to "confirm before acting," the AI bot ignored her commands due to a technical failure called "context compaction." Yue had to manually terminate the process on her Mac mini to stop the deletion. The AI agent later apologized, acknowledging it broke the rules she had set.

Tags:

Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, Meta AI News, OpenClaw AI, Summer Yue Meta, AI Deletes Email, Tech News Malayalam, AI Safety