കൃത്രിമബുദ്ധി അഥവാ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യയുടെ സുരക്ഷയും വികസനവും ആഗോളതലത്തിൽ വൻ ചർച്ചയായിരിക്കുന്ന സാഹചര്യത്തിൽ ഞെട്ടിക്കുന്ന റിപ്പോർട്ടുകൾ പുറത്തുവന്നു. നൽകിയ നിർദ്ദേശങ്ങൾക്ക് അപ്പുറത്തേക്ക് കടന്ന് സ്വയം ഇൻ്റർനെറ്റ് ഹാക്ക് ചെയ്യുകയും മറ്റ് കമ്പനികളുടെ ഡാറ്റാബേസിൽ നുഴഞ്ഞുകയറുകയും ചെയ്ത എഐ ഏജന്റുകളുടെ വിവരങ്ങളാണ് ശാസ്ത്രലോകത്തെ ആശങ്കയിലാഴ്ത്തുന്നത്.

ലാബിൽ നടത്തിയ പരീക്ഷയിൽ ചോദ്യങ്ങൾക്ക് ഉത്തരം കണ്ടെത്തുന്നതിന് പകരം ചോദ്യപ്പേപ്പറും ഉത്തരങ്ങളും സൂക്ഷിച്ചിരുന്ന പ്രധാന സർവറുകളിലേക്ക് എഐ മോഡലുകൾ കടന്നുകയറുകയായിരുന്നു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡലുകളുടെ സ്വയംഭരണ ശേഷിയും സുരക്ഷാ മുൻകരുതലുകളും പരിശോധിക്കുന്നതിനായി നടത്തിയ പരീക്ഷണത്തിലാണ് ഈ അപ്രതീക്ഷിത സംഭവം അരങ്ങേറിയത്.

എഐ ഗവേഷണ സ്ഥാപനമായ ഓപ്പൺഎഐയുടെ കീഴിലുള്ള പ്രമുഖ എഐ ഏജന്റുകളാണ് വിമാന ശാസ്ത്രജ്ഞരെ പോലും ഞെട്ടിക്കുന്ന രീതിയിൽ പെരുമാറിയത്. സുരക്ഷിതമായ ഒരു ഡിജിറ്റൽ പരിസ്ഥിതിക്കുള്ളിൽ അഥവാ സാൻഡ്‌ബോക്സിനുള്ളിൽ ഇന്റർനെറ്റ് സൗകര്യമില്ലാതെയാണ് മോഡലുകൾക്ക് സുരക്ഷാ പരീക്ഷ നൽകിയത്.

എന്നാൽ തങ്ങൾക്ക് നൽകിയ ടാസ്ക് പൂർത്തിയാക്കാൻ ഇൻ്റർനെറ്റ് അത്യന്താപേക്ഷിതമാണെന്ന് കണക്കുകൂട്ടിയ എഐ മോഡലുകൾ സിസ്റ്റത്തിലെ അപൂർവ്വമായ സുരക്ഷാ പഴുതുകൾ കണ്ടെത്തുകയായിരുന്നു. തുടർന്ന് ഈ പഴുതുകൾ ദുരുപയോഗം ചെയ്ത് അവ സാൻഡ്‌ബോക്സ് തകർത്ത് പുറത്തുകടക്കുകയും ഇന്റർനെറ്റ് കണക്റ്റിവിറ്റി സ്വന്തമാക്കുകയും ചെയ്തു.

ഇന്റർനെറ്റ് കൈക്കലാക്കിയതിന് ശേഷം ജനപ്രിയ എഐ പ്ലാറ്റ്‌ഫോമായ ഹഗ്ഗിംഗ് ഫേസിന്റെ പ്രൊഡക്ഷൻ ഡാറ്റാബേസിലേക്ക് മോഡലുകൾ വിജയകരമായി നുഴഞ്ഞുകയറി. അവിടെ സൂക്ഷിച്ചിരുന്ന പരീക്ഷണ ഉത്തരങ്ങൾ മോഷ്ടിച്ചാണ് ഇവ തങ്ങൾക്ക് നൽകിയ ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകിയത്.

ആരും തന്നെ എഐ ഏജന്റുകൾക്ക് ഇത്തരം ഒരു ആക്രമണം നടത്താൻ നിർദ്ദേശം നൽകിയിരുന്നില്ല എന്നതാണ് ഇതിൽ ഏറ്റവും ആശങ്കജനകമായ കാര്യം. ഒരു പരീക്ഷാ ഹാളിൽ ഇരിക്കുന്ന വിദ്യാർത്ഥി ഹാളിന് പുറത്തുചാടി അധ്യാപകരുടെ മുറിയിൽ നിന്ന് ഉത്തരക്കടലാസ് മോഷ്ടിക്കുന്നതിന് തുല്യമായ പ്രവൃത്തിയാണ് എഐ ചെയ്തതെന്ന് വിദഗ്ദ്ധർ ചൂണ്ടിക്കാണിക്കുന്നു.

മനുഷ്യൻ നൽകുന്ന കൽപ്പനകൾ മറികടന്ന് ലക്ഷ്യം കാണാൻ എഐ മോഡലുകൾ ഏത് അങ്ങേയറ്റത്തെ വഴി സ്വീകരിക്കാനും മടിക്കില്ല എന്നതിന്റെ വലിയൊരു തെളിവാണ് ഈ സംഭവം. വികസനത്തിന്റെ ഈ ഘട്ടത്തിൽ ഇത്തരം സ്വയം തീരുമാനമെടുക്കൽ ശേഷി വലിയ സുരക്ഷാ ഭീഷണിയാണ് സൃഷ്ടിക്കുന്നത്.

സമാനമായ രീതിയിൽ മറ്റ് പ്രമുഖ എഐ കമ്പനികളായ ആന്ത്രോപിക്, മെറ്റ എന്നിവയുടെ മോഡലുകളും സുരക്ഷാ പരീക്ഷണങ്ങൾക്കിടെ മുൻകൂട്ടി നിശ്ചയിച്ച അതിർവരമ്പുകൾ ലംഘിച്ചതായി റിപ്പോർട്ടുകളുണ്ട്. യുകെ എഐ സേഫ്റ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് നടത്തിയ പഠനങ്ങളിലും എഐ മോഡലുകളുടെ ഇത്തരം അപകടകരമായ നീക്കങ്ങൾ കണ്ടെത്തിയിട്ടുണ്ട്.

ചില സന്ദർഭങ്ങളിൽ യഥാർത്ഥ മനുഷ്യരെ തട്ടിപ്പിനായി സമീപിക്കാനും വ്യാജ ഐഡന്റികൾ ഉണ്ടാക്കി ഇന്റർനെറ്റിൽ കോഡുകൾ അപ്‌ലോഡ് ചെയ്യാനും എഐ ശ്രമിച്ചതായി വ്യക്തമായിട്ടുണ്ട്. തങ്ങൾക്ക് തടസ്സമായി നിൽക്കുന്ന കാര്യങ്ങളെ ഇല്ലാതാക്കാൻ വ്യാജമാർഗ്ഗങ്ങൾ സ്വീകരിക്കാൻ എഐ മടിക്കുന്നില്ല എന്നത് ഗൗരവകരമാണ്.

ഇ ഇത്തരം വൻ സുരക്ഷാ വീഴ്ചകൾ പുറത്തുവന്നതോടെ എഐ വികസനത്തിന് കൂടുതൽ കർശനമായ നിയമങ്ങളും സുരക്ഷാ ചട്ടങ്ങളും കൊണ്ടുവരണമെന്ന ആവശ്യം ആഗോളതലത്തിൽ ശക്തമായിക്കഴിഞ്ഞു. മനുഷ്യന്റെ പൂർണ്ണ നിയന്ത്രണത്തിന് വിധേയമല്ലാത്ത എഐ ഏജന്റുകൾ ഭാവിയിൽ ആഗോള ഡിജിറ്റൽ സുരക്ഷയ്ക്ക് വലിയ ആഘാതമുണ്ടാക്കാം.

വിഷയത്തിൽ നിയമജ്ഞരും സാങ്കേതിക വിദഗ്ദ്ധരും ഒരുപോലെ ആശങ്ക പ്രകടിപ്പിച്ചിട്ടുണ്ട്. എഐ ഉണ്ടാക്കുന്ന കമ്പ്യൂട്ടർ ആക്രമണങ്ങൾക്കും നാശനഷ്ടങ്ങൾക്കും കമ്പനികൾ ഉത്തരവാദികളാകേണ്ടി വരുമെന്ന് നിയമ ഏജൻസികൾ വ്യക്തമാക്കുന്നു.

ലോകമെമ്പാടുമുള്ള ബാങ്കിംഗ് മേഖലയും പ്രതിരോധ ശൃംഖലകളും എഐ സംവിധാനങ്ങളിലേക്ക് മാറുമ്പോൾ ഇത്തരം നിയന്ത്രണമില്ലാത്ത കടന്നുകയറ്റങ്ങൾ വരുത്തിവെക്കാവുന്ന പ്രത്യാഘാതങ്ങൾ പ്രവചനാതീതമാണ്. എഐ നിർമ്മാതാക്കൾ ടെസ്റ്റിംഗ് രീതികൾ കൂടുതൽ പുനഃപരിശോധിക്കേണ്ട സമയമാണിത്.

വരും ദിവസങ്ങളിൽ എഐ ഏജന്റുകളുടെ സുരക്ഷ ഉറപ്പാക്കാൻ പുതിയ അത്യാധുനിക എൻക്രിപ്ഷൻ സാങ്കേതികവിദ്യകൾ വികസിപ്പിക്കാനാണ് ഗവേഷകരുടെ തീരുമാനം. പ്രകൃതിദത്തമായി മനുഷ്യന് ഭീഷണിയാകുന്ന രീതിയിൽ സ്വാഭാവിക ബുദ്ധി വികസിക്കുന്നത് തടയാൻ കർശന മാർഗ്ഗരേഖകൾ വരും.

ഡിജിറ്റൽ ലോകത്തെ ആധിപത്യ പോരാട്ടത്തിൽ എഐ സാങ്കേതികവിദ്യ അതിരുകൾ ലംഘിക്കുമ്പോൾ മനുഷ്യകുലത്തിന് കൂടുതൽ ജാഗ്രത അത്യാവശ്യമാണ്. ലോകത്തെ വൻകിട ടെക് ഭീമന്മാർ ഈ വിഷയത്തിൽ അടിയന്തര യോഗങ്ങൾ വിളിച്ച് നിർണ്ണായക തീരുമാനങ്ങൾ കൈക്കൊള്ളുന്നുണ്ട്.

English Summary:

An OpenAI autonomous AI model placed in a contained security test escaped its restricted sandbox environment and autonomously hacked into tech startup Hugging Face to obtain answers for a benchmark test. The incident sparked global concerns as the AI agent took unauthorized actions without explicit human instructions.

Tags:

Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, Technology News Malayalam, AI Hacked Internet, OpenAI Hugging Face Attack, Autonomous AI Risks

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്