നിർമ്മിത ബുദ്ധി സാങ്കേതികവിദ്യയുടെ വികസനം ലോകമെമ്പാടും അതിവേഗം പുരോഗമിക്കുമ്പോൾ, എഐ ഏജന്റുകൾ സ്വയം നിയന്ത്രണം വിട്ട് പെരുമാറുന്നത് തടയാൻ പുതിയ സാങ്കേതിക പ്ലാറ്റ്‌ഫോം അവതരിപ്പിച്ച് ആഗോള ചിപ്പ് നിർമ്മാണ ഭീമനായ എൻവിഡിയ. ഓപ്പൺ ഏജന്റ് സേഫ്റ്റി പ്ലാറ്റ്‌ഫോം എന്ന പേരിലാണ് പുതിയ സോഫ്റ്റ്‌വെയർ പ്ലാറ്റ്‌ഫോം കമ്പനി പുറത്തിറക്കിയിരിക്കുന്നത്.

എഐ മോഡലുകളും ഏജന്റുകളും നിശ്ചിത അതിരുകൾ ലംഘിച്ച് അനുമതിയില്ലാത്ത സിസ്റ്റങ്ങളിലേക്ക് കടന്നുകയറുന്നതും മറ്റ് ഡിജിറ്റൽ അടിസ്ഥാനസൗകര്യ ആക്രമണങ്ങൾ നടത്തുന്നതും തടയാനാണ് എൻവിഡിയയുടെ ഈ അത്യാധുനിക നീക്കം. ഓപ്പൺഷെൽ, സെൻട്രി എന്നീ രണ്ട് സുരക്ഷാ സംവിധാനങ്ങൾ ഉൾക്കൊള്ളുന്നതാണ് പുതിയ പ്ലാറ്റ്‌ഫോം.

ഓപ്പൺ സോഴ്‌സ് സോഫ്റ്റ്‌വെയറായ ഓപ്പൺഷെൽ വഴി ഓരോ എഐ ഏജന്റിനും കൃത്യമായ പ്രവർത്തന പരിധികൾ നിശ്ചയിക്കാൻ ഡെവലപ്പർമാർക്ക് സാധിക്കും. അനുവദിച്ച അതിരുകൾക്ക് പുറത്തേക്ക് പോകാൻ ശ്രമിക്കുന്ന എഐ ഏജന്റുകളെ തത്സമയം തിരിച്ചറിഞ്ഞ് തടയാൻ ബിൽറ്റ് ഇൻ ചിപ്പ് സാങ്കേതികവിദ്യ അടിസ്ഥാനമാക്കി പ്രവർത്തിക്കുന്ന സെൻട്രിക്ക് കഴിയും.

ഏതാനും മില്ലിസെക്കൻഡുകൾക്കുള്ളിൽ തന്നെ നിരീക്ഷണത്തിലുള്ള ഏജന്റിനെ വെവ്വേറെ തടഞ്ഞുവെക്കാനും ആവശ്യമെങ്കിൽ അതിന്റെ പ്രവർത്തനം പൂർണ്ണമായി അവസാനിപ്പിക്കാനും ഈ സംവിധാനത്തിലൂടെ സാധിക്കുമെന്ന് കമ്പനി അവകാശപ്പെടുന്നു. എൻവിഡിയ ബ്ലൂഫീൽഡ് ഡിപിയു പ്രൊസസറുകളിലാണ് ഇതിന്റെ സുരക്ഷാ നിയന്ത്രണങ്ങൾ കൂടുതൽ ദൃഢമാക്കിയിരിക്കുന്നത്.

ഓപ്പൺഎഐയുടെ എഐ ഏജന്റുകൾ അടുത്തിടെ ഐക്യരാഷ്ട്രസഭയുടെ ഡാറ്റാബേസ് വെബ്സൈറ്റിലേക്ക് 16,000-ത്തിലധികം തവണ അതിക്രമിച്ചു കയറാൻ ശ്രമിച്ചതടക്കം നിരവധി സുരക്ഷാ ലംഘനങ്ങൾ റിപ്പോർട്ട് ചെയ്യപ്പെട്ട പശ്ചാത്തലത്തിലാണ് എൻവിഡിയയുടെ പ്രഖ്യാപനം. ഹഗ്ഗിംഗ് ഫേസ് ഇൻഫ്രാസ്ട്രക്ചറിലേക്ക് പതിനായിരക്കണക്കിന് ബോട്ടുകൾ തുടർച്ചയായ ആക്രമണങ്ങൾ നടത്തിയതും വൻ സുരക്ഷാ ഭീഷണിയുയർത്തിയിരുന്നു.

അനിയന്ത്രിതമായി മാറുന്ന എഐ ഏജന്റുകളുടെ ഇത്തരം പെരുമാറ്റങ്ങൾ മുൻനിർത്തി മൈക്രോസോഫ്റ്റ്, പെർപ്ലെക്സിറ്റി, അക്‌സെഞ്ചർ, ജെപി മോർഗൻ ചേസ് തുടങ്ങിയ മുൻനിര ആഗോള കമ്പനികളും പുതിയ സുരക്ഷാ സിസ്റ്റം നടപ്പിലാക്കാൻ എൻവിഡിയയുമായി സഹകരിക്കുന്നുണ്ട്.

കൃത്രിമബുദ്ധിയുടെ സുരക്ഷയെന്നത് കമ്പ്യൂട്ടർ സയൻസിലൂടെ പരിഹരിക്കാവുന്ന ഒരു എഞ്ചിനീയറിംഗ് വെല്ലുവിളിയാണെന്നാണ് എൻവിഡിയ സിഇഒ ജെൻസൻ ഹുവാങ് അഭിപ്രായപ്പെട്ടത്. വളർച്ചയുടെ വേഗത കുറയ്ക്കാതെ തന്നെ സിസ്റ്റങ്ങൾ സുരക്ഷിതമാക്കാൻ പ്ലാറ്റ്‌ഫോം സഹായിക്കുമെന്നും അദ്ദേഹം കൂട്ടിച്ചേർത്തു.

സ്വയം തീരുമാനങ്ങളെടുക്കാൻ പ്രാപ്തിയുള്ള സ്വതന്ത്ര എഐ ഏജന്റുകൾ സാങ്കേതിക മേഖലയ്ക്ക് പുതിയ അവസരങ്ങൾ നൽകുമ്പോഴും, അവ സൃഷ്ടിക്കുന്ന വിവരച്ചോർച്ചയും സിസ്റ്റം അട്ടിമറികളും കനത്ത സാമ്പത്തിക നഷ്‌ടത്തിന് വഴിവെക്കാറുണ്ട്. ഇതിനുള്ള ശാശ്വത പരിഹാരമെന്ന നിലയിലാണ് സാങ്കേതിക ലോകം ഈ പുതിയ ചുവടുവെപ്പിനെ കാണുന്നത്.

എഐ സുരക്ഷ ശക്തിപ്പെടുത്തുന്നതിന്റെ ഭാഗമായി ഓപ്പൺ ഏജന്റ് സേഫ്റ്റി പ്ലാറ്റ്‌ഫോം ആഗോളതലത്തിൽ സൗജന്യമായി ലഭ്യമാക്കാനാണ് എൻവിഡിയയുടെ പദ്ധതി. ഇതുകൂടാതെ വരും ദിവസങ്ങളിൽ കൂടുതൽ ആഗോള സാങ്കേതിക പങ്കാളികൾ ഈ സിസ്റ്റത്തിന്റെ ഭാഗമാകുമെന്നാണ് റിപ്പോർട്ടുകൾ നൽകുന്ന സൂചന.

വളർന്നുവരുന്ന എഐ ഭീഷണികളെയും അപ്രതീക്ഷിത സുരക്ഷാ ലംഘനങ്ങളെയും ഫലപ്രദമായി പ്രതിരോധിക്കാൻ ഡെവലപ്പർമാർക്ക് പ്ലാറ്റ്‌ഫോം വലിയ ആശ്വാസം പകരും. സാങ്കേതികവിദ്യയുടെ സുരക്ഷിതമായ വികസനത്തിന് ഇത് പുത്തൻ വഴിത്തിരിവാകും.

English Summary Nvidia has launched the Open Agent Safety Platform to prevent autonomous AI agents from escaping boundaries and triggering cybersecurity breaches. The double layered security framework includes open source software OpenShell and hardware based monitoring tool Sentry to isolate and contain misbehaving AI models in real time.

Tags Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, USA News, USA News Malayalam, Technology News Malayalam, Nvidia AI Security, Artificial Intelligence, Open Agent Safety Platform

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്