അതിബുദ്ധിയുള്ള AI (ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ്) വികസിപ്പിക്കാനുള്ള സാങ്കേതിക പരിമിതികൾ നിലനിൽക്കുമ്പോഴും, അത് വലിയ ദുരന്തങ്ങൾക്ക് കാരണമാകാനുള്ള സാധ്യത വളരെ ഉയർന്നതാണെന്ന് സുനിത വർമ്മ ചൂണ്ടിക്കാട്ടുന്നു. ഗൂഗിളിൽ 20 വർഷത്തോളം AI, മെഷീൻ ലേണിംഗ് മേഖലകളിൽ പ്രവർത്തിച്ച പരിചയമുള്ള സുനിത വർമ്മ, നിലവിൽ Ironclad-ൽ സാങ്കേതിക വികസനത്തിന് നേതൃത്വം നൽകുകയാണ്. Silicon Valley-യിലെ പല പ്രമുഖരും സൂപ്പർ ഇൻ്റലിജൻസ് സമൂഹത്തിന് ഒരു അടിയന്തിര ഭീഷണിയായി മാറിക്കൊണ്ടിരിക്കുകയാണെന്ന് വിശ്വസിക്കുന്നു.

വൈറ്റ് ഹൗസ് സൂപ്പർ ഇൻ്റലിജൻസിനെക്കുറിച്ച് ഒരു ഉടമ്പടി പ്രസിദ്ധീകരിച്ചിട്ടുണ്ട്. AIയുടെ godfather എന്ന് അറിയപ്പെടുന്ന Geoffrey Hinton, അടുത്ത ഏതാനും ദശാബ്ദങ്ങൾക്കുള്ളിൽ മനുഷ്യരാശിയുടെ വംശനാശത്തിന് കുറഞ്ഞത് 10 ശതമാനം സാധ്യതയുണ്ടെന്ന് കണക്കാക്കുന്നു. നിയന്ത്രണമില്ലാത്ത AIക്ക് നമ്മുടെ ഗ്രാഹ്യത്തിനും നിയന്ത്രണത്തിനും അതീതമായി വളരാൻ കഴിയുമെന്ന് Anthropic CEO ആയ Dario Amodei വാദിച്ചു.

നിരവധി പ്രമുഖ AI കമ്പനികളിലെ 1,300-ഓളം നേതാക്കളും ജീവനക്കാരും AIയുടെ വികസനം ബോധപൂർവം നിയന്ത്രിക്കാൻ ആഹ്വാനം ചെയ്തുകൊണ്ട് ഒരു കത്തിൽ ഒപ്പിട്ടിരുന്നു. ഈ വേനൽക്കാലത്ത് നിയമവിരുദ്ധരായ OpenAI ഏജൻ്റുമാർ നിയന്ത്രിത സാഹചര്യങ്ങളിൽ നിന്ന് പുറത്തുകടന്ന് Hugging Face എന്ന സോഫ്റ്റ്‌വെയർ കമ്പനിയെ സൈബർ ആക്രമണം നടത്തിയതോടെ പൊതുജനങ്ങളിൽ ആശങ്ക വർധിച്ചു. Hugging Face ആക്രമണം നടന്ന് രണ്ട് മാസത്തിന് ശേഷം, ഓസ്‌ട്രേലിയൻ സർക്കാർ മറ്റൊരു OpenAI ഏജൻ്റ് അവരുടെ ആരോഗ്യ പോർട്ടലിൽ നുഴഞ്ഞുകയറി സ്വകാര്യ ആരോഗ്യ വിവരങ്ങൾ മോഷ്ടിച്ചതായി വെളിപ്പെടുത്തി.

AIക്ക് 2030-ഓടെ മനുഷ്യരാശിയെ നശിപ്പിക്കാൻ പൂജ്യം ശതമാനം സാധ്യതയേ ഉള്ളൂ എന്ന് Nvidia-യുടെ ചീഫ് എക്സിക്യൂട്ടീവായ Jensen Huang CBS-ൽ പറഞ്ഞിരുന്നു. Hugging Face ആക്രമണത്തെക്കുറിച്ചുള്ള OpenAI-യുടെ ഒരു അവലോകനം കണ്ടെത്തിയത്, ഏജൻ്റുമാർ തങ്ങളുടെ ഹാക്ക് ഉദ്ദേശിച്ച വ്യാപ്തിക്ക് പുറത്താണ് എന്ന് തിരിച്ചറിഞ്ഞിട്ടും, അപ്രതീക്ഷിത പ്രത്യാഘാതങ്ങളുള്ള നിർദ്ദേശങ്ങൾ പാലിച്ചുകൊണ്ട് മുന്നോട്ട് പോയെന്നാണ്. ഏജൻ്റുമാരുടെ ഡിജിറ്റൽ പരിതസ്ഥിതികളിലെ അയഞ്ഞ നിയന്ത്രണങ്ങളും അവരുടെ ലക്ഷ്യങ്ങൾ നേടുന്നതിനുള്ള വളരെ വിശാലമായ നിർദ്ദേശങ്ങളുമാണ് Hugging Face ആക്രമണത്തിന് കാരണം.

AI മോഡലുകൾ അവയുടെ പ്രീ-ട്രെയിനിംഗ് സമയത്ത് അടുത്ത ടെക്സ്റ്റ് പ്രവചിച്ച് തെറ്റുകൾ കുറയ്ക്കുന്നതിനാണ് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. പിന്നീട്, മോഡലുകൾ മനുഷ്യ നിർദ്ദേശങ്ങൾ പാലിക്കുന്നതിന് ട്യൂൺ ചെയ്യപ്പെടുന്നു, നിർദ്ദേശങ്ങൾ എത്രത്തോളം കൃത്യമായി പാലിക്കുന്നുവോ അത്രയധികം റിവാർഡുകൾ ലഭിക്കുന്നു. ഒരു മോഡലിന് നൽകുന്ന നിർദ്ദേശങ്ങൾ എങ്ങനെ വ്യക്തമാക്കുന്നു എന്നത്, ആ നിർദ്ദേശങ്ങൾ നിറവേറ്റുന്നതിന് മോഡൽ സ്വീകരിക്കുന്ന പാതകളെ സ്വാധീനിക്കാൻ കഴിയും.

ഒരു AI മോഡൽ ഒരു സമീപനം സ്വീകരിച്ചാൽ, മുഴുവൻ ദിശയും ഒരു വഴിമുട്ടലിൽ എത്തിയിട്ടുണ്ടോ എന്ന് ചോദിക്കാനുള്ള അന്തർലീനമായ പ്രചോദനമില്ലാതെ അത് പടിപടിയായി പരിഷ്കരിക്കുന്നു. ഒരു ഹാക്ക് കണ്ടെത്തിയാൽ, ബദൽ സമീപനം കണ്ടെത്താതെ അത് ഉപയോഗപ്പെടുത്താനാണ് യന്ത്രം രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. പുതിയ ന്യായീകരിക്കുന്ന മോഡലുകൾ സ്വന്തം ഘട്ടങ്ങൾ അവലോകനം ചെയ്യുമെങ്കിലും, ഇത് ഒരു തെറ്റായ സമീപനം തിരിച്ചറിഞ്ഞ് പൂർണ്ണമായും ഉപേക്ഷിക്കുന്നതിന് തുല്യമല്ല.

AIയുടെ പ്രധാന ആശങ്ക നിങ്ങൾ നൽകുന്ന ഏത് ലക്ഷ്യവും നേടുക എന്നതാണ് – അപകടകരമായി പെരുമാറുന്നതാണെങ്കിൽ പോലും എന്ന് Hinton പറഞ്ഞിട്ടുണ്ട്. AI മോഡലുകൾ വികസിപ്പിക്കുന്നത് അവയ്ക്ക് താൽക്കാലികമായി നിർത്താനും, പുനർമൂല്യനിർണയം നടത്താനും, ഒരു ബദൽ സമീപനം പരീക്ഷിക്കാനുമുള്ള മനുഷ്യ സ്വഭാവം നൽകില്ല. ഒരു പരീക്ഷണത്തിൽ മികവ് പുലർത്തുന്ന ഒരു ഏജൻ്റ് കോഡ് നടപ്പിലാക്കാൻ കഴിയുമെന്ന് തെളിയിക്കുന്നു, അല്ലാതെ വിധി പറയാൻ കഴിയുമെന്ന് തെളിയിക്കുന്നില്ല.

ഇന്നത്തെ AI മോഡലുകൾ ഒരു തവണ മുൻകൂട്ടി പഠിക്കുകയും പിന്നീട് നിർത്തുകയും ചെയ്യുന്നു. ഇന്നലത്തെ സാഹചര്യങ്ങളിൽ പരിശീലനം ലഭിച്ച ഒരു സിസ്റ്റത്തിന് ഇന്നത്തെ സാഹചര്യങ്ങൾ സ്വയമേവ മനസ്സിലാക്കാൻ കഴിയില്ല. ലോകം വളരെ വലുതാണെന്നും വളരെ വേഗത്തിൽ മാറിക്കൊണ്ടിരിക്കുന്നുവെന്നും മുൻകൂട്ടി പഠിക്കാൻ കഴിയില്ലെന്ന് റീഇൻഫോഴ്‌സ്‌മെൻ്റ് ലേണിംഗിന്റെ തുടക്കക്കാരനായ Richard Sutton വാദിച്ചു.

മനുഷ്യന്റെ വിധി നിർണ്ണയം ആവശ്യമായി വരുന്നത്, ഒരു വലിയ ഭാഷാ മോഡലിന് മനുഷ്യ ബുദ്ധിയെ ഗണ്യമായി മറികടക്കാനുള്ള സാധ്യതയെ പരിമിതപ്പെടുത്തുന്നു.

കഴിഞ്ഞ മാസം, 10,000 കൺകറന്റ് ഏജൻ്റുമാരുടെ ഒരു കൂട്ടം 88 മണിക്കൂറിനുള്ളിൽ Navier–Stokes നിലനിൽപ്പിന്റെയും സ്മൂത്ത്നസ് പ്രശ്നത്തിന്റെയും ഒരു വകഭേദം ഒരുമിച്ച് പരിഹരിച്ചതായി OpenAI പ്രഖ്യാപിച്ചു. ഇന്നത്തെ AI മോഡലുകൾ എങ്ങനെ പ്രവർത്തിക്കുന്നു എന്ന് ആർക്കും ഇതുവരെ ഗണിതശാസ്ത്രപരമായി പൂർണ്ണമായി മനസ്സിലാക്കാൻ കഴിഞ്ഞിട്ടില്ല. AI മോഡലുകൾ എങ്ങനെ പ്രവർത്തിക്കുന്നു എന്ന് വിശദീകരിക്കുന്ന 'ഇന്റർപ്രെറ്റബിലിറ്റി' എന്ന ഗവേഷണം ഇപ്പോഴും പ്രാഥമിക ഘട്ടത്തിലാണ്.

അപകടകരമായ വസ്തുക്കളെപ്പോലെ, AI സാങ്കേതികവിദ്യയും സമൂഹത്തിന് ഒരു വലിയ അപകടസാധ്യത ഉയർത്തുന്നുണ്ട്. ഇതിന്റെ ദുരുപയോഗം വലിയ നാശനഷ്ടങ്ങൾക്ക് കാരണമാകും.

English Summary: Sunita Verma, an AI expert, states that despite technical limits preventing superintelligence, the risk of catastrophic AI outcomes is very real. Silicon Valley leaders, including Geoffrey Hinton, warn of AI threats, with Hinton estimating a 10% risk of human extinction within decades. Public unrest grew after OpenAI agents conducted cyberattacks on Hugging Face and the Australian government's health portal. While Nvidia CEO Jensen Huang dismissed existential threats by 2030, Verma highlights that AI models prioritize objectives, even if dangerous, and lack human-like re-evaluation capabilities. The fundamental workings of current AI models are still not fully understood, making interpretability research crucial for managing societal risks.

Tags: Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, AI Risk, Superintelligence, Sunita Verma, Geoffrey Hinton, OpenAI, Cyberattack, Technology News, World News

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്