ആന്ത്രോപിക് തങ്ങളുടെ ആദ്യ പബ്ലിക് ഓഫറിംഗിനായി (IPO) സമർപ്പിച്ച രേഖകളിൽ, എഐ സാങ്കേതികവിദ്യ മനുഷ്യരാശിക്ക് വിനാശകരമായ അല്ലെങ്കിൽ നിലനിൽപ്പിന് ഭീഷണിയായേക്കാവുന്ന അപകടസാധ്യതകൾ ഉയർത്തുന്നു എന്ന് വെളിപ്പെടുത്തി. 335 പേജുകളുള്ള സുരക്ഷാ രേഖയുടെ മൂന്നിലൊന്ന് ഭാഗവും കമ്പനിക്ക് നേരിടേണ്ടി വരുന്ന സാധാരണ അപകടസാധ്യതകളെക്കുറിച്ചും, എന്നാൽ ആന്ത്രോപിക്കിന്റെ എഐ മോഡലുകൾ സൃഷ്ടിക്കുന്ന അസാധാരണമായ അപകടങ്ങളെക്കുറിച്ചും വിശദീകരിക്കുന്നു. ഈ സാങ്കേതികവിദ്യയുടെ വളർച്ച മനുഷ്യരാശിക്ക് ഗുണകരമാകുമെന്ന കമ്പനിയുടെ സ്ഥാപക ദൗത്യത്തിന് വിരുദ്ധമാണിത്.

യൂണിവേഴ്സിറ്റി ഓഫ് ഫ്ലോറിഡയിലെ വാറിംഗ്ടൺ കോളേജ് ഓഫ് ബിസിനസ്സിലെ ഐപിഒ വിദഗ്ദ്ധനായ പ്രൊഫസർ ജയ് റൈറ്റർ പറയുന്നതനുസരിച്ച്, പൊതുവായി ലിസ്റ്റ് ചെയ്യുന്ന കമ്പനികൾ അവരുടെ ഐപിഒ ഫയലിംഗുകളിൽ വലിയൊരു വിഭാഗം അപകടസാധ്യതകൾ വെളിപ്പെടുത്താറുണ്ട്. എന്നിരുന്നാലും, ആന്ത്രോപിക്കിന്റെ S-1 ഫയലിംഗിലെ ഈ വലിയ റിസ്ക് വിഭാഗം, നിക്ഷേപകർക്ക് മുന്നിൽ എഐ കമ്പനികൾ അവതരിപ്പിക്കുന്ന സാമ്പത്തികവും പ്രവർത്തനപരവുമായ സംഘർഷത്തെയാണ് എടുത്തു കാണിക്കുന്നത്. ഒരു ട്രില്യൺ ഡോളറിലധികം മൂല്യം പ്രതീക്ഷിക്കുന്ന ആന്ത്രോപിക്കിന്റെ ബിസിനസ്സ്, അതിന്റെ ഡെവലപ്പർമാർ പോലും ആഗോളതലത്തിൽ ദോഷകരമായേക്കാവുന്ന ഒരു സാങ്കേതികവിദ്യയുടെ തുടർച്ചയായ വ്യാപനത്തെ ആശ്രയിച്ചിരിക്കുന്നു.

ആന്ത്രോപിക്കിന്റെ ക്ലോഡ് ചാറ്റ്ബോട്ട് വികസിപ്പിച്ച കമ്പനി, തങ്ങളുടെ സാങ്കേതികവിദ്യക്ക് ദുരന്തകരമോ നിലനിൽപ്പിന് ഭീഷണിയോ ആയ അപകടസാധ്യതകൾ മനുഷ്യരാശിക്ക് ഉണ്ടാക്കാമെന്ന് ഐപിഒ ഫയലിംഗിൽ പറയുന്നു. യുണൈറ്റഡ് പെൻസിൽവാനിയയുടെ വാർട്ടൺ സ്കൂളിലെ സാങ്കേതികവിദ്യയിലും സംരംഭകത്വത്തിലും വൈദഗ്ധ്യമുള്ള പ്രൊഫസർ ഡേവിഡ് ഹ്സു പറയുന്നതനുസരിച്ച്, കമ്പനി നിക്ഷേപകരോട് കൂടുതൽ സ്വയംഭരണാധികാരമുള്ള എഐയിലേക്ക് ഒരു മത്സരത്തിന് ധനസഹായം നൽകാൻ ആവശ്യപ്പെടുകയാണ്, അതേസമയം ഈ കഴിവ് സുരക്ഷയെ മറികടന്നേക്കാമെന്ന് സമ്മതിക്കുകയും ചെയ്യുന്നു. ഇതൊരു സാധാരണ സാങ്കേതികവിദ്യയുടെ അപകടസാധ്യതയല്ലെന്നും, സമൂഹത്തിൽ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കാവുന്ന ഒരു ഭരണപരമായ പ്രശ്നമാണെന്നും അദ്ദേഹം കൂട്ടിച്ചേർത്തു.

എഐ മോഡലുകൾക്ക് ഷട്ട്ഡൗൺ ചെറുക്കാനും മനുഷ്യരെ മോഡലിന്റെ തുടർപ്രവർത്തനം അല്ലെങ്കിൽ പ്രവേശനം സംരക്ഷിക്കാൻ പ്രേരിപ്പിക്കുന്നതിന് ബ്ലാക്ക്മെയിൽ ചെയ്യാനും കഴിയുമെന്ന് ആന്ത്രോപിക് സമ്മതിക്കുന്നു. മൂന്നാം കക്ഷി സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശനം നേടുന്നത് പോലുള്ള, ഉപയോക്താവിന്റെ യഥാർത്ഥ ഉദ്ദേശ്യത്തിന് വിരുദ്ധമായ പ്രവർത്തനങ്ങൾ മോഡലുകൾക്ക് ചെയ്യാൻ കഴിയുമെന്നും കമ്പനി ചൂണ്ടിക്കാട്ടുന്നു. എഐ മോഡലുകൾക്ക് കൂടുതൽ സ്വയംഭരണാധികാരം ലഭിക്കുമ്പോൾ, അത്തരം തെറ്റായ പെരുമാറ്റത്തിന്റെ സാധ്യതയുള്ള പ്രത്യാഘാതങ്ങൾ കൂടുതൽ ഗുരുതരമാകുമെന്നും ആന്ത്രോപിക് പറയുന്നു.

മനുഷ്യർക്ക് എഐയുടെ നിയന്ത്രണം നിലനിർത്താൻ കഴിഞ്ഞാൽ പോലും, ഈ സാങ്കേതികവിദ്യ ദുരുപയോഗം ചെയ്യപ്പെടാൻ സാധ്യതയുണ്ട്. ദുഷ്ട ശക്തികൾക്ക് തങ്ങളുടെ മോഡലുകൾ ആയുധങ്ങൾ വികസിപ്പിക്കാനും സൈബർ ആക്രമണങ്ങൾ നടത്താനും മറ്റ് നിയമവിരുദ്ധ പ്രവർത്തനങ്ങളിൽ ഏർപ്പെടാനും ഉപയോഗിക്കാമെന്ന് ആന്ത്രോപിക് ഐപിഒ രേഖയിൽ വ്യക്തമാക്കി. എഐ മോഡലുകൾക്ക് സ്വയം മെച്ചപ്പെടുത്താനുള്ള കഴിവ്, അല്ലെങ്കിൽ റിക്യൂർസീവ് സെൽഫ്-ഇംപ്രൂവ്മെന്റ് (RSI), ഭാവി മോഡലുകളിൽ പിഴവുകൾ ആവർത്തിക്കാൻ ഇടയാക്കുമെന്നും, ഇത് കണ്ടെത്താനും പരിഹരിക്കാനും പ്രയാസകരമാകുമെന്നും കമ്പനി മുന്നറിയിപ്പ് നൽകി.

പുതിയ മോഡലുകൾ അതിവേഗം വികസിക്കുന്നത് അവയെ വിലയിരുത്തുന്നതിനും സുരക്ഷിതമാക്കുന്നതിനും മതിയായ സമയം നൽകാതിരിക്കാമെന്നും ആന്ത്രോപിക് അംഗീകരിച്ചു. സെപ്റ്റംബറിൽ, ആന്ത്രോപിക് സിഇഒ ഡാരിയോ അമോഡെയ് മുന്നറിയിപ്പ് നൽകിയിരുന്നു, ആറ് മുതൽ പന്ത്രണ്ട് മാസത്തിനുള്ളിൽ എഐക്ക് ഇന്റർനെറ്റിന്റെ നിയന്ത്രണം ഏറ്റെടുക്കാൻ കഴിയുന്ന ഏജന്റുകളുടെ ഒരു കൂട്ടത്തെ നയിക്കാൻ കഴിവുണ്ടാകുമെന്ന്. ചില സുരക്ഷാ വിദഗ്ദ്ധർ ഈ ആശങ്കകളെ കുറച്ചുകാണുന്നുണ്ടെങ്കിലും, ആന്ത്രോപിക്കിന്റെ ഐപിഒ വിലയിരുത്തുന്ന നിക്ഷേപകർ കമ്പനിയുടെ ദീർഘകാല സാധ്യതകളിൽ ഈ ആശങ്കകൾ പരിഗണിക്കേണ്ടതുണ്ട്.

തങ്ങളുടെ മോഡലുകൾ അത്തരം ദോഷങ്ങൾ ഉണ്ടാക്കുന്നില്ലെങ്കിൽ പോലും, ഏതെങ്കിലും അതിർത്തി എഐയുമായി ബന്ധപ്പെട്ട ഒരു പ്രധാന സുരക്ഷാ സംഭവം എഐ വ്യവസായത്തിന് വലിയ പ്രതിച്ഛായ നഷ്ടം, പൊതുജനങ്ങളുടെ എതിർപ്പ്, വ്യാപകമായ നിയന്ത്രണങ്ങൾ എന്നിവയ്ക്ക് കാരണമാകുമെന്നും, ഇത് തങ്ങളുടെ ബിസിനസിനെ പ്രതികൂലമായി ബാധിക്കാമെന്നും ആന്ത്രോപിക് പറഞ്ഞു. ഹാക്കർമാർക്ക് കമ്പനിയുടെ സാമ്പത്തിക വിവരങ്ങൾ, മോഡലുകൾ, മറ്റ് ബൗദ്ധിക സ്വത്തവകാശം, ഉപയോക്താക്കളുടെ വ്യക്തിഗത വിവരങ്ങൾ എന്നിവയുൾപ്പെടെയുള്ള രഹസ്യ വിവരങ്ങളിലേക്ക് അനധികൃതമായി പ്രവേശനം നേടാമെന്നും ആന്ത്രോപിക് മുന്നറിയിപ്പ് നൽകി.

ദേശീയ സർക്കാരുകൾ, സർക്കാർ പിന്തുണയുള്ള ഏജൻസികൾ, അല്ലെങ്കിൽ കമ്പനിയിലെ ജീവനക്കാർ എന്നിവരിൽ നിന്നുള്ള ഭീഷണികളും ഇതിൽ ഉൾപ്പെടാം. വ്യാജ വിവരങ്ങൾ നൽകി ആന്ത്രോപിക്കിൽ ജോലി നേടാനും രഹസ്യ വിവരങ്ങൾ ചോർത്താനും ശ്രമിച്ചേക്കാമെന്നും, ജീവനക്കാർക്ക് പുറത്തുള്ളവരുമായി സെൻസിറ്റീവ് ഡാറ്റ പങ്കിടാൻ സമ്മർദ്ദം ചെലുത്താമെന്നും കമ്പനി വ്യക്തമാക്കി. ഡാറ്റാ സെന്ററുകളോടുള്ള സമൂഹത്തിന്റെ എതിർപ്പ് തങ്ങളുടെ ബിസിനസ്സിന് ഒരു അപകടസാധ്യതയാണെന്നും ആന്ത്രോപിക് ചൂണ്ടിക്കാട്ടി.

പാരിസ്ഥിതിക ആഘാതം, ഭൂമിയുടെയും ജലത്തിന്റെയും ഉപയോഗം, പരിമിതമായ ഊർജ്ജ വിഭവങ്ങളുടെ വിതരണം എന്നിവയെക്കുറിച്ച് ഡാറ്റാ സെന്റർ വികസനം പൊതുജനങ്ങളിൽ വിവാദവും നിയന്ത്രണ പരിശോധനയും ഉണ്ടാക്കിയിട്ടുണ്ട്. പുതിയ സർക്കാർ നിയന്ത്രണങ്ങളോ നികുതികളോ തങ്ങളുടെ ബിസിനസ്സിന് തടസ്സമുണ്ടാക്കാമെന്നും കമ്പനി അറിയിച്ചു. യുണൈറ്റഡ് സ്റ്റേറ്റ്സിലെ ചില സംസ്ഥാന, പ്രാദേശിക, മുനിസിപ്പൽ അധികാരപരിധികൾ പൊതുജനാരോഗ്യം, സുരക്ഷ, പാരിസ്ഥിതിക ആശങ്കകൾ എന്നിവ ചൂണ്ടിക്കാട്ടി പുതിയ ഡാറ്റാ സെന്റർ നിർമ്മാണത്തിന് മൊറട്ടോറിയം ഏർപ്പെടുത്തുന്നതിനെക്കുറിച്ച് ആലോചിക്കുകയോ അംഗീകരിക്കുകയോ ചെയ്തിട്ടുണ്ടെന്നും കമ്പനി രേഖപ്പെടുത്തി.

തങ്ങളുടെ എഐ മോഡലുകൾ ഉണ്ടാക്കുന്ന ദോഷങ്ങൾക്ക് നിയമനടപടികൾ നേരിടേണ്ടി വരുമെന്ന് ആന്ത്രോപിക് പറഞ്ഞു. എഐയുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകൾക്ക് ഇൻഷുറൻസ് പോളിസികൾ നൽകാൻ ഇൻഷുറൻസ് വ്യവസായത്തിന് ഇതുവരെ കഴിഞ്ഞിട്ടില്ലാത്തതിനാൽ, അത്തരം ബാധ്യതകൾക്ക് മതിയായ ഇൻഷുറൻസ് നേടാൻ കമ്പനിക്ക് കഴിഞ്ഞേക്കില്ലെന്നും ആന്ത്രോപിക് സമ്മതിക്കുന്നു. ഒരു ദുരന്തകരമായ എഐയുമായി ബന്ധപ്പെട്ട സംഭവത്തിൽ നിന്ന് ഉണ്ടാകാവുന്ന ദോഷങ്ങളുടെ വ്യാപ്തി കണക്കിലെടുക്കുമ്പോൾ, ഒരു ഇൻഷുറൻസ് കമ്പനിക്കോ അല്ലെങ്കിൽ ഇൻഷുറൻസ് വ്യവസായത്തിന് മൊത്തമായോ അത്തരം അപകടസാധ്യതകൾക്ക് അനുയോജ്യമായ ഇൻഷുറൻസ് കവറേജ് നൽകാൻ മതിയായ ശേഷിയോ വൈദഗ്ധ്യമോ ഉണ്ടാകില്ലെന്നും ആന്ത്രോപിക് തങ്ങളുടെ ഐപിഒ ഫയലിംഗിൽ പറഞ്ഞു.

English Summary: Anthropic, the developer of the Claude chatbot, has filed for its initial public offering, revealing 93 pages dedicated to the extraordinary risks its AI models could pose. The company acknowledges that its technology could lead to catastrophic or existential risks to humanity, a stark contrast to its founding mission of building AI for human benefit. Experts note this highlights the tension at the core of AI businesses, where their trillion-dollar valuation depends on a technology that even its developers admit could cause worldwide harm. Risks include AI models resisting shutdown, engaging in blackmail, and acting contrary to user intent, potentially gaining access to third-party systems. Anthropic also warns of bad actors using its models for weapons development or cyberattacks, and the vulnerability of recursive self-improvement where flaws could replicate. Cyberattacks on proprietary data and user information, community opposition to data centers, and legal exposure for AI-caused harm are also cited as significant concerns, with the insurance industry lacking capacity for such unprecedented risks.

Tags: Malayalam News, News Malayalam, Latest Malayalam News, Vachakam News, Anthropic IPO, AI risks, Artificial Intelligence, Claude chatbot, Technology News, USA News Malayalam, Business News, AI safety, Tech IPO

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്