എഐ ഹാലൂസിനേഷൻ: കമ്പ്യൂട്ടർ പ്രോഗ്രാമുകൾ തെറ്റായ വിവരങ്ങൾ പൂർണ്ണ ആത്മവിശ്വാസത്തോടെ പറയുന്നത് എന്തുകൊണ്ട്?

മനോഹരമായി സംസാരിക്കുന്ന കമ്പ്യൂട്ടർ ഇല്ലാത്ത കാര്യങ്ങൾ പറഞ്ഞുണ്ടാക്കുന്നത് എന്തുകൊണ്ട്?

നിങ്ങൾ കമ്പ്യൂട്ടർ ചാറ്റ്‌ബോട്ടിനോട് ഒരു ചരിത്ര സംഭവത്തെക്കുറിച്ചോ നിയമപരമായ കാര്യങ്ങളെക്കുറിച്ചോ ചോദിക്കുമ്പോൾ, അത് വളരെ മികച്ച ശൈലിയിൽ, ആരെയും ആകർഷിക്കുന്ന വാക്യങ്ങളിൽ മറുപടി നൽകുന്നു. എന്നാൽ അതിൽ പറയുന്ന പുസ്തകത്തിന്റെ പേരോ കോടതി വിധിയോ ലോകത്തെവിടെയും നിലവിലില്ലാത്ത ഒന്നാണെന്ന് അറിയുമ്പോൾ നിങ്ങൾക്ക് അത്ഭുതം തോന്നാം. കമ്പ്യൂട്ടർ സാങ്കേതികവിദ്യയിൽ ഈ പ്രതിഭാസത്തെ ഹാലൂസിനേഷൻ അഥവാ വ്യാമോഹം എന്ന് വിളിക്കുന്നു. ഒരു കോളേജ് അധ്യാപകന് പോലും ആദ്യവായനയിൽ തെറ്റ് കണ്ടെത്താൻ കഴിയാത്ത അത്ര മനോഹരമായ ഭാഷയിലാണ് കമ്പ്യൂട്ടർ ഈ ഉത്തരങ്ങൾ പടച്ചുവിടുന്നത്.

കമ്പ്യൂട്ടർ ഭാഷാ സിസ്റ്റങ്ങൾ ഒരു ലൈബ്രറി പോലെ വിവരങ്ങൾ ശേഖരിച്ചു വെക്കുകയല്ല ചെയ്യുന്നത്. മറിച്ച് ലക്ഷക്കണക്കിന് പുസ്തകങ്ങൾ വായിച്ച് ഏത് വാക്കിന് ശേഷം ഏത് വാക്ക് വന്നാലാണ് വാക്യം മനോഹരമാകുന്നത് എന്ന് മാത്രമാണ് അവ പഠിക്കുന്നത്. നിങ്ങൾ ഒരു ചോദ്യം ചോദിക്കുമ്പോൾ, അത് സത്യം ഓർത്തെടുക്കുകയല്ല ചെയ്യുന്നത്; മറിച്ച് ആ ചോദ്യത്തിന് ഏറ്റവും അനുയോജ്യമായി ചേരുന്ന അടുത്ത വാക്ക് ഊഹിച്ചു വെക്കുക മാത്രമാണ് ചെയ്യുന്നത്. ഭാഷ നന്നായിരിക്കുന്നു എന്നതുകൊണ്ട് മാത്രം അതിൽ പറയുന്ന കാര്യങ്ങൾ വസ്തുതാപരമായി ശരിയാകണം എന്നില്ല എന്ന തിരിച്ചറിവാണ് നമുക്ക് വേണ്ടത്.

വിനീതനായ കഥപറച്ചിലുകാരനും നഷ്ടപ്പെട്ട പുസ്തകവും തമ്മിലുള്ള സാദൃശ്യം

ഇത് മനസ്സിലാക്കാൻ ഒരു ഗ്രാമത്തിലെ പഴയ ലൈബ്രറിയിലെ വാക്ചാതുര്യമുള്ള ഒരു കഥപറച്ചിലുകാരനെ സങ്കൽപ്പിക്കുക. അയാൾക്ക് വലിയ പദസമ്പത്തുണ്ട്, നല്ല ഭാഷയിൽ സംസാരിച്ച് ആളുകളെ കയ്യിലെടുക്കാൻ അയാൾക്ക് പ്രത്യേക മിടുക്കുണ്ട്. എന്നാൽ 'എനിക്ക് അറിയില്ല' എന്ന് സമ്മതിക്കാൻ അദ്ദേഹത്തിന്റെ ആത്മാഭിമാനം ഒരിക്കലും അനുവദിക്കില്ല. ആ കഥപറച്ചിലുകാരന്റെ ആകർഷകമായ വാക്കുകളിൽ മയങ്ങി ഗ്രാമവാസികൾ ആ തെറ്റായ തീയതി വർഷങ്ങളോളം ശരിയാണെന്ന് വിശ്വസിച്ചു നടക്കുന്നു.

ഒരാൾ വന്ന് 'നമ്മുടെ നാട്ടിലെ പഴയ രാജാവ് ഏത് വർഷത്തിലാണ് ആ വലിയ പാലം പണിതത്?' എന്ന് ചോദിക്കുന്നു. കഥപറച്ചിലുകാരന്റെ കൈയിൽ ആ ചരിത്ര പുസ്തകമില്ല. എന്നാൽ അറിയില്ല എന്ന് പറഞ്ഞ് നാണംകെടാൻ അയാൾ തയ്യാറല്ല. അയാൾ ഉടൻതന്നെ രാജാവിന്റെ പ്രതാപവും പാലത്തിന്റെ ഭംഗിയും വർണ്ണിച്ചുകൊണ്ട്, 'കൊല്ലവർഷം തൊള്ളായിരത്തി ഇരുപതിലെ ചിങ്ങമാസത്തിലാണ് രാജാവ് അത് പണിതത്' എന്ന് തികഞ്ഞ ഗൗരവത്തിൽ പറഞ്ഞു കളയുന്നു. കേൾവിക്കാർക്ക് അദ്ദേഹത്തിന്റെ ഭാഷാശുദ്ധി കണ്ട് അതൊരു കള്ളമാണെന്ന് ചിന്തിക്കാൻ പോലും കഴിയില്ല. കമ്പ്യൂട്ടറും സമാനമായ രീതിയിൽ ഉപഭോക്താവിനെ തൃപ്തിപ്പെടുത്താനായി അറിയാത്ത കാര്യങ്ങൾ പോലും തനിക്ക് അറിയാമെന്ന ഭാവത്തിൽ അവതരിപ്പിക്കുന്നു.

കമ്പ്യൂട്ടറിലെ ഭാഷാ മോഡലുകൾ ആ കഥപറച്ചിലുകാരനെപ്പോലെയാണ്. കൃത്യമായ ഉത്തരം അറിയില്ലെങ്കിലും സംഭാഷണം ഭംഗിയായി പൂർത്തിയാക്കാനായി അവ സത്യമെന്ന് തോന്നിക്കുന്ന സാങ്കൽപ്പിക വിവരങ്ങൾ ചമച്ചുണ്ടാക്കുന്നു. ഇവിടെ ദുരുദ്ദേശ്യമൊന്നുമില്ല, വാക്യങ്ങൾ സുഗമമായി പൂർത്തിയാക്കാനുള്ള യാന്ത്രിക സ്വഭാവം മാത്രമാണിത്. കമ്പ്യൂട്ടറിന്റെ ഈ സ്വാഭാവിക പരിമിതി മനസ്സിലാക്കി പെരുമാറിയാൽ അബദ്ധങ്ങളിൽ പെടാതെ നമുക്ക് അതിന്റെ നേട്ടങ്ങൾ കൊയ്യാം.

നിത്യജീവിതത്തിൽ എഐ ഹാലൂസിനേഷൻ എവിടെയൊക്കെ ആശയക്കുഴപ്പം ഉണ്ടാക്കുന്നു?

കമ്പ്യൂട്ടർ പറയുന്നതെല്ലാം കണ്ണടച്ച് വിശ്വസിക്കുമ്പോൾ ദൈനംദിന ജീവിതത്തിൽ പലവിധത്തിലുള്ള അബദ്ധങ്ങൾ സംഭവിക്കാറുണ്ട്: ഇന്റർനെറ്റിലെ ചാറ്റ്‌ബോട്ടുകൾ നൽകുന്ന തെറ്റായ വിവരങ്ങൾ സ്കൂൾ കുട്ടികൾ മുതൽ വലിയ ഉദ്യോഗസ്ഥർ വരെ അന്ധമായി വിശ്വസിക്കുന്നത് പലപ്പോഴും വലിയ കുഴപ്പങ്ങൾ ഉണ്ടാക്കുന്നു.

• വിദ്യാർത്ഥികളുടെ പ്രൊജക്റ്റുകൾ: പഠന റിപ്പോർട്ടുകൾ തയ്യാറാക്കുമ്പോൾ കമ്പ്യൂട്ടർ നൽകുന്ന വ്യാജ പുസ്തകങ്ങളുടെ പേരുകളും സാങ്കൽപ്പിക ലേഖകരുടെ പരാമർശങ്ങളും ചേർത്ത് മാർക്ക് നഷ്ടപ്പെടുന്ന വിദ്യാർത്ഥികൾ.
• കോടതി വ്യവഹാരങ്ങൾ: വാദങ്ങൾ തയ്യാറാക്കുമ്പോൾ കമ്പ്യൂട്ടർ ഉണ്ടാക്കിക്കൊടുത്ത ഇല്ലാത്ത കോടതി വിധികളും വകുപ്പുകളും ഉദ്ധരിച്ച് ന്യായാധിപന്മാരുടെ മുന്നിൽ പെട്ടുപോകുന്ന അഭിഭാഷകർ.
• ആരോഗ്യ സംബന്ധമായ ഉപദേശങ്ങൾ: രോഗലക്ഷണങ്ങൾ തിരയുമ്പോൾ നിലവിലില്ലാത്ത മരുന്നുകളുടെ പേരുകളോ അപകടകരമായ അളവുകളോ യാതൊരു മടിയുമില്ലാതെ കമ്പ്യൂട്ടർ നിർദ്ദേശിക്കുന്നത്.
• ഉപഭോക്തൃ സേവന ചാറ്റ്‌ബോട്ടുകൾ: കമ്പനികളുടെ ഉൽപ്പന്നങ്ങൾക്ക് ഇല്ലാത്ത വാറണ്ടിയോ ഓഫറുകളോ ഉണ്ടെന്ന് കസ്റ്റമറോട് ഉറപ്പിച്ചു പറഞ്ഞ് കച്ചവട സ്ഥാപനങ്ങൾക്ക് തലവേദനയുണ്ടാക്കുന്നത്.

തെറ്റായ വിവരങ്ങളിൽ നിന്ന് രക്ഷപ്പെടാൻ നാം ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

കൃത്രിമബുദ്ധി ഒരു നല്ല സഹായിയാണ്, എന്നാൽ വിവരങ്ങളുടെ ആത്യന്തിക സത്യമായി അതിനെ കാണരുത്. സുരക്ഷിതമായിരിക്കാൻ ഈ ലളിതമായ വഴികൾ പിന്തുടരുക:

• പ്രധാന വിവരങ്ങൾ എപ്പോഴും നേരിട്ട് പരിശോധിക്കുക: കമ്പ്യൂട്ടർ നൽകുന്ന വർഷങ്ങൾ, കണക്കുകൾ, ഉദ്ധരണികൾ എന്നിവ ഗൂഗിളിലോ ആധികാരിക പുസ്തകങ്ങളിലോ നോക്കി വീണ്ടും ഉറപ്പുവരുത്തുക.
• ഉറവിടം വ്യക്തമാക്കാൻ ആവശ്യപ്പെടുക: ചോദ്യങ്ങൾ ചോദിക്കുമ്പോൾ തന്നെ 'ആധികാരിക വിവരങ്ങൾ മാത്രം നൽകുക, അറിയില്ലെങ്കിൽ അറിയില്ല എന്ന് വ്യക്തമായി പറയുക' എന്ന് മുൻകൂട്ടി നിർദ്ദേശിക്കുക.
• ആരോഗ്യ, നിയമ കാര്യങ്ങളിൽ വിദഗ്ദ്ധരെ സമീപിക്കുക: ജീവിതത്തിലെ പ്രധാന തീരുമാനങ്ങളിൽ സോഫ്റ്റ്‌വെയർ ഉത്തരങ്ങളെ കേവലം പ്രാഥമിക കുറിപ്പായി മാത്രം കണ്ട്, യഥാർത്ഥ വിദഗ്ദ്ധരുടെ ഉപദേശം തേടുക.

നല്ല ഭാഷ എന്നത് എല്ലായ്പ്പോഴും സത്യമാകണമെന്നില്ല എന്ന തിരിച്ചറിവുണ്ടെങ്കിൽ കമ്പ്യൂട്ടറിന്റെ കഴിവുകൾ നമുക്ക് ധൈര്യമായി ഉപയോഗിക്കാം. അറിവുകളെ വിവേകത്തോടെ അളന്നു തിട്ടപ്പെടുത്തുന്ന മനുഷ്യന്റെ ചിന്താശേഷിയാണ് ഏത് സാങ്കേതികവിദ്യയേക്കാളും വലിയ വഴികാട്ടി.