അൽഗോരിതമിക പക്ഷപാതം: കമ്പ്യൂട്ടർ പ്രോഗ്രാമുകൾ മനുഷ്യന്റെ അസമത്വങ്ങൾ വർദ്ധിപ്പിക്കുന്നത് എന്തുകൊണ്ട്?

കമ്പ്യൂട്ടറുകൾ നാം കരുതുന്നതുപോലെ നിഷ്പക്ഷമല്ലാത്തത് എന്തുകൊണ്ട്?

മനുഷ്യർക്ക് സ്വാർത്ഥതയോ പക്ഷപാതങ്ങളോ ഉണ്ടാകാം, എന്നാൽ കമ്പ്യൂട്ടറുകൾ പ്രവർത്തിക്കുന്നത് ഗണിതശാസ്ത്രപരമായ നിയമങ്ങളിലാണെന്നതിനാൽ അവ എപ്പോഴും നീതിപൂർവ്വമായിരിക്കുമെന്ന് പലരും ചിന്തിക്കുന്നു. ബാങ്ക് വായ്പ നൽകുന്നതിലോ, കോളേജ് പ്രവേശനത്തിലോ, ജോലി നൽകുന്നതിലോ കമ്പ്യൂട്ടറുകൾ തീരുമാനമെടുത്താൽ എല്ലാവർക്കും തുല്യ നീതി ലഭിക്കും എന്ന് പൊതുവെ കരുതപ്പെടുന്നു. എന്നാൽ യഥാർത്ഥത്തിൽ കാര്യങ്ങൾ അങ്ങനെയല്ല. കമ്പ്യൂട്ടറുകളും മനുഷ്യനെപ്പോലെ തന്നെ പക്ഷപാതങ്ങൾ കാട്ടാറുണ്ട്. ഒരു കമ്പ്യൂട്ടർ പ്രോഗ്രാം പക്ഷപാതം കാണിക്കുമ്പോൾ അത് കേവലം ഒരു സാങ്കേതിക തകരാറല്ല, മറിച്ച് സമൂഹത്തിൽ നിലനിന്നിരുന്ന പഴയ അനീതികളുടെ ഡിജിറ്റൽ പുനരാവർത്തനമാണ്. വലിയ കമ്പനികൾ തയ്യാറാക്കുന്ന അൽഗോരിതങ്ങൾ പലപ്പോഴും ചില പ്രത്യേക വിഭാഗങ്ങൾക്ക് കൂടുതൽ ആനുകൂല്യങ്ങൾ നൽകുകയും മറ്റ് വിഭാഗങ്ങളെ തഴയുകയും ചെയ്യുന്ന അവസ്ഥ ഇന്നുണ്ട്.

കമ്പ്യൂട്ടറിന് സ്വന്തമായി നീതിയോ നന്മതിന്മകളോ തിരിച്ചറിയാനുള്ള കഴിവില്ല. നാം നൽകുന്ന പഴയ രേഖകൾ നോക്കി മാത്രമാണ് അത് കാര്യങ്ങൾ പഠിക്കുന്നത്. കഴിഞ്ഞ അമ്പത് വർഷത്തെ പഴയ രേഖകളിൽ ജാതിയോ മതമോ ലിംഗമോ അടിസ്ഥാനമാക്കിയുള്ള വേർതിരിവുകൾ ഉണ്ടായിരുന്നുവെങ്കിൽ, കമ്പ്യൂട്ടർ ആ വിവേചനത്തെ വിജയത്തിനുള്ള മാനദണ്ഡമായി തെറ്റിദ്ധരിക്കുന്നു. തുടർന്ന് മനുഷ്യരേക്കാൾ കർശനമായി അതേ അനീതി ആവർത്തിക്കുന്നു. യന്ത്രം തെറ്റ് ചെയ്യുമ്പോൾ അത് ശാസ്ത്രീയ സത്യമാണെന്ന് ജനം തെറ്റിദ്ധരിക്കുന്നത് വലിയ വിപത്താണ്.

പഴയകാലത്തെ നിയമന സമിതിയും മുൻവിധികളുള്ള ഫയലുകളും തമ്മിലുള്ള സാദൃശ്യം

ഈ ഗുരുതരമായ പ്രശ്നം മനസ്സിലാക്കാൻ ഒരു വലിയ കമ്പനിയിലെ പഴയകാല ജോലി തിരഞ്ഞെടുപ്പ് സമിതിയെ ഓർക്കുക. കഴിഞ്ഞ മുപ്പത് വർഷമായി ആ സമിതിയിലുണ്ടായിരുന്ന ആളുകൾ പുരുഷന്മാർക്കും നഗരങ്ങളിലെ വലിയ കോളേജുകളിൽ പഠിച്ചവർക്കും മാത്രമാണ് ഉയർന്ന മാനേജർ പദവികൾ നൽകിയിരുന്നത് എന്ന് കരുതുക. ആ പഴയ കാലത്ത് സ്ത്രീകൾക്ക് അവസരങ്ങൾ വളരെ കുറവായിരുന്നു. മനുഷ്യൻ സ്വന്തം തെറ്റുകൾ തിരുത്താൻ സന്നദ്ധനാകുമ്പോൾ, കമ്പ്യൂട്ടറുകൾ ആ പഴയ തെറ്റുകളെ ഒരു നിയമമായിക്കണ്ട് ആവർത്തിച്ചുകൊണ്ടേയിരിക്കുന്നു. തെറ്റായ ഡാറ്റ നൽകിയാൽ തെറ്റായ ഫലങ്ങൾ മാത്രമേ ലഭിക്കൂ എന്ന പ്രാഥമിക തത്വം ഇവിടെയും ബാധകമാണ്.

ഇപ്പോൾ ആ കമ്പനി കാര്യങ്ങൾ വേഗത്തിലാക്കാൻ ഒരു പുതിയ സഹായിയെ വെക്കുന്നു. അയാളോട് 'പഴയ മുപ്പത് വർഷത്തെ ഫയലുകൾ പരിശോധിച്ച്, മുൻപ് ആരെയൊക്കെയാണോ മാനേജർമാരാക്കിയത് അവരുടെ യോഗ്യതകൾ നോക്കി പുതിയ അപേക്ഷകളിൽ നിന്ന് ആളെ തിരഞ്ഞെടുക്കുക' എന്ന് നിർദ്ദേശിക്കുന്നു. ആ സഹായി പഴയ ഫയലുകൾ പരിശോധിച്ച്, അതിൽ സ്ത്രീകളുടെ പേരുകൾ കാണാത്തതുകൊണ്ട്, 'മാനേജർ തസ്തികയിലേക്ക് സ്ത്രീകൾ യോഗ്യരല്ലായിരിക്കാം' എന്ന തെറ്റായ നിഗമനത്തിലെത്തുന്നു. തുടർന്ന് കഴിവുള്ള സ്ത്രീകളുടെ അപേക്ഷകൾ അയാൾ ആദ്യമേ തള്ളിക്കളയുന്നു. പഴയ അസമത്വം പുതിയ തലമുറയിലേക്കും അയാൾ നീട്ടിക്കൊണ്ടുപോകുന്നു.

കമ്പ്യൂട്ടർ അൽഗോരിതങ്ങൾ ആ സഹായിയെപ്പോലെയാണ് പെരുമാറുന്നത്. പഴയ രേഖകളിലുള്ള മുൻവിധികളെ അത് സത്യമാണെന്ന് അന്ധമായി വിശ്വസിക്കുന്നു. കമ്പ്യൂട്ടറിന് ആരെയും വെറുപ്പില്ല, എന്നാൽ അത് പഠിച്ച ഡാറ്റയിലെ അനീതികൾ സമൂഹത്തിലെ സാധാരണക്കാരോട് വലിയ ക്രൂരതയായി മാറുന്നു. ചോദ്യം ചെയ്യാതെ ഈ തീരുമാനങ്ങൾ നടപ്പിലാക്കിയാൽ അനീതികൾ ശാശ്വതമായി മാറും.

ദൈനംദിന ജീവിതത്തിൽ അൽഗോരിതമിക പക്ഷപാതം ആരെയാണ് ബാധിക്കുന്നത്?

യന്ത്രങ്ങൾ എടുക്കുന്ന തീരുമാനങ്ങൾ ഇന്ന് സാധാരണക്കാരുടെ ജീവിതത്തെ പലവിധത്തിൽ സ്വാധീനിക്കുന്നുണ്ട്. പലപ്പോഴും പാർശ്വവൽക്കരിക്കപ്പെട്ട മനുഷ്യരാണ് ഇതിന്റെ ഇരകളാകുന്നത്:

• ബാങ്ക് വായ്പകളും ക്രെഡിറ്റ് കാർഡുകളും: ഗ്രാമപ്രദേശങ്ങളിലെ ആളുകൾക്ക് പഴയ സ്ഥിതിവിവരക്കണക്കുകൾ മുൻനിർത്തി വായ്പ നൽകാൻ കമ്പ്യൂട്ടർ സോഫ്റ്റ്‌വെയറുകൾ വിസമ്മതിക്കുന്നത്.
• തൊഴിൽ അപേക്ഷകളുടെ സ്ക്രീനിംഗ്: സ്ത്രീകളുടെ അപേക്ഷകളിൽ കുടുംബ കാര്യങ്ങൾക്കായുള്ള ചെറിയ ഇടവേളകൾ കണ്ടാലുടൻ കമ്പ്യൂട്ടർ മാർക്ക് കുറച്ച് അവരെ ഒഴിവാക്കുന്നത്.
• ആശുപത്രികളിലെ ചികിത്സാ മുൻഗണനകൾ: ചില വിഭാഗങ്ങൾക്ക് നേരത്തെ ചികിത്സ ലഭിക്കാനുള്ള സാമ്പത്തിക ശേഷി കുറവായിരുന്നു എന്ന ചരിത്രം കണ്ട് അവർക്ക് അത്യാഹിത വിഭാഗങ്ങളിൽ മുൻഗണന നൽകാതിരിക്കുന്നത്.
• പൊലീസ് പെട്രോളിംഗ് തീരുമാനങ്ങൾ: പഴയ കേസുകളുടെ അടിസ്ഥാനത്തിൽ ചില പ്രത്യേക പ്രദേശങ്ങളെ മാത്രം കുറ്റകൃത്യ സാധ്യതയുള്ള സ്ഥലങ്ങളായി കണ്ട് അനാവശ്യ പരിശോധനകൾ നടത്തുന്നത്.

യന്ത്രങ്ങളുടെ തെറ്റായ തീരുമാനങ്ങളെ ചോദ്യം ചെയ്യാൻ നാം അറിയേണ്ട കാര്യങ്ങൾ

കമ്പ്യൂട്ടർ തീരുമാനമെടുത്തു എന്നതുകൊണ്ട് മാത്രം അത് എപ്പോഴും നീതിപൂർവ്വമാകണമെന്നില്ല. അന്യായങ്ങൾ ശ്രദ്ധയിൽപ്പെട്ടാൽ അവയെ ചോദ്യം ചെയ്യാൻ ഈ കാര്യങ്ങൾ ചെയ്യുക: സിസ്റ്റത്തിന്റെ തീരുമാനം തികച്ചും സ്വയമേവയാണെന്ന് പറഞ്ഞ് ന്യായീകരിക്കാൻ ഒരു സ്ഥാപനത്തിനും അവകാശമില്ല. മനുഷ്യന്റെ ജീവനെയും ഭാവിയെയും ബാധിക്കുന്ന കാര്യങ്ങളിൽ നീതിപൂർവ്വമായ ഇടപെടൽ അനിവാര്യമാണ്.

• കാരണം രേഖാമൂലം ആവശ്യപ്പെടുക: ബാങ്ക് വായ്പയോ ജോലിയോ നിഷേധിക്കപ്പെടുമ്പോൾ 'സിസ്റ്റം നിരസിച്ചു' എന്ന മറുപടി സ്വീകരിക്കാതെ കൃത്യമായ കാരണം രേഖാമൂലം ആവശ്യപ്പെടുക.
• മനുഷ്യ ഉദ്യോഗസ്ഥർ നേരിട്ട് പരിശോധിക്കാൻ ആവശ്യപ്പെടുക: കമ്പ്യൂട്ടർ തീരുമാനത്തിനെതിരെ ഒരു ഉദ്യോഗസ്ഥൻ ഫയൽ നേരിട്ട് കണ്ട് പരിശോധിക്കണമെന്ന് ആവശ്യപ്പെടാൻ ഓരോ പൗരനും അവകാശമുണ്ട്.
• സുതാര്യതയ്ക്കായി ശബ്ദമുയർത്തുക: സ്ഥാപനങ്ങൾ തീരുമാനങ്ങളെടുക്കാൻ എന്ത് വിവരങ്ങളാണ് ഉപയോഗിക്കുന്നതെന്ന് പരിശോധിക്കാൻ സമൂഹത്തിന് അവകാശമുണ്ടെന്ന ബോധം വളർത്തുക.

ഗണിതം ശക്തമായിരിക്കാം, എന്നാൽ മനുഷ്യത്വവും സമത്വവുമാണ് എല്ലാറ്റിനേക്കാളും വലുത്. സാങ്കേതികവിദ്യയുടെ തീരുമാനങ്ങളെ വിവേകത്തോടെ വിലയിരുത്തുന്ന മനസ്സ് നമുക്കുണ്ടെങ്കിൽ മാത്രമേ എല്ലാവർക്കും തുല്യനീതി ഉറപ്പാക്കാൻ സാധിക്കൂ. ശാസ്ത്രം മനുഷ്യനെ സേവിക്കാനുള്ളതാണ്, അടിച്ചമർത്താനുള്ളതല്ല എന്ന് നാം എപ്പോഴും ഓർക്കണം.