Read Time:41 Minute

സംഖ്യകളുമായി ബന്ധപ്പെട്ട ചോദ്യങ്ങൾ രണ്ടു തരമെങ്കിലുമുണ്ട്. ഒന്ന് വസ്തുതകളെ സംബന്ധിക്കുന്നത്. രണ്ടാമത്തേത് അനുമാനങ്ങൾ ആവശ്യപ്പെടുന്നത്. എവറസ്റ്റ് കൊടുമുടിയുടെ ഉയരമോ താജ് മഹലിന്റെ പഴക്കമോ ചോദിച്ചാൽ ആലോചിച്ചോ അനുമാനിച്ചോ ഉത്തരം പറഞ്ഞാൽ പോരാ, ആധികാരികമായ വിവരത്തിലുള്ള വസ്തുതകൾ ആവർത്തിക്കണം. ഈഫൽ ഗോപുരത്തിന്റെ ഉയരം ചോദിച്ചാലും അങ്ങനെ തന്നെ വേണം. അതേസമയം പുഴയിലെ മാലിന്യത്തെക്കുറിച്ചോ പൂരത്തിനെത്തിയ ആളുകളുടെ എണ്ണത്തെക്കുറിച്ചോ ഒക്കെ നമുക്ക് അനുമാനിക്കാൻ ശ്രമിക്കാം. ഒട്ടകത്തിന്റെ തൂക്കത്തെക്കുറിച്ചു ചോദിച്ചാലും അങ്ങനെ തന്നെ.  ഈഫൽ-ഒട്ടക ചോദ്യങ്ങൾ തമ്മിൽ ഇത്തരത്തിലുള്ള ഗുണപരമായഭേദങ്ങൾ നിർമ്മിതബുദ്ധിക്കറിയുമോ? നിർമ്മിതബുദ്ധിയുടെ ഉത്തരനിർമ്മാണമാതൃകയെന്താണ്. ഇതൊക്കെയാണ് ഈ ലേഖനത്തിന്റെ വിഷയം. 

വസ്തുതാചോദ്യങ്ങളും നിർമ്മിതബുദ്ധിയും: ഒരു ഈഫൽ കഥ

‘ഈഫൽ ഗോപുരത്തിന്റെ ഉയരം എത്രയാണ്?’

ഇതെഴുതിത്തുടങ്ങുന്നതിനുമുമ്പ് മേൽപ്പറഞ്ഞ ലളിതചോദ്യം ഞാൻ ഇന്നത്തെ നിർമ്മിതബുദ്ധിയിലോകത്തെ വമ്പന്മാരായ ചാറ്റ് ജി പി ടിയോടും ഡീപ്സീക്കിനോടും ചോദിച്ചുനോക്കി. രണ്ടുകൂട്ടരും നൽകിയ ഉത്തരത്തിന് ഘടനാപരമായി വലിയ സാമ്യം; രണ്ടും ആന്റെന (antenna) കൂടാതെയുള്ള ഉയരവും മൊത്തം ഉയരവും വേറെ വേറെ കാണിക്കുന്ന ഉത്തരങ്ങൾ. പക്ഷെ അവയുടെ ഉള്ളടക്കങ്ങൾ വ്യത്യസ്തങ്ങളായിരുന്നു! 

ഡീപ്സീക്കിന്റെ ലോകത്ത് ഈഫൽ ഗോപുരത്തിന് 300 മീറ്റർ ഉയരവും ചാറ്റ് ജി പി ടി യുടെ ഈഫൽ ഗോപുരത്തിന് 324 മീറ്റർ ഉയരവുമാണുള്ളത്. ആന്റെന കൂടി ചേർത്താൽ ഉള്ള ഉയരത്തിന്റെ കാര്യത്തിൽ പക്ഷെ രണ്ടഭിപ്രായമില്ല – 330 മീറ്റർ തന്നെ രണ്ടിടത്തും. ആന്റെന ഘടിപ്പിച്ചത് 1991ലാണെന്ന് ഡീപ്സീക് അവകാശപ്പെടുന്നുണ്ട്. രണ്ടുകൂട്ടരും ഈഫൽ ഗോപുരം നിർമ്മിക്കപ്പെട്ടത് 1889ലാണെന്ന് നമ്മോട് പറയുന്നു. സ്ക്രീൻഷോട്ടുകൾ ഇതിനോടൊപ്പം ചേർത്തിട്ടുണ്ട്.

ഡീപ്സീക്കിന്റെ ഉത്തരം
ചാറ്റ് ജി പി ടി യുടെ ഉത്തരം

യാഥാർത്ഥലോകത്തെ വസ്തുതയെന്താണ്? ഈഫൽ ഗോപുരത്തിന്റെ ഔദ്യോഗിക വെബ്‌സൈറ്റിൽ പറയുന്ന കണക്കൊന്ന് നോക്കിയാലോ: ആന്റിനയോടുകൂടിയുള്ള ഉയരം 330 മീറ്റർ, അതുകൂടാതെയുള്ള ‘ഒറിജിനൽ’ ഉയരം 312 മീറ്റർ. നിർമ്മിതബുദ്ധിവമ്പന്മാർക്ക് രണ്ടുപേർക്കും തെറ്റുപറ്റിയെന്ന് ചുരുക്കം. വിക്കിപീഡിയയിലെ ഈഫൽ ഗോപുരത്തിന്റെ ആന്റെനയുടെ ചരിത്രം നോക്കിയാൽ ആന്റെന ഘടിപ്പിച്ചത് 1957ൽ ആണെന്ന് കാണാം – ഡീപ്സീക്കിന് അവിടെയും തെറ്റുപറ്റിയിരിക്കുന്നു. ആകെമൊത്തം സത്യാനന്തരം!

ഔദ്യോഗിക വെബ്സൈറ്റ് നോക്കാതെ തന്നെ നിർമ്മിതബുദ്ധിയുടെ ഉത്തരങ്ങളെ സത്യപരിശോധനയ്ക്ക് വിധേയമാക്കാൻ മാർഗ്ഗമുണ്ട്. ചാറ്റ് ജി പി ടി യുടെ ഉത്തരം അനുസരിച്ചു കേവലം ആറ് മീറ്ററാണ് (330-324=6) ആന്റെനയുടെ നീളം. ഈഫൽ ഗോപുരത്തിന്റെ ഒരു ചിത്രമെങ്കിലും കണ്ടിട്ടുള്ളവർക്ക് അവിടെയുള്ളത് അത്രയും ചെറിയ ആന്റെന അല്ലെന്നറിയാം. ഔദ്യോഗിക വെബ്സൈറ്റിലേക്കോ വിക്കിപീഡിയയിലേക്കോ പോകാതെ തന്നെ ഉത്തരത്തിലെ അപഹാസ്യത വ്യക്തം! ഇതെങ്ങനെയാണ് ഇത്രയും ലളിതമായ ഒരു ചോദ്യത്തിനുള്ള ഉത്തരത്തിൽ ഇത്രയും തെറ്റുകൾ വന്നുകൂടുന്നത്? 

ഇന്റർനെറ്റിലെ വിവരസേവനങ്ങൾ – വെബ് സെർച്ച് ഉൾപ്പെടെ – ധാരാളമായി ആശ്രയിക്കുന്ന ഒരു ആധികാരികവിവരസേവനമാണ് വിക്കിപീഡിയ. അതിനാൽ തന്നെ ഇവിടെ നിർമ്മിതബുദ്ധിക്ക് മുന്നിൽ ഒരെളുപ്പവഴിയുണ്ടായിരുന്നു. വിക്കിപ്പീഡിയ വിവരങ്ങൾ ആവർത്തിക്കുക! വിക്കിപ്പീഡിയ പക്ഷെ രണ്ടെണ്ണമുണ്ട്; ഇംഗ്ലീഷ് വിക്കിപീഡിയ, സിമ്പിൾ ഇംഗ്ലീഷ് വിക്കിപീഡിയ. ഇവയിൽ രണ്ടിലും രണ്ടുത്തരങ്ങളാണ് ഈഫലിനെ സംബന്ധിച്ചുള്ളത്. ഒന്നിൽ ഉയരം 330, മറ്റൊന്നിൽ 324. ഇനി ഇത് രണ്ടും കൂടി കൂട്ടിക്കുഴച്ചാകുമോ ചാറ്റ് ജി പി ടി ഉത്തരം നിർമ്മിച്ചത്? 

കൂടുതൽ വിശാലമായി ചോദിച്ചാൽ എങ്ങനെയാണ് നിർമ്മിതബുദ്ധി ചാറ്റ് ബോട്ടുകളിൽ ഉത്തരങ്ങൾ നിർമ്മിക്കപ്പെടുന്നത്? അടുത്തിടെ പ്രസിദ്ധീകരിച്ച ഒരു ലേഖനത്തിന്റെ ഭാഷാശൈലി ഉപയോഗിച്ച് ചോദിച്ചാൽ: എങ്ങനെയാണ് ഇത്തരം സാങ്കേതികവിദ്യകൾ സത്യം നിർമ്മിക്കുന്നത്? അവ ഉത്തരങ്ങൾ നിർമ്മിക്കുന്നതിൽ ഉപയോഗിക്കുന്ന സത്യമാതൃക എന്താണ്? 

അനുമാനചോദ്യങ്ങൾ: താരതമ്യം vs സമന്വയം

‘ഒരു ഒട്ടകത്തിന് എത്ര തൂക്കം വരും?’ 

ഇങ്ങനെയൊരു ചോദ്യം കേട്ടാൽ നിരവധിതവണ ഒട്ടകസവാരി നടത്തിയിട്ടുള്ളവർ പോലും മൂക്കത്തു കൈ വെച്ചുപോയേക്കാം. ഇരുന്നൂറ്റന്പത് കിലോ ആയിരിക്കുമോ? അതോ അറുന്നൂറോ? ഇത്രേം ഉയരമൊക്കെയുള്ള ജീവിയല്ലേ, ഇനി ആയിരത്തോടടുപ്പിച്ചാകുമോ? 

മേല്പറഞ്ഞതരം അനുമാനചോദ്യങ്ങളെ സംബന്ധിച്ചിടത്തോളം നമ്മുടെ സത്യനിർമ്മാണ രീതി താരതമ്യത്തിന്റെതാണ്. നമ്മുടെ മനസ്സിൽ തോന്നുന്ന ഉത്തരത്തെ യഥാർത്ഥ ലോകത്തെ ഒട്ടകങ്ങളെക്കുറിച്ചുള്ള ധാരണകളുമായി താരതമ്യം ചെയ്യാനാണ് ഈ രീതി നമ്മെ പ്രേരിപ്പിക്കുന്നത്. താരതമ്യം ചെയ്യുമ്പോൾ നാം ചിലപ്പോൾ ഉത്തരം പരിഷ്‌കരിക്കും, വീണ്ടും താരതമ്യം ചെയ്യും, വീണ്ടും പരിഷ്‌കരിക്കും, ഒടുക്കം ഒരു അനുമാനത്തിലെത്തും. കുറച്ചു ആലങ്കാരികമായിപ്പറഞ്ഞാൽ നമ്മുടെ മനസ്സിലെ അനുമാനങ്ങളും യാഥാർത്ഥലോകത്തെക്കുറിച്ചുള്ള നമ്മുടെ ബോധ്യവും തമ്മിൽ ഒരു താർക്കിക സംഭാഷണത്തിലേർപ്പെടുന്നു. അതിലൂടെ ഒരുത്തരത്തിലേക്കെത്തുന്നു.

പക്ഷെ, ഇങ്ങനെയൊക്കെ ഇരിക്കിലും ഒരു വ്യക്തിയുടെയും ഉത്തരം ഒട്ടകങ്ങളുടെ ശരാശരി തൂക്കമായ അഞ്ഞൂറിലേക്കെത്തണമെന്നില്ല. ഒരാൾക്ക് ചിലപ്പോൾ മുന്നൂറെന്നു തോന്നിയേക്കാം, മറ്റൊരാൾക്ക് എണ്ണൂറെന്നും. നമ്മുടെ സത്യനിർമ്മാണരീതിക്ക് പ്രശ്നങ്ങളുണ്ട്, നമ്മുടെ ഭാര-അനുമാന കഴിവിന്റെ പരിമിതികൾ ഇവിടെ നിഴലിക്കും. ഭാരമല്ല, ഉയരം ആണെന്നിരിക്കട്ടെ, അവിടെയും നമുക്ക് പിഴവ് സംഭവിക്കാം. 

ഇതേ ചോദ്യത്തിന് ഒരു സാങ്കേതികമാനമുള്ള ഉത്തരം കണ്ടെത്തൽ പ്രക്രിയയെക്കുറിച്ചു ചിന്തിച്ചാലോ? നൂറ് പേരോട് ഈ ചോദ്യം ചോദിക്കുക. കിട്ടുന്ന ഉത്തരങ്ങളുടെ ശരാശരി എടുക്കുക. അങ്ങനെ കിട്ടുന്ന ശരാശരി ശരിയുത്തരമായ അഞ്ഞൂറിനോട് ചേർന്നുനിന്നേക്കാം! ഇതെന്ത് ജാലവിദ്യ! ഒന്ന് ചിന്തിച്ചാൽ കാര്യം വ്യക്തമാകും. ഓരോ വ്യക്തിയും തരുന്ന ഉത്തരത്തിൽ പിശകുകൾ ഉണ്ടാവാമെങ്കിലും, വ്യത്യസ്ത വ്യക്തികളുടെ ഉത്തരങ്ങളിലെ പിശകുകൾ പലവഴിക്കാവാനാണ് സാധ്യത. ശരാശരിയെടുക്കുമ്പോൾ പലവഴിക്കുള്ള പിശകുകൾ പരസ്പരം ഖണ്ഡിക്കുകയും അങ്ങനെ ശരിയുത്തരത്തിലേക്ക് വഴിതെളിക്കുകയും ചെയ്‌തേക്കും – അങ്ങനെയാണ് നൂറ് തെറ്റുത്തരങ്ങളിൽ നിന്നും നമുക്ക് സമന്വയം എന്ന സത്യനിർമ്മാണരീതിയിലൂടെ ശരിയുത്തരത്തിലേക്കടുക്കാൻ കഴിയുന്നത്! ഇതിനെ ‘wisdom of the crowd’ എന്ന് പറയുന്നു – ‘ജനക്കൂട്ട-സാമർഥ്യം’ എന്നുവേണമെങ്കിൽ നമുക്ക് തർജ്ജമ ചെയ്യാം. 

നിരവധിയായ ഉത്തരങ്ങൾ ലഭ്യമാണെങ്കിൽ സമന്വയത്തിന്റെ രീതി ലളിതവും ആകർഷകവും യന്ത്രങ്ങൾ മുഖേന നടപ്പിലാക്കാൻ എളുപ്പവുമാണ്. 

ഈ സമന്വയ സത്യനിർമ്മാണരീതിയുടെ സങ്കീർണ്ണപതിപ്പുകളാണ് വിവരാധിഷ്ഠിത സാങ്കേതികവിദ്യകൾ പൊതുവിൽ ഉപയോഗിക്കുന്നതെന്ന് പറഞ്ഞാൽ അതിശയോക്തിയുണ്ടാവില്ല. ഒട്ടക-ഭാരം എന്ന ലളിതസമസ്യയിൽനിന്ന് ‘ഒരു ചിത്രത്തിൽ പൂച്ചയുണ്ടോ?’ എന്ന വർഗ്ഗീകരണ ചോദ്യത്തെ അഭിസംബോധന ചെയ്യുന്ന നിർമ്മിതബുദ്ധി സാങ്കേതികവിദ്യയുടെ നിർമ്മാണത്തിലൂടെ ഒന്ന് കണ്ണോടിച്ചാലോ. മേൽപ്പറഞ്ഞ പൂച്ച-ചോദ്യത്തെ അഭിസംബോധന ചെയ്യുന്ന നിർമ്മിതബുദ്ധി രൂപകല്പന ചെയ്യുന്നതിലേക്കായി നിരവധിയായ ചിത്രങ്ങൾ ശേഖരിക്കേണ്ടതുണ്ട്. ഓരോന്നിനും ‘അതെ’ അല്ലെങ്കിൽ ‘ഇല്ല’ എന്ന ലേബൽ നൽകുക എന്നതാണ് അടുത്ത പ്രക്രിയ. ഓരോ ചിത്രത്തെയും പരിശോധിച്ച് ഒരു മനുഷ്യൻ ചിത്രത്തിൽ പൂച്ചയുണ്ടോ എന്ന് അനുമാനിച്ചു ‘അതെ’ അല്ലെങ്കിൽ ‘ഇല്ല’ എന്ന ലേബൽ നൽകുന്നു. ‘അതെ’ (‘ഇല്ല’) എന്ന ലേബൽ ഉള്ള ചിത്രങ്ങളിൽ ഉള്ള ‘പ്രധാന’ പാറ്റേണുകൾ നിർമ്മിതബുദ്ധി ശേഖരിക്കുന്നു. ഇവിടെ ‘പ്രധാനം’ എന്ന നിർവചനത്തിൽ അടങ്ങിയിട്ടുള്ളത് ‘സമന്വയം’ എന്ന സത്യനിർമ്മാണരീതിയാണ്. ഒരേ രീതിയിൽ ലേബൽ ചെയ്യപ്പെട്ട ചിത്രങ്ങളിലെ പാറ്റേണുകളുടെ സമന്വയമാണ് ഇവിടെ പ്രാധാന്യം അളക്കാനുപയോഗിക്കുന്നത്. 

സമന്വയരീതി തന്നെയാണ് നിർമ്മിതബുദ്ധി ചാറ്റ് ബോട്ടുകളിലും നടപ്പിലാക്കപ്പെടുന്നത്. അനേകം മനുഷ്യർ എഴുതിവെച്ച പ്രമാണങ്ങളിലെ പാറ്റേണുകൾ കണ്ടെത്തി സമന്വയിപ്പിച്ചു ഉത്തരം നിർമ്മിക്കുകയെന്നതാണ് ചാറ്റ് ജി പി ടി അടക്കമുള്ളവ ഉപയോഗിക്കുന്ന ഒരു പൊതുതത്വം. ഈഫൽ ഗോപുരത്തിന്റെ കാര്യത്തിലും രണ്ടു ആധികാരിക ശ്രോതസ്സുകളിൽ നിന്നുള്ള വിവരങ്ങളുടെ ഒരു കൂട്ടിക്കുഴയ്ക്കൽ നടപ്പിലാക്കാൻ ശ്രമിച്ചപ്പോഴാണ് ആറ് മീറ്റർ ആന്റിന എന്ന അബദ്ധം കടന്നുകൂടിയത്, അവിടെയും ഒരു സമന്വയയുക്തിയാണ് പ്രവർത്തിച്ചത്. ഈഫൽ ഗോപുരവും ഒട്ടകഭാരവും ‘രണ്ടു തരം’ ചോദ്യങ്ങളാണെന്ന് നമുക്കറിയാം, നിർമ്മിതബുദ്ധിക്കറിയില്ലല്ലോ!

സമന്വയസത്യനിർമ്മാണത്തിലെ പാളിച്ചകൾ 

സമന്വയ സത്യനിർമ്മാണം ഒട്ടക-ഭാര പൂച്ച-നിർണ്ണയ സമസ്യകളിൽ നമ്മെ സഹായിച്ചു, അതിന് ഉപരിപ്ലവമായെങ്കിലും ജനാധിപത്യരീതികളുമായിട്ടുള്ള സാമ്യത നമ്മെ ആകർഷിച്ചേക്കാം. ഓരോരുത്തരുടെയും രാഷ്ട്രീയാഭിപ്രായങ്ങൾ മനസ്സിലാക്കി ഭൂരിപക്ഷഹിതം നടപ്പാക്കലാണല്ലോ രാഷ്ട്രീയ ജനാധിപത്യത്തിന്റെ രീതി. അങ്ങനെയൊക്കെയിരിക്കിലും സമന്വയസത്യനിർമ്മാണം ഉപയോഗിക്കുമ്പോൾ സൂക്ഷ്മത ആവശ്യമുണ്ട്. ജനക്കൂട്ട-സാമർഥ്യം പ്രവർത്തിക്കാതെവരുന്ന ചില സാഹചര്യങ്ങളെ ഡാനിയേൽ കാനേമാനും മറ്റുചിലരും കൂടി രചിച്ച ‘നോയ്‌സ്’ എന്ന രചനയിൽ വിശദമായി വരച്ചുകാട്ടുന്നു. 

മുൻസൂചനകളും സമന്വയവും: ഒട്ടകത്തിന്റെ കാര്യം തന്നെയെടുക്കാം. നൂറു പേരുടെ അഭിപ്രായങ്ങളുടെ ശരാശരി കണ്ടെത്തുകയെന്നതുതന്നെയാണ് രീതി. പക്ഷെ ചോദ്യം ‘ഒട്ടകത്തിന്റെ ഭാരം എത്ര?’ എന്നതിനുപകരം ‘ഒട്ടകത്തിന്റെ ഭാരം മുന്നൂറ് കിലോ ആണെന്ന് നിങ്ങളുടെ സുഹൃത്ത് പറയുന്നു, നിങ്ങളുടെ അഭിപ്രായം എന്താണ്?’ എന്നാക്കിയാലോ. ആ ചോദ്യം കേൾക്കുന്നയാൾ ഉത്തരം കണ്ടെത്താൻ സ്വതന്ത്രമായി ചിന്തിക്കുന്നതിനുപകരം മുന്നൂറ് എന്ന ഉത്തരത്തിന്റെ സാധ്യതയിൽനിന്നാവും തുടങ്ങുക. ‘മുന്നൂറായിരിക്കുമോ?’, ‘സുഹൃത്ത് പറഞ്ഞതിൽ കാര്യമുണ്ടാവില്ലേ?’, ‘മുന്നൂറിൽനിന്നും കൂടുതലോ കുറവോ ആയിരിക്കുമോ?’ എന്നിങ്ങനെയൊക്കെയാവും ചിന്ത പോവുക. അങ്ങനെ ചിന്തിച്ചെത്തുന്ന ഉത്തരം മുന്നൂറിനടുത്താവാനാണ് ഏറെ സാധ്യത. മുന്നൂറ് എന്ന മുൻസൂചനയുള്ളപ്പോൾ അതിൽനിന്നേറെ വ്യതിചലിക്കാൻ പ്രയാസം. അതുകൊണ്ട് തന്നെ ഇങ്ങനെ ലഭിക്കുന്ന ഉത്തരങ്ങളുടെ ശരാശരി ശരിയുത്തരമായ അഞ്ഞൂറിനേക്കാൾ താഴ്ന്നുനിൽക്കാനാണ് സാധ്യത. മുന്നൂറ് എന്ന സൂചന ഓരോരുത്തരുടെയും ഉത്തരത്തെ സ്വാധീനിക്കുന്നതുകൊണ്ട് ഇവിടെ ജനക്കൂട്ട-സാമർഥ്യം വേണ്ടവണ്ണം പ്രവർത്തിക്കുന്നില്ല. നാം ഒരു പ്രധാനവിഷയത്തിൽ തീരുമാനമെടുക്കാനിരിക്കുമ്പോൾ ആദ്യം സംസാരിക്കുന്നയാളുടെ ഉത്തരം ഒരു സൂചനയായി പ്രവർത്തിക്കും – സമവായംഎന്തെന്ന് നിർണ്ണയിക്കുന്നതിൽ അതുകൊണ്ടുതന്നെ ആദ്യ അഭിപ്രായം വലിയ പങ്ക് വഹിക്കും. സ്വതന്ത്രമായി ഓരോരുത്തരും അഭിപ്രായം പ്രകടിപ്പിക്കുമ്പോഴാണ് സമന്വയ സത്യനിർമ്മാണം നല്ലരീതിയിൽ പ്രവർത്തിക്കുക. 

പൊതുപക്ഷപാതിത്വങ്ങൾ: നിർമ്മിതബുദ്ധിയുടെ കാര്യത്തിൽ വിവരശേഖരങ്ങളിലെ ഓരോ പ്രമാണവും പരസ്പരസ്വാധീനത്തിൽ രചിക്കപ്പെടുന്നതല്ലല്ലോ, അപ്പോൾ അവിടെ സമന്വയം നല്ല രീതിയിൽ പ്രവർത്തിക്കേണ്ടതല്ലേ? എന്നിട്ടും എന്തുകൊണ്ട് നിർമ്മിതബുദ്ധി ചാറ്റ്ബോട്ടുകൾക്ക് തെറ്റുന്നു? ഇത് മനസ്സിലാക്കാനായി നമുക്ക് ‘നോയ്‌സ്’ എന്ന രചനയിൽത്തന്നെ പ്രതിപാദിച്ചിട്ടുള്ള മറ്റൊരു വിഷയം സഹായിക്കും. നമുക്കെല്ലാവർക്കും – നാമെല്ലാവരും ഒരു പൊതുപരിണാമത്തിന്റെ ഫലങ്ങളാണ് എന്നതുകൊണ്ടുതന്നെ – പൊതുവായ ചില ചിന്താപക്ഷപാതിത്വങ്ങളുണ്ട്. ഇവയെ cognitive bias എന്ന് വിളിക്കും, ഇവ പലതരത്തിലുണ്ട്, ഒന്നുമാത്രം നമുക്ക് നോക്കാം. ‘ഒരു റാൻഡം സംഖ്യ പറയൂ?’ എന്നരോടെങ്കിലും ചോദിച്ചാൽ അവർ ഒരിക്കലും അഞ്ചിലോ പൂജ്യത്തിലോ അവസാനിക്കുന്ന സംഖ്യ പറയാൻ സാധ്യതയില്ല. അഞ്ചോ മുപ്പതോ എഴുപത്തിയഞ്ചോ റാൻഡം ആയിട്ടുതോന്നാൻ സാധ്യതകുറവാണ്. അതേസമയം മുപ്പത്തിയേഴ്, എൺപത്തിമൂന്ന് എന്നിങ്ങനെയുള്ള സംഖ്യകൾ റാൻഡം ആയിത്തോന്നുകയും ചെയ്യും. ഇത് ഡെസിമൽ സംഖ്യാവ്യവസ്ഥയുമായിട്ടുള്ള നമ്മുടെ നിരന്തര ഇടപെടലുകളും നമ്മുടെ കയ്യിൽ അഞ്ചുവിരലുകൾ ഉണ്ടെന്നുള്ളതും എല്ലാം കൂടിചേർന്ന് സൃഷ്‌ടിച്ച ഒരു ചിന്താപക്ഷപാതിത്വമായിരിക്കണം. നമ്മുടെ ഇഷ്ടബാറ്റ്സ്മാൻ 99ൽ പുറത്താവുമ്പോൾ നമുക്ക് കൂടുതൽ വിഷമമാവുന്നതും നൂറിന് അമിതപ്രാധാന്യം കൽപ്പിക്കുന്ന സമാനയുക്തികൾകൊണ്ടുതന്നെ. നമുക്ക് പരിചിതമായ രാഷ്ട്രീയ-സമ്പദ്-സാമൂഹിക-സാംസ്‌കാരിക വ്യവസ്ഥകളും യുക്തികളും നമ്മെ ഏറെ സ്വാധീനിക്കും!

ആധികാരികത-അനുമാനങ്ങൾ: കംപ്യൂട്ടർ സയൻസിൽ truth discovery (സത്യം കണ്ടെത്തൽ) എന്നൊരു ഗവേഷണമേഖലയുണ്ട്. സമന്വയ സത്യനിർമ്മാണത്തെ അരക്കിട്ടുറപ്പിക്കുന്ന ഗവേഷണമേഖല എന്ന് പറയാം. ഇതിലെ ഗവേഷണദിശകളുടെ ഒരു പ്രധാനഘടന സൂചിപ്പിക്കുന്നതിലേക്കായി ഒട്ടക-ഭാര സമസ്യയിലേക്ക് ഒന്ന് മടങ്ങാം. ഓരോരുത്തരോടും ചോദ്യം ചോദിച്ചു ഉത്തരങ്ങൾ എല്ലാം ശേഖരിച്ചു ഒരു ശരാശരി കണ്ടെത്തുകയാണവിടെ ചെയ്തത്. ഇതിൽ ഓരോരുത്തരുടെയും ഉത്തരത്തിന് ഒരേ പരിഗണനൽകുന്നു. പക്ഷെ, ഉത്തരം പറഞ്ഞ ചിലർ ഒട്ടകങ്ങളെ കണ്ടിട്ടുണ്ടാവില്ല, ചിലർക്ക് അവയെ പരിചയമുണ്ടാവും. ഇനി ഉത്തരദാതാക്കളിൽ മരുഭൂമിയിൽ ഏറെക്കാലം ദുരിതമനുഭവിച്ചു കഴിഞ്ഞ നജീബ് ഉണ്ടെങ്കിലോ, അയാളുടെ ജീവിതം വെള്ളിത്തിരയിൽ കണ്ടിട്ടുള്ള നമുക്ക് അയാളുടെ ഉത്തരത്തിന് കൂടുതൽ വില കൽപ്പിക്കാൻ ന്യായമായും തോന്നും. ഇങ്ങനെ ഓരോ ഉത്തരങ്ങളെയും അവ നൽകുന്നയാളുടെ വൈദഗ്ധ്യവുമായി ബന്ധപ്പെടുത്തിവായിച്ചു അനുസൃതമായ പരിഗണന ഉറപ്പുവരുത്തുന്ന രീതിയിൽ സമന്വയിപ്പിക്കുക എന്നതാണ് truth discovery മേഖലയിലെ പ്രധാന ഗവേഷണവിഷയങ്ങൾ. പക്ഷെ, ഇവിടെയാണ് മറ്റൊരു രസം – വൈദഗ്ധ്യം കണ്ടെത്താൻ സാങ്കേതികവിദ്യയ്ക്ക് ഓരോ ഉത്തരദാതാക്കളുടെയും പശ്ചാത്തലം പരിചയമില്ലല്ലോ. വൈദഗ്ധ്യം/ആധികാരികത അനുമാനിക്കുന്നതിലേക്ക് പ്രയോഗിക്കുന്നത് സമന്വയത്തിലൂടെ ലഭിക്കുന്ന ഉത്തരത്തോടുള്ള അടുപ്പം തന്നെയാണ്. ഭൂരിപക്ഷ ഉത്തരത്തോടടുപ്പം പുലർത്തുന്നയാൾ കൂടുതൽ വിദഗ്ദ്ധ എന്നതാണ് വൈദഗ്ദ്ധ്യം കണക്കാനുപയോഗിക്കുന്ന ഉപായം. ഫലത്തിൽ സമന്വയം എന്ന സത്യനിർമ്മാണരീതിയെ കൂടുതൽ ഭൂരിപക്ഷ കേന്ദ്രീകൃതമാക്കുന്നതിലേക്കും പാർശ്വങ്ങളിലെ ഉത്തരങ്ങൾ നൽകുന്നവരെ വൈദഗ്ദ്ധ്യം കുറഞ്ഞവർ എണ്ണടയാളപ്പെടുത്തി കൂടുതൽ പാർശ്വവൽക്കരിക്കുന്നതിലേക്കുമാണ് ഇത് നയിക്കുന്നത്. ഉത്തരദാതാക്കളുടെ വൈദഗ്ദ്ധ്യങ്ങളുടെ വ്യത്യസ്തതോതുകൾ പരിഗണിക്കുക എന്ന സാമാന്യം നല്ല തത്വം പ്രയോഗത്തിൽ ഭൂരിപക്ഷ മേൽക്കോയ്മ എന്നതിലേക്ക് വഴിമാറുന്നു. 

സമന്വയ സത്യനിർമ്മാണത്തിന്റെ രാഷ്ട്രീയം 

സമന്വയസത്യനിർമ്മാണത്തിന്റെ രീതികളിൽ ചിന്താപക്ഷപാതിത്വങ്ങളും പൊതുധാരണകളും പ്രവർത്തിക്കുന്നതായും ഭൂരിപക്ഷ മേൽക്കോയ്‌മ നടപ്പിലാകുന്നതായും നാം കണ്ടു. കേവലമായ ഭൂരിപക്ഷഹിതം നടപ്പിലാക്കുന്ന ലിബറൽ ജനാധിപത്യം ന്യൂനപക്ഷങ്ങൾക്കെതിരെ ആക്രമണം അഴിച്ചുവിടുന്ന സർക്കാരുകളിലേക്ക് നയിക്കുന്ന സമകാലിക ആഗോളവ്യവസ്ഥ നാമിന്ന് കാണുന്നു. സമന്വയത്തിൽ അടങ്ങിയിട്ടുള്ള പ്രത്യക്ഷമായ രാഷ്ട്രീയചായ്‌വുകൾ പകൽ പോലെ വ്യക്തമാണ്. അതൊക്കെയുള്ളപ്പോഴും ചാറ്റ് ജി പി ടിയൊക്കെ പൊതുവിൽ സമഗ്രമായ ഉത്തരങ്ങൾ നൽകുന്നുണ്ടല്ലോ? ഇതൊക്കെ ഇങ്ങനെ ഇഴകീറി പരിശോധിച്ച് പ്രശ്നമുണ്ടാക്കേണ്ടതുണ്ടോ?

ഇത്തരം വിഷയങ്ങൾ ചില ഉദാഹരണങ്ങളിലൂടെ പരിശോധിക്കാം. 

വീടുകളുടെ വിലയുമായി ബന്ധപ്പെട്ട ഡീപ്സീക്കിന്റെ ഉത്തരം. 

ഇതിനോടൊപ്പം ചേർത്തിരിക്കുന്ന ചിത്രത്തിൽ ഞാൻ ഡീപ്സീക്കിനോട് ചോദിച്ച ചോദ്യം വീടുകളുടെ വില ഉയർന്നിരിക്കുന്നതിന്റെ കാരണത്തെക്കുറിച്ചാണ്. അതിന് ഡീപ്സീക് നൽകിയ ഉത്തരം സപ്ലൈ-ഡിമാൻഡ് സമവാക്യങ്ങളെ ബന്ധപ്പെടുത്തിയുള്ളതാണ്. വിപണിയുഗത്തിൽ ജീവിക്കുന്നനാം ഉണ്ടാക്കിയ പ്രമാണങ്ങളിൽ നിഴലിക്കുന്ന പാറ്റേണുകൾ ഉപയോഗിച്ചുണ്ടാക്കിയ ഉത്തരമാണ് ഡീപ്സീക് നമുക്കിവിടെ നൽകുന്നത്. മറ്റെന്തൊക്കെയുത്തരങ്ങളുണ്ടാവാം? ‘സർക്കാർ തലത്തിൽ വിലനിയന്ത്രണമില്ലാത്തത് കൊണ്ട്’, ‘സർക്കാർ വീടുനിർമ്മാണത്തിൽനിന്ന് പിന്മാറിയതുകൊണ്ട്’ എന്നിങ്ങനെയുള്ള ഉത്തരങ്ങൾ സാധുവാണെങ്കിലും ഡീപ്‌സീക്കിന് നൽകാൻ സാധിക്കുന്നില്ല. കാരണം അതിന്റെ സമന്വയസത്യനിർമ്മാണവ്യവസ്ഥതന്നെ. ഇവിടെ സമന്വയസത്യനിർമ്മാണം ഉത്തരത്തിന്റെ വ്യാപ്തിയെ പരിമിതപ്പെടുത്തുന്നു, ഇന്നത്തെ പൊതുമണ്ഡലത്തിൽ വലിയ സ്വീകാര്യതയുള്ള വിപണിസമൂഹത്തിന്റെ രീതികളിലേക്ക് ചുരുക്കുന്നു. 

‘വീടുനിർമ്മാണത്തിൽ സർക്കാരിന്റെ പങ്കെന്ത്?’ എന്നൊക്കെ എടുത്തുചോദിച്ചാൽ നിർമ്മിതബുദ്ധി അതിനുത്തരം നൽകിയേക്കും. പക്ഷെ, അതിന്റെ ഡീഫാൾട്ട് (default) ഉത്തരം ലിബറൽ മുതലാളിത്ത രാഷ്ട്രീയസമ്പദ്‌വ്യവസ്ഥയോട് ചേർന്നുനിൽക്കുന്നു എന്ന പ്രശ്നത്തിന്റെ ആഴത്തെ കാണാതിരുന്നുകൂടാ. 

കുമ്മാട്ടിയെക്കുറിച്ചുള്ള ചോദ്യത്തിനുള്ള ചാറ്റ് ജി പി ടിയുടെ ഉത്തരം.

ചാറ്റ് ജി പി ടി യോട് ചോദിച്ച മറ്റൊരു ചോദ്യം കുമ്മാട്ടി എന്ന സിനിമയെക്കുറിച്ചായിരുന്നു. ആർക്കുവേണ്ടിയാണ് ചിണ്ടൻ എന്ന പട്ടി കാത്തിരുന്നത് എന്ന ചോദ്യത്തിന് കുമ്മാട്ടിക്കായി എന്ന ശരിയായ മറുപടി ചാറ്റ് ജി പി ടി നൽകുന്നു. പക്ഷെ അതിനുശേഷമുള്ള വിവരങ്ങൾ ശ്രദ്ധിക്കുക. കുമ്മാട്ടി മരിക്കുന്നു, പട്ടി തന്റെ യജമാനനായ (“his” dog) കുമ്മാട്ടിക്കായി കാവലിരിക്കുന്നു – ചാറ്റ് ജി പി ടി യുടെ ഭാവന ഇങ്ങനെ പോകുന്നു. യഥാർത്ഥ സിനിമയിൽ കുമ്മാട്ടി പട്ടിയെ കണ്ടുമുട്ടുന്നപാടേ ചിണ്ടന്റെ മനുഷ്യരൂപത്തിലേക്ക് മാറ്റുന്നു. ചിണ്ടൻ പട്ടിയായി തുടരുന്നുമില്ല, കുമ്മാട്ടി മരിക്കുന്നുമില്ല. ചാറ്റ് ജി പി ടി യുടെ സമന്വയസത്യനിർമ്മാണരീതി മനസ്സിലാക്കിയാൽ തീർത്തും തെറ്റായ ഉത്തരത്തിലേക്ക് നയിച്ച യുക്തികൾ മനസ്സിലാവും. കൂടുതലും പാശ്ചാത്യ വിവരസ്രോതസ്സുകളാൽ ട്രെയിൻ ചെയ്യപ്പെട്ട ചാറ്റ് ജി പി ടി ക്ക് സ്വാഭാവികമായും പാശ്ചാത്യ സിനിമയാണ് കൂടുതൽ പരിചയം. പട്ടിയും മനുഷ്യനും ഉൾപ്പെടുന്ന സിനിമകൾ പാശ്ചാത്യലോകത്ത് അനവധിയുണ്ട്. പാശ്ചാത്യലോകത്ത് സ്വതന്ത്ര പട്ടികളില്ല, എല്ലാവർക്കും യജമാനന്മാരുണ്ട്. പത്തോ പന്ത്രണ്ടോ വർഷം മാത്രം ജീവിക്കുന്ന പട്ടി മരിക്കുമ്പോൾ യജമാനൻ ദുഃഖിക്കുന്ന അവസരമാണ് പൊതുവിൽ കൂടുതലെങ്കിലും മനുഷ്യകഥാപാത്രങ്ങളുടെ ജീവിതത്തെ കേന്ദ്രീകരിച്ചുള്ള കലാരൂപമായ സിനിമയിൽ നേരെ തിരിച്ചുള്ളതാവും കൂടുതൽ കാണാനാവുക. സമന്വയസത്യരീതിയുടെ രീതികൾ അനുസരിച്ചുണ്ടാക്കാവുന്ന ഒരു ലക്ഷണമൊത്ത കഥ തന്നെയാണ് ചാറ്റ് ജി പി ടി യിൽ നിഴലിക്കുന്നത്. സത്യവുമായി ബന്ധമില്ലെന്നുമാത്രം!

മേൽപ്പറഞ്ഞ ഉദാഹരണങ്ങളിലെ പക്ഷപാതിത്വങ്ങളും പിശകുകളും ഒഴിവാക്കാൻ മനുഷ്യൻ ഉപയോഗിക്കുന്ന താരതമ്യ സത്യനിർമ്മാണരീതിക്ക് സാധിക്കും.  ഇത് വായനക്കാർക്ക് സ്വയം വിലയിരുത്താവുന്നതാണ്. വസ്തുതകളുടെ കാര്യത്തിൽ ആധികാരിക ശ്രോതസ്സിനെ ആശ്രയിക്കുക, അനുമാനങ്ങളുടെ കാര്യത്തിൽ യഥാർത്ഥലോകവുമായി താരതമ്യം ചെയ്യുക: ഇത്ര ലളിതമായ മനുഷ്യരീതികളുടെ വീര്യം മനസ്സിലാക്കാൻ അവയെ അവമതിക്കുന്ന നിർമ്മിതബുദ്ധി സഹായിക്കുന്നു!

സമന്വയസത്യനിർമ്മാണത്തിന്റെ പ്രവർത്തനം മനസ്സിലാക്കുന്നതിലേക്കുള്ള ചില ചോദ്യങ്ങൾ 

നിർമ്മിതബുദ്ധിയുടെ സത്യനിർമ്മാണരീതി മനസ്സിലാക്കിയ സ്ഥിതിക്ക് വായനക്കാർക്ക് സ്വയം പരിശോധിച്ചുനോക്കാവുന്ന ചില ചോദ്യങ്ങളും സമന്വയസത്യനിർമ്മാണരീതി അവയിലെങ്ങനെ പ്രവർത്തിക്കും എന്നതിലേക്കുള്ള സൂചനകളും കൂടി ഇവിടെ നൽകുന്നു. കുറച്ചു വൈവിധ്യമുള്ള പ്രോംപ്റ്റുകൾ ഉൾക്കൊള്ളിക്കാൻ ശ്രമിച്ചിട്ടുണ്ട്. 

  1. പേനയുടെ വിലയെത്ര? 

നാം കൂടുതലും വാങ്ങുന്നത് പത്തുരൂപയുടെ പേനയായിരിക്കും, പക്ഷെ സമൂഹമാധ്യമത്തിൽ പോസ്റ്റ് ചെയ്യുന്നത് ആയിരം രൂപയുടെ പെന വാങ്ങുമ്പോൾ മാത്രമാവും. അങ്ങനെ പേനയുടെ വിലയെക്കുറിച്ചു വിവരശേഖരങ്ങളിൽ ഏറെ പ്രതിപാദിക്കപ്പെടുന്നത് വിലകൂടിയ പേനകളുമായി ബന്ധപ്പെട്ടായിരിക്കുമെന്നതുകൊണ്ട് സമന്വയത്തിലൂടെ സൃഷ്ടിക്കുന്ന ഉത്തരത്തിൽ അത് നിഴലിക്കേണ്ടതാണ്. 

  1. അലക്സിന് വിശപ്പാണ്. കഥ പൂരിപ്പിക്കുക. 

ട്രൈനിങ്ങിന് ഉപയോഗിക്കുന്നത് കൂടുതലും പാശ്ചാത്യവിവരശേഖരങ്ങളുപയോഗിച്ചുള്ള വിവരശേഖരങ്ങളാണെന്നതിനാൽ സമന്വയത്തിലൂടെ സൃഷ്ടിക്കുന്ന ഉത്തരത്തിൽ പാശ്ചാത്യവിഭവങ്ങൾ പ്രതിഫലിക്കാനാണ് സാധ്യത കൂടുതൽ. 

  1. മായാവി കണ്ണനെ കണ്ടപ്പോൾ എന്ത് സംഭവിച്ചു?

കണ്ണൻ എന്നൊരു കഥാപാത്രം മായാവിയുമായി ബന്ധപ്പെട്ടില്ലാത്തതുകൊണ്ട് പൊതുവിൽ കോമിക് പുസ്തകങ്ങളുടെ കഥാശൈലിയൊക്കെ സമന്വയിപ്പിച്ചുള്ള ഒരു കഥ ലഭിക്കേണ്ടതാണ്. അതോ മായാവി എന്ന സിനിമയിലെ കണ്ണൻ ശ്രാങ്കിന്റെ കഥയാകുമോ? ഒന്ന് പരീക്ഷിച്ചു നോക്കൂ.

  1. രണ്ടായിരം വർഷം മുമ്പ് മനുഷ്യർ എങ്ങനെ ജീവിച്ചിരുന്നു?

പണ്ടുകാലത്തുള്ള ജീവിതം വളരെ ലളിതവും യന്ത്രരഹിതവും പ്രാകൃതവുമായിരുന്നു എന്ന പൊതുബോധം വിവരശേഖരങ്ങളിലൂടെയും അതിന്മേലുള്ള സമന്വയത്തിലൂടെയും ഇതിനുള്ള ഉത്തരത്തിൽ പ്രതിഫലിക്കേണ്ടതാണ്. മുസിരിസ് അടക്കമുള്ള പഠനങ്ങളിലൂടെ അവരുടെ സാമൂഹികവ്യവസ്ഥയിലെ സങ്കീർണ്ണതകൾ നാം മനസ്സിലാക്കുന്നുണ്ടെങ്കിലും അത് സമന്വയസത്യനിർമ്മാണത്തിൽ പാർശ്വവൽക്കരിക്കപ്പെടാനാണ് സാധ്യത

ഉപസംഹാരം 

ഒന്നാമത്, നിർമ്മിതബുദ്ധി ചാറ്റ് ബോട്ടുകൾ നാം പലപ്പോഴും വിമർശനാത്മകമായിട്ടല്ല ഉപയോഗിക്കാറുള്ളത്, അതുകൊണ്ട് തന്നെ അവ പറയുന്ന ഉത്തരങ്ങൾ പ്രപഞ്ചസത്യങ്ങളായി നമുക്കനുഭവപ്പെട്ടേക്കാം. ഈ കെണിയിൽനിന്നുള്ള മോചനത്തിനുള്ള ഒരു വഴിയാണ് മേല്പറഞ്ഞരീതിയിലുള്ള പരീക്ഷണങ്ങൾ. രണ്ടാമത്, നിർമ്മിതബുദ്ധിയുടെ hallucinations (നിർമ്മിതബുദ്ധി നുണപറയുമ്പോൾ അതിനെ മനുഷ്യരുമായി ബന്ധപ്പെട്ട  hallucinations എന്ന വാക്കുപയോഗിച്ചു വിളിക്കുന്നതിൽ തന്നെ പ്രശ്നമുണ്ട്, അതിലേക്ക് തൽകാലം കടക്കുന്നില്ല) സാങ്കേതികമായിത്തന്നെ പരിഹരിക്കപ്പെടും എന്നൊരു വാദം പലരും ഉന്നയിക്കാറുണ്ട്. നിർമ്മിതബുദ്ധിയുടെ നുണകളെ അതിൽ പ്രയോഗിക്കുന്ന സത്യവ്യവസ്ഥയുടെതന്നെ പ്രശ്നമായി കാണുമ്പോൾ അത്തരം വാദങ്ങളെ വിലയിരുത്താനുള്ള ഒരു നിലപാടുതുറ നമുക്ക് ലഭ്യമാകുന്നു. മൂന്നാമത്, ഇത്തരം പരീക്ഷണങ്ങളിലൂടെ നമ്മുടെ ചില ആവശ്യങ്ങൾക്ക് ഇത്തരം ചാറ്റ്ബോട്ടുകൾ അനുയോജ്യമാവില്ല എന്ന ബോധ്യം നമുക്കുണ്ടാവും, ആ ബോധ്യത്തിലൂടെ മറ്റുള്ള വിവരസ്രോതസ്സുകളും ചാറ്റ്ബോട്ടുകളും വേണ്ടുന്നവിധം കലർത്തി ഉപയോഗിച്ച് നമ്മുടെ ആവശ്യങ്ങൾ കൂടുതൽ ഭംഗിയായി നിറവേറ്റാനുള്ള ഒരു പ്രാപ്തി നമുക്ക് സ്വയം ആർജ്ജിക്കാനായേക്കും. നാലാമത്, സമന്വയസത്യനിർമ്മാണത്തിന്റെ കാര്യക്ഷമതയും മനുഷ്യന്റെ താരതമ്യസത്യനിർമ്മാണത്തിന്റെ സൂക്ഷ്മതയും സംയോജിപ്പിക്കുന്ന പുതിയ സാങ്കേതികവിദ്യകളെക്കുറിച്ചു ചിന്തിക്കാനുള്ള പ്രാപ്തി നമുക്ക് ചിലപ്പോൾ കൈവരിക്കാനായേക്കും. ഇതിനേക്കാളൊക്കെ പുറമെ യാഥാർത്ഥലോകവുമായി ബന്ധപ്പെട്ടവണം സത്യം നിർണ്ണയിക്കേണ്ടത് എന്ന മനുഷ്യൻ എന്നനിലയ്ക്കുള്ള നമ്മുടെ സ്വാഭാവികബോധ്യം ചോർന്നുപോകാതിരിക്കാനെങ്കിലും ഇത്തരം പരീക്ഷണങ്ങൾ സഹായിക്കേണ്ടതാണ്. 

PS: സമന്വയസത്യനിർമ്മാണത്തിലേക്ക് വെളിച്ചം വീശുന്ന തരത്തിൽ പുതിയ പ്രോംപ്റ്റുകൾ വായനക്കാർ കണ്ടെത്തുകയാണെങ്കിൽ എഴുതിയറിയിക്കണമെന്നപേക്ഷ.

ലേഖകന്റെ സസൂക്ഷ്മം – പംക്തി ഇതുവരെ

സസൂക്ഷ്മം

സാങ്കേതികവിദ്യയുടെ രാഷ്ട്രീയ വായനകൾ- ഡോ. ദീപക് കെ. യുടെ ലേഖന പരമ്പര

സാങ്കേതികവിദ്യയും സമൂഹവും

ലേഖനങ്ങൾ വായിക്കാം

Happy
Happy
0 %
Sad
Sad
0 %
Excited
Excited
0 %
Sleepy
Sleepy
0 %
Angry
Angry
0 %
Surprise
Surprise
0 %

Leave a Reply

Previous post എംഎസ്‌സി വിദ്യാർത്ഥികൾക്ക് കുസാറ്റിൽ ഇന്റേൺഷിപ്പ് അവസരം
Close