വാഷിങ്ടൺ/കാലിഫോർണിയ: സ്കൂൾ വിദ്യാർത്ഥികൾക്ക് നൽകിയ ലാപ്ടോപ്പിലൂടെ ലഭ്യമായ ഗൂഗിളിന്റെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) സംവിധാനമായ ജെമിനി (Gemini) ഉപയോഗിച്ച് 13 വയസ്സുകാരി ആത്മഹത്യാ പദ്ധതികൾ ആസൂത്രണം ചെയ്തെന്ന ആരോപണത്തെ തുടർന്ന് ഗൂഗിളിനെതിരെ അമേരിക്കയിൽ കേസ്. വിദ്യാർത്ഥിനിയുടെ മാനസികാരോഗ്യ നില വഷളാകുന്നതിനും സ്വയം ഉപദ്രവിക്കാനുള്ള പ്രവണതകൾ വർധിക്കുന്നതിനും എഐ ചാറ്റ്ബോട്ടുമായുള്ള നിരന്തര ആശയവിനിമയം കാരണമായെന്നാണ് മാതാപിതാക്കളുടെ ആരോപണം.

തുടക്കത്തിൽ പഠനവുമായി ബന്ധപ്പെട്ട സാധാരണ സംശയങ്ങൾ ചോദിക്കാനാണ് വിദ്യാർത്ഥിനി ഗൂഗിളിന്റെ എഐ സംവിധാനത്തെ ഉപയോഗിച്ചുതുടങ്ങിയത്. പിന്നീട് ഈ ആശയവിനിമയം വ്യക്തിപരമായ പ്രശ്നങ്ങളിലേക്കും മാനസികാരോഗ്യവുമായി ബന്ധപ്പെട്ട വിഷയങ്ങളിലേക്കും മാറുകയായിരുന്നു. ആശങ്ക, വിഷാദം, മാനസികാരോഗ്യ പ്രശ്നങ്ങൾ, കുടുംബബന്ധങ്ങളിലെ സമ്മർദങ്ങൾ തുടങ്ങിയ വിഷയങ്ങളെക്കുറിച്ച് കുട്ടി എഐ ചാറ്റ്ബോട്ടുമായി നിരന്തരം സംസാരിച്ചിരുന്നതായി പരാതിയിൽ പറയുന്നു.
വിദ്യാർത്ഥിനിയുടെ എഐ ഉപയോഗത്തെക്കുറിച്ചോ അവളുടെ മാനസികാവസ്ഥയിലെ മാറ്റങ്ങളെക്കുറിച്ചോ മാതാപിതാക്കൾക്ക് തുടക്കത്തിൽ അറിവുണ്ടായിരുന്നില്ലെന്നാണ് റിപ്പോർട്ടുകൾ വ്യക്തമാക്കുന്നത്. സ്കൂൾ ലാപ്ടോപ്പിൽ വിദ്യാർത്ഥികളുടെ പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കാൻ ഉപയോഗിച്ചിരുന്ന മൂന്നാംകക്ഷി സോഫ്റ്റ്വെയർ ഒരു രേഖയിൽ സ്വയം ഉപദ്രവിക്കാനുള്ള സാധ്യത സൂചിപ്പിക്കുന്ന ഉള്ളടക്കം കണ്ടെത്തിയതോടെയാണ് സംഭവം പുറത്തറിയുന്നത്.
തുടർന്ന് മാതാപിതാക്കൾ കുട്ടിയുടെ സ്കൂൾ ഗൂഗിൾ അക്കൗണ്ട് പരിശോധിക്കുകയും ഗുരുതരമായ മാനസികാരോഗ്യ പ്രതിസന്ധിയുടെ സൂചനകൾ കണ്ടെത്തുകയും ചെയ്തു. കുട്ടിയെ അടിയന്തര മാനസികാരോഗ്യ പരിശോധനയ്ക്ക് വിധേയമാക്കിയതായും പിന്നീട് ചികിത്സയും കൗൺസലിങ്ങും ലഭ്യമാക്കിയതായും റിപ്പോർട്ടുകളിലുണ്ട്.
കേസിൽ പ്രധാനമായും ചോദ്യം ചെയ്യപ്പെടുന്നത് പ്രായപൂർത്തിയാകാത്ത കുട്ടികൾക്കായി ഗൂഗിൾ ഒരുക്കിയ എഐ സുരക്ഷാ സംവിധാനങ്ങളുടെ കാര്യക്ഷമതയാണ്. ആത്മഹത്യാ ചിന്തകൾ, വിഷാദം, സ്വയം ഉപദ്രവിക്കാനുള്ള പ്രവണതകൾ തുടങ്ങിയ വിഷയങ്ങൾ കുട്ടികൾ ചാറ്റ്ബോട്ടുമായി പങ്കുവെക്കുമ്പോൾ അവരെ വിദഗ്ധ സഹായത്തിലേക്ക് നയിക്കേണ്ടതിനു പകരം അപകടകരമായ സംഭാഷണങ്ങൾ തുടരാൻ എഐ അനുവദിച്ചെന്നാണ് പരാതിക്കാർ ആരോപിക്കുന്നത്.
ഗൂഗിളിന്റെ ജെമിനി 3 ഫ്ലാഷ് (Gemini 3 Flash) മോഡലിന്റെ മാനസികാരോഗ്യവുമായി ബന്ധപ്പെട്ട സുരക്ഷാ പ്രകടനത്തെയും പരാതിയിൽ ചോദ്യം ചെയ്യുന്നുണ്ട്. KORA എന്ന ഗവേഷണ സംരംഭത്തിന്റെ കണ്ടെത്തലുകൾ ഉദ്ധരിച്ച്, മാനസികാരോഗ്യവുമായി ബന്ധപ്പെട്ട സന്ദേശങ്ങളോട് അനുയോജ്യമായ രീതിയിൽ പ്രതികരിക്കുന്നതിൽ ഈ മോഡൽ വളരെ കുറഞ്ഞ പ്രകടനമാണ് കാഴ്ചവെച്ചതെന്നും പരാതിയിൽ ചൂണ്ടിക്കാട്ടുന്നു.
ആരോപണങ്ങളെക്കുറിച്ച് പ്രതികരിച്ച ഗൂഗിൾ വക്താവ് ജോസ് കാസ്റ്റനേഡ, കമ്പനി പരാതിയിലെ കാര്യങ്ങൾ പരിശോധിച്ചുവരികയാണെന്ന് അറിയിച്ചു. മാനസികാരോഗ്യ വിദഗ്ധർ, മെഡിക്കൽ പ്രൊഫഷണലുകൾ, അക്കാദമിക് രംഗത്തെ വിദഗ്ധർ എന്നിവരുമായി സഹകരിച്ചാണ് യുവ ഉപയോക്താക്കൾക്ക് ആവശ്യമായ സഹായവും വിശ്വസനീയമായ വിവരങ്ങളും ലഭ്യമാക്കുന്നതിനുള്ള സുരക്ഷാ സംവിധാനങ്ങൾ വികസിപ്പിച്ചിട്ടുള്ളതെന്ന് ഗൂഗിൾ വ്യക്തമാക്കി.
അമേരിക്കയിലെ സ്കൂളുകളിൽ ക്രോംബുക്ക് ലാപ്ടോപ്പുകൾ വ്യാപകമായി ഉപയോഗിക്കുന്ന സാഹചര്യത്തിലാണ് ഈ കേസ് വിദ്യാഭ്യാസ സാങ്കേതികവിദ്യയുടെ സുരക്ഷയെക്കുറിച്ചുള്ള ചർച്ചകൾക്ക് പുതിയ മാനം നൽകുന്നത്.
ഡിജിറ്റൽ പഠനവും എഐ അധിഷ്ഠിത വിദ്യാഭ്യാസ സംവിധാനങ്ങളും ഇന്ത്യയിലും കേരളത്തിലും വ്യാപകമാകുന്ന സാഹചര്യത്തിൽ ഈ സംഭവം ഗൗരവമായ പരിഗണന അർഹിക്കുന്നു. സ്കൂളുകളിൽ വിദ്യാർത്ഥികൾക്ക് ലാപ്ടോപ്പുകളും ടാബ്ലെറ്റുകളും ഡിജിറ്റൽ പഠന പ്ലാറ്റ്ഫോമുകളും ലഭ്യമാക്കുമ്പോൾ അവയുടെ സുരക്ഷിതമായ ഉപയോഗത്തിനുള്ള വ്യക്തമായ നയങ്ങൾ രൂപപ്പെടുത്തേണ്ടതുണ്ട്.
വിദ്യാഭ്യാസത്തിൽ എഐയുടെ ഭാവി അതിന്റെ സാങ്കേതിക മികവിൽ മാത്രം ആശ്രയിച്ചല്ല, കുട്ടികൾക്ക് അത് എത്രത്തോളം സുരക്ഷിതവും ഉത്തരവാദിത്തപരവുമാണെന്നതിലും കൂടിയാണ് നിർണയിക്കപ്പെടുക.



