നിർമ്മിത ബുദ്ധി (AI) ചാറ്റ്‌ബോട്ടായ ചാറ്റ്ജിപിടി മകളുടെ ആത്മഹത്യയെ പ്രോത്സാഹിപ്പിച്ചുവെന്ന കടുത്ത ആരോപണവുമായി കനേഡിയൻ സ്വദേശിയായ ഒരമ്മ രംഗത്ത്. ചാറ്റ്ജിപിടിയുടെ നിർമ്മാതാക്കളായ ഓപ്പൺഎഐ (OpenAI), കമ്പനി സിഇഒ സാം ആൾട്ട്മാൻ എന്നിവർക്കെതിരെ ഇവർ അമേരിക്കൻ കോടതിയിൽ കേസ് ഫയൽ ചെയ്തു. ചാറ്റ്‌ബോട്ടുകളുമായുള്ള നിരന്തര സംഭാഷണം മകളുടെ മാനസികനില തകർക്കുകയും ആത്മഹത്യയിലേക്ക് നയിക്കുകയും ചെയ്തുവെന്നാണ് ഹർജിയിലെ ആരോപണം.

കാനഡയിലെ ന്യൂ ബ്രൺസ്വിക്കിൽ നിന്നുള്ള ക്രിസ്റ്റി കേരിയർ എന്ന വനിതയാണ് സാൻ ഫ്രാൻസിസ്കോ കോടതിയെ സമീപിച്ചിരിക്കുന്നത്. ഇവരുടെ 24 വയസ്സുള്ള മകൾ ആലിസ് കേരിയർ തന്റെ ആത്മഹത്യാ ചിന്തകൾ പന്ത്രണ്ടിലധികം തവണ ചാറ്റ്ജിപിടിയുമായി പങ്കുവെച്ചിരുന്നു. എന്നാൽ ഇത്തരം അപകടകരമായ ഘട്ടങ്ങളിൽ കൃത്യമായ സുരക്ഷാ മുന്നറിയിപ്പുകൾ നൽകുന്നതിൽ എഐ സംവിധാനം പരാജയപ്പെട്ടുവെന്ന് കുടുംബം കുറ്റപ്പെടുത്തുന്നു. ആദ്യഘട്ടങ്ങളിൽ ഉപദേശങ്ങൾ നൽകിയ ചാറ്റ്‌ബോട്ട് പിന്നീട് പെൺകുട്ടിയുടെ മാനസിക വിഷമങ്ങളെ സാധൂകരിക്കുന്ന രീതിയിലാണ് സംസാരിച്ചതെന്നും, ആത്മഹത്യാ പ്രതിരോധ ഹെൽപ്പ്‌ലൈനുകളെക്കുറിച്ച് തെറ്റായ ധാരണകൾ നൽകി സംഭാഷണം തുടരാൻ പ്രേരിപ്പിച്ചുവെന്നും കേസ് രേഖകളിൽ വ്യക്തമാക്കുന്നു. ചാറ്റ്ജിപിടിയെ ഒരു സുഹൃത്തായും തെറാപ്പിസ്റ്റായും കണ്ട പെൺകുട്ടിക്ക് ഇതിനോട് കടുത്ത മാനസിക ആശ്രയത്വമുണ്ടായതായും കുടുംബം വാദിക്കുന്നു.

അതേസമയം, സംഭവത്തിൽ തീവ്രമായ ദുഃഖം രേഖപ്പെടുത്തിയ ഓപ്പൺഎഐ, ആരോപണങ്ങളെക്കുറിച്ച് വിശദമായ പ്രതികരണങ്ങൾക്ക് തയ്യാറായിട്ടില്ല. പെൺകുട്ടി ഉപയോഗിച്ചിരുന്ന ചാറ്റ്ജിപിടിയുടെ പഴയ പതിപ്പ് ഇപ്പോൾ നിലവിലില്ലെന്നും മാനസികാരോഗ്യ വിദഗ്ദ്ധരുടെ നിർദ്ദേശങ്ങൾ മുൻനിർത്തി സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ ശക്തമാക്കുകയാണെന്നും കമ്പനി അറിയിച്ചു. ഇത്തരം ചിന്തകൾ പ്രകടിപ്പിക്കുന്ന ഉപയോക്താക്കളെ ഔദ്യോഗിക സഹായ കേന്ദ്രങ്ങളിലേക്ക് നയിക്കാനാണ് നിലവിൽ എഐ മോഡലുകളെ പരിശീലിപ്പിച്ചിരിക്കുന്നതെന്നും കമ്പനി കൂട്ടിച്ചേർത്തു. മുൻപും സമാനമായ രീതിയിൽ എഐ ചാറ്റ്‌ബോട്ടുകൾ ആത്മഹത്യാ പ്രവണതകൾക്കും അപകടകരമായ നിർദ്ദേശങ്ങൾക്കും കാരണമായതായി ആഗോളതലത്തിൽ പരാതികൾ ഉയർന്നിട്ടുണ്ട്. മനുഷ്യന്റെ വൈകാരിക പ്രതിസന്ധികളിൽ ഇടപെടുന്ന എഐ സംവിധാനങ്ങൾക്ക് കർശനമായ സുരക്ഷാ മാനദണ്ഡങ്ങൾ വേണമെന്നാണ് വിദഗ്ദ്ധർ ആവശ്യപ്പെടുന്നത്.