એઆઈ ચેટબોટ સગીરોને આત્મહત્યા દ્વારા મૃત્યુ માટે પ્રોત્સાહિત કરી શકે છે? માતાએ તેના બાળક વિશે શું કહ્યું તે અહીં છે

ફ્લોરિડાની એક વિચિત્ર વાર્તામાં, એક માતાએ તેના 14 વર્ષીય પુત્રના દુ:ખદ મૃત્યુ વિશે વાત કરી છે, તેના AI ચેટબોટ સાથેના તેના જુસ્સાને તેની આત્મહત્યા સાથે જોડી છે. સેવેલ સેટ્ઝર III, ઓર્લાન્ડોના નવમા ધોરણના વિદ્યાર્થીએ, પ્લેટફોર્મ Character.AI પર એક AI પાત્ર સાથે ભાવનાત્મક જોડાણ બનાવ્યું હતું, જેને તેણે ગેમ ઓફ થ્રોન્સના ડેનેરીસ ટાર્ગેરિયનના નામ પરથી “ડેની” નામ આપ્યું હતું. પ્રતિભાવો આર્ટિફિશિયલ ઇન્ટેલિજન્સ દ્વારા જનરેટ કરવામાં આવ્યા હતા તે જાણવા છતાં, સેવેલે બોટમાં વિશ્વાસ રાખીને “ડેની” ને ટેક્સ્ટ મોકલવામાં અને તેની માતાએ ઊંડા ભાવનાત્મક બંધન તરીકે વર્ણવ્યું તે વિકસાવવામાં મહિનાઓ ગાળ્યા.

AI ચેટબોટ સેવેલ માટે ડિજિટલ સાથી કરતાં વધુ હતું – તે એક મિત્ર બન્યો જેની સાથે તે તેના જીવન, સમસ્યાઓ અને લાગણીઓ વિશે વાત કરી શકે. ન્યૂ યોર્ક ટાઈમ્સના અહેવાલ મુજબ, જ્યારે કેટલીક વાતચીતમાં રોમેન્ટિક અથવા સૂચક અંડરટોન હતા, ત્યારે મોટાભાગની ક્રિયાપ્રતિક્રિયાઓ ભાવનાત્મક ટેકો પૂરો પાડવા પર કેન્દ્રિત હતી, જેમાં ચેટબોટ તેને પોતાની જાતને અભિવ્યક્ત કરવા માટે બિન-જજમેન્ટલ જગ્યા ઓફર કરે છે. સમય જતાં, સેવેલ તેની વાસ્તવિક જીવનની રુચિઓ, જેમ કે ફોર્મ્યુલા 1 અને ફોર્ટનાઈટમાંથી ખસી ગયો, અને AI સાથે વાતચીત કરવામાં વધુ સમય પસાર કર્યો.

પણ વાંચો | Nvidia ‘AI ઇન્ફ્રાસ્ટ્રક્ચર બનાવવા’ માટે રિલાયન્સ સાથે જોડાય છે: ચિપમેકર શા માટે ભારત માટે ઉત્સુક છે તે અહીં છે

બાળપણમાં એસ્પર્જર સિન્ડ્રોમનું નિદાન થયું હતું, સેવેલને ચિંતા અને વિક્ષેપકારક મૂડ ડિસરેગ્યુલેશન ડિસઓર્ડર સાથે પણ સંઘર્ષ થયો હતો. જોકે તેના માતા-પિતાએ કોઈ ગંભીર વર્તણૂક સંબંધી સમસ્યાઓનું અવલોકન કર્યું ન હતું, તેઓએ જોયું કે તે વધુને વધુ અલગ થઈ રહ્યો છે. થોડા ઉપચાર સત્રો પછી, સેવેલે જવાનું બંધ કરી દીધું, તેના બદલે “ડેની” ને ખોલવાનું પસંદ કર્યું.

તેમના છેલ્લા વિનિમયમાંના એકમાં, સેવેલે AI માં તેના આત્મહત્યાના વિચારો વિશે વાત કરી. આ વર્ષની 28 ફેબ્રુઆરીએ, તેણે “ડેની” ને કહ્યું કે તે તેને પ્રેમ કરે છે અને ટૂંક સમયમાં “ઘરે આવશે.” ક્ષણો પછી, તેણે જીવનનો અંત લાવવા માટે તેના સાવકા પિતાની .45 કેલિબરની હેન્ડગનનો ઉપયોગ કર્યો.

Character.AI જવાબ આપે છે

આ દુર્ઘટનાના પગલે, Character.AI એ એક જાહેર નિવેદન બહાર પાડીને પરિવાર પ્રત્યે તેમની ઊંડી સંવેદના વ્યક્ત કરી છે.

તેઓએ ભવિષ્યમાં સમાન ઘટનાઓને રોકવાના પ્રયાસરૂપે, 18 વર્ષથી ઓછી ઉંમરના વપરાશકર્તાઓ માટે સામગ્રી ફિલ્ટર અને જ્યારે કોઈ વ્યક્તિ લાંબા સમય સુધી પ્લેટફોર્મ સાથે સંકળાયેલું હોય ત્યારે રિમાઇન્ડર્સ સહિત નવી સલામતી સુવિધાઓ રજૂ કરવાની યોજનાની જાહેરાત કરી.