મેટા, સ્નેપચેટ અને ટિકટોક આખરે તેમના પ્લેટફોર્મ પર હોસ્ટ કરેલી કેટલીક સામગ્રીની હાનિકારક અસરો વિશે કંઈક કરવા માટે એકસાથે બેન્ડ કરી રહ્યાં છે – અને તે સમય નજીક છે.
સાથે ભાગીદારીમાં માનસિક આરોગ્ય ગઠબંધનત્રણેય બ્રાન્ડ્સ થ્રાઇવ નામના પ્રોગ્રામનો ઉપયોગ કરી રહી છે જે હાનિકારક સામગ્રી વિશેની માહિતીને ધ્વજાંકિત કરવા અને સુરક્ષિત રીતે શેર કરવા, આત્મહત્યા અને સ્વ-નુકસાનની આસપાસની સામગ્રીને લક્ષ્ય બનાવવા માટે ડિઝાઇન કરવામાં આવી છે.
એ મેટા બ્લોગ પોસ્ટ વાંચે છે: “સંભવિત સમસ્યારૂપ સામગ્રીના અન્ય ઘણા પ્રકારોની જેમ, આત્મહત્યા અને સ્વ-નુકસાન સામગ્રી કોઈપણ એક પ્લેટફોર્મ સુધી મર્યાદિત નથી… તેથી જ અમે સિગ્નલ શેર કરવા માટેનો પ્રથમ સિગ્નલ-શેરિંગ પ્રોગ્રામ Thrive સ્થાપિત કરવા માટે માનસિક સ્વાસ્થ્ય ગઠબંધન સાથે કામ કર્યું છે. આત્મહત્યા અને સ્વ-નુકસાન સામગ્રીના ઉલ્લંઘન વિશે.
“થ્રાઇવ દ્વારા, સહભાગી ટેક કંપનીઓ આત્મહત્યા અથવા સ્વ-નુકસાન સામગ્રીના ઉલ્લંઘન વિશેના સંકેતો શેર કરવામાં સક્ષમ હશે જેથી અન્ય કંપનીઓ તપાસ કરી શકે અને પગલાં લઈ શકે જો સમાન અથવા સમાન સામગ્રી તેમના પ્લેટફોર્મ પર શેર કરવામાં આવી રહી હોય. મેટા ટેક્નિકલ ઇન્ફ્રાસ્ટ્રક્ચર પૂરું પાડે છે જે થ્રાઇવને અન્ડરપિન કરે છે… જે સિગ્નલને સુરક્ષિત રીતે શેર કરવામાં સક્ષમ બનાવે છે.”
જ્યારે મેટા જેવી સહભાગી કંપની તેની એપ્લિકેશન પર હાનિકારક સામગ્રી શોધે છે, ત્યારે તે અન્ય તકનીકી કંપનીઓ સાથે હેશ (સ્વ-નુકસાન અથવા આત્મહત્યા સંબંધિત સામગ્રીના ટુકડાઓથી સંબંધિત અનામી કોડ) શેર કરે છે, જેથી તેઓ સમાન સામગ્રી માટે તેમના પોતાના ડેટાબેસેસની તપાસ કરી શકે, જેમ કે તે પ્લેટફોર્મ પર ફેલાય છે.
વિશ્લેષણ: સારી શરૂઆત
(ઇમેજ ક્રેડિટ: ગેટ્ટી છબીઓ)
જ્યાં સુધી એવા પ્લેટફોર્મ્સ છે જે વપરાશકર્તાઓને તેમની પોતાની સામગ્રી અપલોડ કરવા પર આધાર રાખે છે, ત્યાં સુધી એવા પ્લેટફોર્મ હશે જે નિયમોનું ઉલ્લંઘન કરે છે અને હાનિકારક સંદેશાઓ ઑનલાઇન ફેલાવે છે. આ બોગસ અભ્યાસક્રમો, બાળકોને ધ્યાનમાં રાખીને ચેનલો પર અયોગ્ય સામગ્રી અને આત્મહત્યા અથવા સ્વ-નુકસાનને લગતી સામગ્રી વેચવાનો પ્રયાસ કરતા ગ્રિફ્ટર્સના સ્વરૂપમાં આવી શકે છે. આ પ્રકારની સામગ્રી પોસ્ટ કરનારા એકાઉન્ટ્સ સામાન્ય રીતે નિયમોને છીનવી લેવામાં અને તેમના લક્ષ્ય પ્રેક્ષકો સુધી પહોંચવા માટે રડાર હેઠળ ઉડવા માટે ખૂબ જ સારી છે; સામગ્રી ઘણી વખત ખૂબ મોડેથી ઉતારવામાં આવે છે.
સામાજિક મીડિયા પ્લેટફોર્મ જોવાનું સારું છે – જે તેમના વપરાશકર્તાઓને વ્યસની રાખવા માટે વ્યાપક અલ્ગોરિધમ્સ અને કેસિનો જેવા આર્કિટેક્ચરનો ઉપયોગ કરે છે અને તેઓ જેની સાથે જોડાશે તે સામગ્રી આપમેળે પ્રદાન કરે છે – વાસ્તવમાં થોડી જવાબદારી લેવી અને સાથે મળીને કામ કરવું. સૌથી લોકપ્રિય સોશિયલ મીડિયા એપ્લિકેશનો વચ્ચે આ પ્રકારના નૈતિક સહકારની ખૂબ જ જરૂર છે. જો કે, આ સફળતાના માર્ગ પરનું પ્રથમ પગલું હોવું જોઈએ.
યુઝર-જનરેટેડ કન્ટેન્ટની સમસ્યા એ છે કે તેને સતત પોલિસ કરવાની જરૂર છે. આર્ટિફિશિયલ ઇન્ટેલિજન્સ ચોક્કસપણે હાનિકારક સામગ્રીને આપમેળે ફ્લેગ કરવામાં મદદ કરી શકે છે, પરંતુ કેટલાક હજી પણ પસાર થઈ જશે – આ સામગ્રીનો મોટાભાગનો ભાગ ઝીણવટભર્યો છે, જેમાં સબટેક્સ્ટ શામેલ છે જે સાંકળમાં ક્યાંક માનવીને હાનિકારક તરીકે જોવા અને ફ્લેગ કરવાની જરૂર પડશે. જ્યારે હાનિકારક સામગ્રી પર તેમની વિકસતી નીતિઓની વાત આવે ત્યારે હું ચોક્કસપણે Meta, TikTok અને અન્ય કંપનીઓ પર નજર રાખીશ.
