સરકાર ડીપફેક્સ પર સ્ટેટસ રિપોર્ટ સબમિટ કરે છે: ચકાસણી હેઠળ એ.આઈ.

એઆઈ કૌભાંડો, ચૂંટણીની હેરાફેરી અને કડક અમલીકરણની જરૂરિયાત અંગેની ચિંતાઓને પ્રકાશિત કરીને, સરકારે ડીપફેક ટેકનોલોજી પર સ્ટેટસ રિપોર્ટ રજૂ કર્યો છે.

ઇલેક્ટ્રોનિક્સ અને ઇન્ફર્મેશન ટેકનોલોજી મંત્રાલયે સોમવારે (માર્ચ 24) દિલ્હી હાઇકોર્ટને સબમિટ કરાયેલા સ્ટેટસ રિપોર્ટમાં ડીપફેક ટેકનોલોજી સંબંધિત મુખ્ય ચિંતાઓ પર પ્રકાશ પાડ્યો હતો. કોર્ટ ભારતમાં ડીપફેક ટેકનોલોજીના અનિયંત્રિત ફેલાવાને પડકારતી અરજીઓની સુનાવણી કરી રહી હતી. ભારત ટીવીના અધ્યક્ષ અને મુખ્ય સંપાદક રાજત શર્મા દ્વારા આ અરજીઓ દાખલ કરવામાં આવી હતી, જેમાં સરકારને નિયમો લાગુ કરવા અને ડીપફેક ઉત્પન્ન કરતી એપ્લિકેશનો અને સ software ફ્ટવેરની જાહેર પ્રવેશને પ્રતિબંધિત કરવા વિનંતી કરી હતી. શર્માની અરજીએ અન્ડરસ્ટેન્ડ કર્યું હતું કે કેવી રીતે ડીપફેક્સ ખોટી માહિતીને ઉત્તેજીત કરી શકે છે, જાહેર પ્રવચનોને વિકૃત કરી શકે છે અને લોકશાહી પ્રક્રિયાઓને જોખમમાં મૂકે છે.

રિપોર્ટમાં ડીપફેક્સના વધતા દુરૂપયોગ પર ભાર મૂકવામાં આવ્યો છે-ખાસ કરીને રાજ્યની ચૂંટણીઓ દરમિયાન-એઆઈ-સંચાલિત કૌભાંડોની વધતી સંખ્યા અને નવા કાયદાઓને બદલે કડક અમલીકરણની જરૂરિયાત.

વધુમાં, અહેવાલમાં “ડીપફેક” માટે પ્રમાણિત વ્યાખ્યાની ગેરહાજરી દર્શાવવામાં આવી છે, જે નિયમનકારી પ્રયત્નોને જટિલ બનાવે છે. તેમાં એ પણ નોંધ્યું છે કે સુસંસ્કૃત કલાકારો વોટરમાર્કિંગ અને મેટાડેટા ટેગિંગ જેવી તપાસ પદ્ધતિઓને અવરોધે છે. અહેવાલમાં વપરાશકર્તાઓને ડીપફેક્સને ઓળખવા અને સમજવા વિશે શિક્ષિત કરવા માટે મોટા પાયે જાહેર જાગૃતિ અભિયાનોની જરૂરિયાત પર વધુ ભાર મૂક્યો છે. તે ભારતીય ભાષાઓ અને સંદર્ભોમાં ડીપફેક્સને શોધવા અને વિશ્લેષણ કરવા માટે સ્વદેશી ડેટાસેટ્સ અને સાધનોના વિકાસના મહત્વ પર ભાર મૂકે છે.

હિસ્સેદાર ઇનપુટ્સ એઆઈ સામગ્રી જાહેરાત માટે ક call લ કરે છે

તેના સ્ટેટસ રિપોર્ટમાં, મેઇટીએ ડીપફેક સંબંધિત ચિંતાઓની તપાસ કરવા માટે લેવામાં આવેલા પગલાઓની વિગતવાર વિગત આપી. નવ સભ્યોની સમિતિએ આ વર્ષે જાન્યુઆરીમાં ટેકનોલોજી અને નીતિ નિષ્ણાતો સાથે ચર્ચા કરી હતી.

હિસ્સેદારોએ ફરજિયાત એઆઈ સામગ્રી જાહેરાત, લેબલિંગ ધોરણો અને ફરિયાદ નિવારણ પદ્ધતિઓની હિમાયત કરી હતી, જ્યારે ડીપફેક ટેકનોલોજીના સર્જનાત્મક કાર્યક્રમોને પ્રતિબંધિત કરવાને બદલે દૂષિત કલાકારોને લક્ષ્યાંકિત કરવાના મહત્વ પર પણ ભાર મૂક્યો હતો.

ડીપફેક ટેકનોલોજીના સર્જનાત્મક કાર્યક્રમોને પ્રતિબંધિત કરવાને બદલે દૂષિત કલાકારોને લક્ષ્ય બનાવવાના મહત્વને પ્રકાશિત કરતાં, સમિતિએ “ફરજિયાત મધ્યસ્થીઓ પાલન” પર પણ વિચાર કર્યો, જે એઆઈ-જનરેટેડ સામગ્રીને નિયંત્રિત કરવામાં ડિજિટલ પ્લેટફોર્મની જવાબદારી નક્કી કરશે. અહેવાલમાં જણાવાયું છે કે આ માળખું સોશિયલ મીડિયા કંપનીઓની જવાબદારીને વ્યાખ્યાયિત કરી શકે છે, મફત અભિવ્યક્તિની ખાતરી કરતી વખતે તેમની જવાબદારીને સંતુલિત કરે છે.

રિપોર્ટમાં એ પણ ઉલ્લેખ કરવામાં આવ્યો છે કે ઘણા હિસ્સેદારો સંમત થયા હતા કે ઇન્ફર્મેશન ટેકનોલોજી એક્ટ, 2000 (આઇટી એક્ટ), ઇન્ફર્મેશન ટેકનોલોજી (મધ્યસ્થી માર્ગદર્શિકા અને ડિજિટલ મીડિયા એથિક્સ કોડ) નિયમો, 2021 (આઇટી નિયમો, 2021), અને ભારતીય ન્યા સનહિતા, 2023 (બી.એન.) ની જરૂરિયાત માટે પૂરતા પ્રમાણમાં પૂરતા પ્રમાણમાં પૂરતા છે, પરંતુ મજબૂતતા માટે પૂરતા છે.

ચૂંટણી ડીપફેક્સ અને એઆઈનો દુરૂપયોગ એલાર્મ્સ ઉભા કરે છે

ડીપફેક્સ એનાલિસિસ યુનિટ (ડીએયુ), મેટા-સપોર્ટેડ ખોટી માહિતી લડાઇ એલાયન્સ (એમસીએ) હેઠળની પહેલ, ડીપફેક ટેકનોલોજીના દુરૂપયોગથી સંબંધિત બે અવ્યવસ્થિત વલણોને ફ્લેગ કરે છે:

રાજ્યની ચૂંટણી દરમિયાન મહિલાઓને ખાસ કરીને નિશાન બનાવતા ડીપફેક્સ એઆઈ-સંચાલિત કૌભાંડની સામગ્રીમાં ચૂંટણી પછીની વૃદ્ધિ

ડીએયુએ ડીપફેક audio ડિઓ શોધવા માટેના પડકારો પણ પ્રકાશિત કર્યા, જેમાં જણાવ્યું હતું કે વાસ્તવિક અને હેરાફેરી વ voice ઇસ રેકોર્ડિંગ્સ વચ્ચેનો તફાવત નોંધપાત્ર અવરોધ છે. તેમાં સહયોગી તપાસ ફ્રેમવર્ક અને સ્પષ્ટ નિયમનકારી ધોરણોની જરૂરિયાત પર ભાર મૂક્યો. સમિતિએ આ ચિંતાઓને સ્વીકારી અને કાયદા અમલીકરણ એજન્સીઓ, ખાસ કરીને ભારતીય સાયબર ક્રાઇમ કોઓર્ડિનેશન સેન્ટર (આઇ 4 સી) પાસેથી ડીપફેક સંબંધિત ગુનાહિત કેસોને ટ્ર track ક કરવા અને તેનું વિશ્લેષણ કરવા માટે સહયોગની ભલામણ કરી.

પીડિતો સાથે પરામર્શ હજી શરૂ થવાનું બાકી છે

તેના અહેવાલમાં, મેઇટીએ સ્વીકાર્યું કે તેણે હજી સુધી ડીપફેક એટેકનો ભોગ બનેલા લોકોની સલાહ લીધી નથી. રિપોર્ટમાં જણાવાયું છે કે, મંત્રાલય ડીપફેક સામગ્રીથી અસરગ્રસ્ત વ્યક્તિઓના પુરાવાઓ એકત્રિત કરવા માટે માહિતી અને પ્રસારણ મંત્રાલય સાથે કામ કરી રહ્યું છે. સમિતિએ આ પરામર્શ પૂર્ણ કરવા માટે વધારાના ત્રણ મહિનાની વિનંતી પણ કરી હતી, જેને દિલ્હી હાઈકોર્ટે મંજૂરી આપી હતી.

મુખ્ય ન્યાયાધીશ ડી.કે. ઉપાધ્યા અને ન્યાયાધીશ તુશાર રાવ ગેડેલાની આગેવાની હેઠળની બેંચે સમિતિને આ મુદ્દે મૂલ્યાંકન કરતી વખતે અરજદારો પાસેથી સૂચનોનો સમાવેશ કરવાનો આદેશ આપ્યો હતો. આ મામલે આગામી સુનાવણી 21 જુલાઈ, 2025 ના રોજ સુનિશ્ચિત થયેલ છે.

રાજત શર્મા ડીપફેક ટેકનોલોજીના નિયમન સામે દિલ્હી એચસીમાં અરજી કરે છે

ભારત ટીવીના અધ્યક્ષ અને મુખ્ય સંપાદક રાજત શર્માએ deep ંડા બનાવટી તકનીકીના નિયમન સામે દિલ્હી હાઇકોર્ટમાં અરજી કરી હતી. જે પછી, કાર્યકારી મુખ્ય ન્યાયાધીશ મનમોહન અને ન્યાયાધીશ માનમિત પ્રિતમ સિંહ અરોરાની બનેલી હાઈકોર્ટની ડિવિઝન બેંચે એક નોટિસ જારી કરી અને ઇલેક્ટ્રોનિક્સ અને ઇન્ફર્મેશન ટેકનોલોજી મંત્રાલય દ્વારા કેન્દ્ર સરકાર તરફથી પ્રતિસાદ માંગ્યો.

સુનાવણી દરમિયાન, બેંચે મૌખિક રીતે ટિપ્પણી કરી હતી કે “આ એક મોટી સમસ્યા છે” અને કેન્દ્ર સરકારને તેની કાર્યવાહી કરવાની તૈયારી અંગે પૂછપરછ કરી. કોર્ટે નોંધ્યું, “રાજકીય પક્ષો પણ આ અંગે ફરિયાદ કરી રહ્યા છે. તમે કોઈ કાર્યવાહી કરી રહ્યા નથી.”

આ અરજી અનુસાર, ડીપફેક ટેક્નોલ of જીના પ્રસારમાં સમાજના વિવિધ પાસાઓ માટે નોંધપાત્ર જોખમો છે, જેમાં ખોટી માહિતી અને વિક્ષેપ અભિયાનો, જાહેર પ્રવચનો અને લોકશાહી પ્રક્રિયાઓને નબળી પાડવામાં આવે છે, છેતરપિંડી અને ઓળખ ચોરીનો સંભવિત ઉપયોગ, અને વ્યક્તિઓની પ્રતિષ્ઠા અને ગોપનીયતાને નુકસાન પહોંચાડે છે.

ડીપફેક ટેકનોલોજી એ ગંભીર જોખમ છે: દિલ્હી હાઇકોર્ટ

August ગસ્ટ 2024 માં દિલ્હી હાઈકોર્ટે નોંધ્યું હતું કે ડીપફેક ટેકનોલોજી સમાજમાં ગંભીર જોખમ બની રહી છે અને સરકારે તેના વિશે વિચારવાનું શરૂ કરવું જોઈએ અને નિરીક્ષણ કરવું જોઈએ કે કૃત્રિમ બુદ્ધિ (એઆઈ) માટે મારણ ફક્ત તકનીકી હશે. હાઈકોર્ટે નિરીક્ષણ કર્યું હતું કે 2024 ની ચૂંટણી પહેલા સરકાર આ મુદ્દે ઉશ્કેરાઈ હતી, અને હવે વસ્તુઓ બદલાઈ ગઈ છે.

ડીપફેક્સના મુદ્દાને રોકવા માટે લેવામાં આવેલા પગલાં અંગે અહેવાલ ફાઇલ કરવા માટે

October ક્ટોબર 2024 માં ડીપફેક્સના મામલાને લગતા નોંધપાત્ર વિકાસમાં, દિલ્હી હાઈકોર્ટે સેન્ટરને ડીપફેક ટેકનોલોજીના વધતા જોખમનો સામનો કરવા માટે લેવામાં આવેલા પગલાં અંગે સ્થિતિ અહેવાલ નોંધાવવાનું કહ્યું. આ મામલા અંગેની સુનાવણી દરમિયાન મુખ્ય ન્યાયાધીશ મનમોહન અને ન્યાયાધીશ તુશર રાવ ગેડેલાએ સરકારના સ્તરે લેવામાં આવેલા પગલાંને પ્રકાશિત કરવા માટે અહેવાલની માંગ કરી હતી.

નવેમ્બર 2024 માં દિલ્હી હાઈકોર્ટે કેન્દ્રને ડીપફેક્સના મુદ્દાની તપાસ કરવા માટે પેનલ માટે સભ્યોને નામાંકિત કરવા નિર્દેશ આપ્યો. હાઇકોર્ટ તરફથી આ દિશા નિર્દેશન પછી કેન્દ્રીય ઇલેક્ટ્રોનિક્સ અને ઇન્ફર્મેશન ટેકનોલોજી મંત્રાલયે જાણ કરી કે ડીપફેક બાબતો પર 20 નવેમ્બરના રોજ એક સમિતિની રચના કરવામાં આવી છે.

ડીપફેક ટેકનોલોજી શું છે?

ડીપફેક ટેકનોલોજી હાયપર-રિયાલિસ્ટિક વિડિઓઝ, audio ડિઓ ક્લિપ્સ અને છબીઓની રચનાને સક્ષમ કરે છે, જે લોકોના શબ્દો અને ક્રિયાઓને બદલીને લોકોની ધારણાને ચાલાકી કરી શકે છે. આ માહિતીની અખંડિતતા માટે મોટો જોખમ ઉભો કરે છે, કારણ કે તેનો ઉપયોગ રાજકીય પ્રચાર, નાણાકીય છેતરપિંડી અને વ્યક્તિગત માનહાનિ માટે થઈ શકે છે.