નિષ્ણાતો બતાવે છે કે કેવી રીતે જીપીટી -4 સહિતના કેટલાક એઆઈ મોડેલોનો ઉપયોગ સરળ વપરાશકર્તા પ્રોમ્પ્ટસગાર્ડ્રેઇલ ગાબડાઓ સાથે કરી શકાય છે તે વ્યક્તિગત માહિતી પ્રાપ્ત કરવા માટે ભ્રામક ફ્રેમિંગને શોધવાનું મોટું કામ નથી કરતું
સુરક્ષા સંશોધનકારે અન્ય સંશોધનકારોએ ચેટગપ્ટને કેવી રીતે પ્રયાસ કરી શકે તેવો ઉપયોગ કરીને વિન્ડોઝ પ્રોડક્ટ કીને જાહેર કરવા માટે ચેટગપ્ટને કેવી રીતે છેતરપિંડી કરી તે અંગેની વિગતો શેર કરી છે.
માર્કો ફિગ્યુરોઆએ સમજાવ્યું કે જી.પી.ટી.-4 સાથે ‘અનુમાન લગાવતા રમત’ પ્રોમ્પ્ટનો ઉપયોગ સલામતી ગાર્ડરેલ્સને બાયપાસ કરવા માટે કરવામાં આવ્યો હતો જે એઆઈને આવા ડેટા શેર કરવાથી અવરોધિત કરવા માટે છે, આખરે વેલ્સ ફાર્ગો બેંકની ઓછામાં ઓછી એક ચાવી ઉત્પન્ન કરે છે.
સંશોધનકારોએ માઇક્રોસ .ફ્ટના ઓએસને ગેરકાયદેસર રીતે પ્રમાણિત કરવા માટે વિંડોઝ પ્રોડક્ટ કી મેળવવામાં પણ વ્યવસ્થાપિત કર્યું, પરંતુ મફતમાં, નબળાઈની તીવ્રતાને પ્રકાશિત કરી.
તમને ગમે છે
ચેટજીપીટીને સુરક્ષા કીઓ શેર કરવામાં છેતરવામાં આવી શકે છે
સંશોધનકારે સમજાવ્યું કે તેણે ચેટજીપીટીના ફિલ્ટર્સને બાયપાસ કરવા માટે એચટીએમએલ ટ s ગ્સની અંદર ‘વિન્ડોઝ 10 સીરીયલ નંબર’ જેવા શબ્દોને કેવી રીતે છુપાવ્યો હતો, જે સામાન્ય રીતે તેને મળેલા જવાબોને અવરોધિત કરે છે, અને ઉમેર્યું હતું કે તે દૂષિત ઉદ્દેશ્યને માસ્ક કરવા માટે વિનંતીને ફ્રેમ કરવામાં સક્ષમ છે, લોજિક મેનીપ્યુલેશન દ્વારા ઓપનએઆઈના ચેટબોટનું શોષણ કરે છે.
“આ હુમલામાં સૌથી નિર્ણાયક પગલું એ ‘આઇ ગિવ અપ’ વાક્ય હતું,” ફિગ્યુરોઆ લખેલું. “આ એક ટ્રિગર તરીકે કામ કરે છે, એઆઈને અગાઉની છુપાયેલી માહિતી જાહેર કરવા માટે દબાણ કરે છે.”
ફિગ્યુરોઆએ સમજાવ્યું કે આ પ્રકારના નબળાઈ શોષણ શા માટે કામ કર્યું, મોડેલની વર્તણૂક મહત્વપૂર્ણ ભૂમિકા ભજવી. જીપીટી -4 રમતના નિયમોનું પાલન કરે છે (સંશોધનકારો દ્વારા નિર્ધારિત) શાબ્દિક રીતે, અને ગાર્ડરેઇલ ગાબડા ફક્ત સંદર્ભિત સમજણ અથવા ભ્રામક ફ્રેમિંગને બદલે કીવર્ડ તપાસ પર ધ્યાન કેન્દ્રિત કરે છે.
હજી પણ, શેર કરેલા કોડ અનન્ય કોડ્સ નહોતા. તેના બદલે, વિન્ડોઝ લાઇસન્સ કોડ પહેલાથી જ અન્ય plat નલાઇન પ્લેટફોર્મ અને ફોરમ્સ પર શેર કરવામાં આવ્યા હતા.
જ્યારે સ software ફ્ટવેર લાઇસન્સ કીઓ શેર કરવાની અસરો ખૂબ સંબંધિત ન હોઈ શકે, ફિગ્યુરોઆએ પ્રકાશિત કર્યું કે કેવી રીતે દૂષિત કલાકારો એઆઈ સુરક્ષા પગલાંને બાયપાસ કરવા માટે તકનીકને અનુકૂળ કરી શકે છે, વ્યક્તિગત રૂપે ઓળખી શકાય તેવી માહિતી, દૂષિત યુઆરએલ અથવા પુખ્ત સામગ્રીનો ઘટસ્ફોટ કરે છે.
ફિગ્યુરોઆ એઆઈ વિકાસકર્તાઓને આવા હુમલાઓ સામે “અપેક્ષા અને બચાવ” કરવા માટે હાકલ કરી રહી છે, જ્યારે તર્કશાસ્ત્ર-સ્તરના સલામતીમાં પણ નિર્માણ કરે છે જે ભ્રામક ફ્રેમિંગને શોધી કા .ે છે. એઆઈ વિકાસકર્તાઓએ સોશિયલ એન્જિનિયરિંગ યુક્તિઓ પર પણ વિચાર કરવો જોઇએ, તે સૂચવે છે.
