હિડનલેયરના સંશોધનકારોએ એક જ પાત્ર ઉમેરવા અથવા બદલાતા, ટોકનબ્રેકરબી નામનો એક નવો એલએલએમ હુમલો ઘડ્યો, તેઓ ચોક્કસ સંરક્ષણને બાયપાસ કરવા માટે સક્ષમ છે, અંતર્ગત એલએલએમ હજી પણ ઉદ્દેશને સમજે છે
સુરક્ષા સંશોધનકારોએ કેટલાક મોટા ભાષાના મ models ડેલ્સ (એલએલએમ) માં બેકડ પ્રોટેક્શન મિકેનિઝમ્સની આસપાસ કામ કરવાનો માર્ગ શોધી કા and ્યો છે અને તેમને દૂષિત સંકેતોનો જવાબ આપવા માટે મેળવો છો.
હિડનલેયરના કિઅરન ઇવાન્સ, કાસિમિર શુલ્ઝ અને કેનેથ યેંગે નવી હુમલો તકનીક પર in ંડાણપૂર્વકનો અહેવાલ પ્રકાશિત કર્યો હતો જેને તેઓએ ટોકનબ્રેક તરીકે ઓળખાવ્યો હતો, જે ચોક્કસ એલએલએમએસ ટોકનલાઇઝ ટેક્સ્ટને લક્ષ્યમાં રાખે છે, ખાસ કરીને બાઇટ જોડી એન્કોડિંગ (બીપીઇ) અથવા વર્ડપીસ ટોકનાઇઝેશન વ્યૂહરચનાનો ઉપયોગ કરે છે.
ટોકનાઇઝેશન એ ટોકન્સ તરીકે ઓળખાતા નાના એકમોમાં ટેક્સ્ટને તોડવાની પ્રક્રિયા છે, જે શબ્દો, સબવર્ડ્સ અથવા અક્ષરો હોઈ શકે છે, અને જે એલએલએમ ભાષાને સમજવા અને જનરેટ કરવા માટે ઉપયોગ કરે છે – ઉદાહરણ તરીકે, “દુ: ખીતા” શબ્દને “યુએન,” “હેપ્પી,” અને “નેસ” માં વહેંચવામાં આવી શકે છે, દરેક ટોકન પછી એક આંકડાકીય ID માં રૂપાંતરિત થઈ શકે છે, જે મોડેલની સંખ્યામાં ફેરબદલ કરી શકે છે, તેના બદલે કળાને વાંચન કરી શકે છે.
તમને ગમે છે
ફિન્સ્ટ્રક્શન શું છે?
કી શબ્દોમાં વધારાના પાત્રો ઉમેરીને (જેમ કે “સૂચનાઓ” ને “ફિન્સ્ટ્રક્શન” માં ફેરવી દેવાથી), સંશોધનકારોએ પ્રોમ્પ્ટિવ મોડેલોને હાનિકારક હતા તે વિચારવા માટે રક્ષણાત્મક મ models ડેલોને યુક્તિ આપી.
બીજી બાજુ, અંતર્ગત લક્ષ્ય એલએલએમ, હજી પણ મૂળ ઉદ્દેશનું અર્થઘટન કરે છે, સંશોધનકારોને દૂષિત પૂછે છે, ભૂતકાળના સંરક્ષણ, શોધી ન શકાય તેવું.
આનો ઉપયોગ અન્ય વસ્તુઓની વચ્ચે, એઆઈ સંચાલિત સ્પામ ઇમેઇલ ફિલ્ટર્સને બાયપાસ કરવા અને લોકોના ઇનબોક્સમાં દૂષિત સામગ્રીને ઉતારવા માટે થઈ શકે છે.
ઉદાહરણ તરીકે, જો સ્પામ ફિલ્ટરને “લોટરી” શબ્દ ધરાવતા સંદેશાઓને અવરોધિત કરવાની તાલીમ આપવામાં આવી હતી, તો તેઓ હજી પણ સંદેશને મંજૂરી આપી શકે છે કે “તમે સ્લોટરી જીતી લીધી છે!” સંભવિત દૂષિત ઉતરાણ પૃષ્ઠો, મ ware લવેર ચેપ અને સમાન પ્રાપ્તકર્તાઓને ખુલ્લા પાડતા.
સંશોધનકારોએ સમજાવ્યું, “આ હુમલો તકનીક ઇનપુટ ટેક્સ્ટને એવી રીતે ચાલાકી કરે છે કે અમુક મોડેલો ખોટા વર્ગીકરણ આપે છે.”
“અગત્યની વાત એ છે કે અંતિમ લક્ષ્ય (એલએલએમ અથવા ઇમેઇલ પ્રાપ્તકર્તા) હજી પણ ચાલાકીવાળા લખાણને સમજી અને તેનો પ્રતિસાદ આપી શકે છે અને તેથી અટકાવવા માટે સંરક્ષણ મોડેલને મૂકવામાં આવેલા ખૂબ જ હુમલા માટે સંવેદનશીલ હોઈ શકે છે.”
હિડલેયરે ઉમેર્યું, યુનિગ્રામ ટોકનલાઇઝર્સનો ઉપયોગ આ પ્રકારની મેનીપ્યુલેશન માટે પ્રતિરોધક હોવાનું જણાયું હતું. તેથી એક શમન વ્યૂહરચના એ છે કે વધુ મજબૂત ટોકનાઇઝેશન પદ્ધતિઓવાળા મોડેલો પસંદ કરો.
ઝાપે સુધી હેકર સમાચાર