‘જીપીયુની અંદર વર્ચુઅલ ડીપીયુ’: શું હોંશિયાર હાર્ડવેર હેક ડીપસીકની ગ્રાઉન્ડબ્રેકિંગ એઆઈ કાર્યક્ષમતા પાછળ હોઈ શકે?

ડ્યુઅલપાઇપ નામનો નવો અભિગમ ડીકસીકની સફળતાની ચાવી લાગે છે એક નિષ્ણાત તેને GP ન-જીપીયુ વર્ચ્યુઅલ ડીપીયુ તરીકે વર્ણવે છે જે બેન્ડવિડ્થ કાર્યક્ષમતાને મહત્તમ બનાવે છે જ્યારે ડીપસીકે ફક્ત એનવીઆઈડીઆઈએ જીપીયુનો ઉપયોગ કર્યો છે, એક આશ્ચર્ય થાય છે કે એએમડીની વૃત્તિ કેવી રીતે ભાડે હશે

ચાઇનાની ડીપસીક એઆઈ ચેટબ ot ટ ટેક ઉદ્યોગને સ્તબ્ધ કરી દીધી છે, જે ખર્ચના અપૂર્ણાંક પર ઓપનએઆઈના ચેટના વિશ્વસનીય વિકલ્પનું પ્રતિનિધિત્વ કરે છે.

એક તાજેતરનું કાગળ ડિપસીક વી 3 ને 2,048 એનવીઆઈડીઆઈ એચ 800 જીપીયુ – એચ 100 ના અપંગ સંસ્કરણો (અમે ફક્ત એએમડી ઇન્સ્ટિંક્ટ એક્સિલરેટર્સ પર તે કેટલું વધુ શક્તિશાળી ચાલશે!) ના ક્લસ્ટર પર તાલીમ લીધી હતી. અહેવાલ મુજબ પ્રીટ્રેઇનિંગ માટે 2.79 મિલિયન જીપીયુ-કલાકો, 14.8 ટ્રિલિયન ટોકન્સ પર ફાઇન ટ્યુનિંગ, અને કિંમત-દ્વારા કરવામાં આવેલી ગણતરીઓ અનુસાર- આગળનું પ્લેટફોર્મ – માત્ર $ 5.58 મિલિયન.

પરંતુ બરાબર કેવી રીતે ડીપસીકના વિકાસકર્તાઓએ આ પરાક્રમનું સંચાલન કર્યું તે સંભવિત હોંશિયાર હેક છે.

જી.પી.યુ. પર જ વર્ચુઅલ ડી.પી.યુ.

પ્રથમ, કેટલીક પૃષ્ઠભૂમિ. ડીપસીક એ દરેક કાર્ય માટે તેના આર્કિટેક્ચરના સૌથી વધુ સુસંગત ભાગોને પસંદગીયુક્ત રીતે સક્રિય કરીને પ્રભાવને ize પ્ટિમાઇઝ કરવા માટે રચાયેલ એક અદ્યતન મિશ્રણ (એમઓઇ) ભાષા મોડેલ છે. મોડેલનું ત્રીજું સંસ્કરણ, ડીપસીક-વી 3, કુલ 671 અબજ પરિમાણો દર્શાવે છે, જેમાં આપેલ ટોકન આગાહી માટે ફક્ત 37 અબજ સક્રિય છે. આ પસંદગીયુક્ત સક્રિયકરણ ઉચ્ચ પ્રદર્શન અને ચોકસાઈ જાળવી રાખતી વખતે ગણતરીના ખર્ચને મોટા પ્રમાણમાં ઘટાડે છે – જે તમે જોશો કે તમે તેનો પ્રયાસ કરો છો.

ડીપસીક અને તેની તાલીમ અંગેના દાવાઓ અંગે શંકાસ્પદ બનવું સરળ છે, પરંતુ કાગળ વિકાસકર્તાઓએ જે મેજિક સાથે કામ કરવું પડ્યું હતું તે મોટાભાગના અપંગ હાર્ડવેર બનાવવા માટે આવ્યા હતા. આમાં કાર્યક્ષમ પાઇપલાઇન સમાંતરવાદ માટે ડ્યુઅલપાઇપ અલ્ગોરિધમનો બનાવટ શામેલ છે.

ડીપસીક દ્વારા પ્રકાશિત માહિતી અનુસાર, ડ્યુઅલપાઇપ આગળ અને પછાત ગણતરીને ઓવરલેપ કરે છે, વિલંબને ઘટાડે છે, અને જીપીયુમાં ડેટા ચળવળને શ્રેષ્ઠ બનાવે છે. સંદેશાવ્યવહારને અસરકારક રીતે સંચાલિત કરીને, તે નિષ્ક્રિય સમય (પાઇપલાઇન બબલ્સ) ને ઘટાડે છે અને ગતિશીલ રીતે ગણતરી અને સંદેશાવ્યવહાર વચ્ચે જીપીયુ કમ્પ્યુટ કોરો (સ્ટ્રીમિંગ મલ્ટિપ્રોસેસર્સ) ને સંતુલિત કરે છે, ડેટા ટ્રાન્સફર બોટલનેક્સને મોડેલ ભીંગડા તરીકે અટકાવે છે.

આગલા પ્લેટફોર્મ પર એક ટિપ્પણીકર્તા ડ્યુઅલપાઇપને “all-to-to લ-Communication લ સંદેશાવ્યવહારને હેન્ડલ કરવા માટે જી.પી.યુ. પર વર્ચુઅલ ડીપીયુ બનાવવાનું આવશ્યકપણે” વર્ણવે છે, જે ડેટા ટ્રાન્સફર કાર્યક્ષમતાને izing પ્ટિમાઇઝ કરવામાં તેની ભૂમિકાને પ્રકાશિત કરે છે.

તમારા વ્યવસાયને સફળ થવા માટે જરૂરી તમામ ટોચનાં સમાચાર, અભિપ્રાય, સુવિધાઓ અને માર્ગદર્શન મેળવવા માટે ટેકરાડર પ્રો ન્યૂઝલેટર પર સાઇન અપ કરો!

કાગળ વધુ વિગતમાં જાય છે, “ડ્યુઅલપાઇપ માટે પૂરતા ગણતરીના પ્રભાવને સુનિશ્ચિત કરવા માટે, અમે સંદેશાવ્યવહારને સમર્પિત એસએમએસની સંખ્યાને બચાવવા માટે કાર્યક્ષમ ક્રોસ-નોડને ઓલ-ટુ-ઓલ કમ્યુનિકેશન કર્નલ (રવાનગી અને સંયોજન સહિત) કસ્ટમાઇઝ કરીએ છીએ. અમલીકરણ. કર્નલ એમઓઇ ગેટિંગ એલ્ગોરિધમ અને અમારા ક્લસ્ટરની નેટવર્ક ટોપોલોજી સાથે સહ-ડિઝાઇન કરે છે, અમારા ક્લસ્ટરમાં, ક્રોસ-નોડ જીપીયુ આઇબી સાથે સંપૂર્ણ રીતે એકબીજા સાથે જોડાયેલા છે, અને ઇન્ટ્રા-નોડ કમ્યુનિકેશન્સ એનવીલિંક દ્વારા સંચાલિત થાય છે. “

બે દિશામાં 8 પીપી રેન્ક અને 20 માઇક્રો-બેચ માટે ડ્યુઅલપાઇપ શેડ્યૂલિંગનું ઉદાહરણ. વિપરીત દિશામાં માઇક્રો-બેચ આગળની દિશામાંના લોકો માટે સપ્રમાણ છે, તેથી અમે ચિત્રની સરળતા માટે તેમના બેચ આઈડીને બાકાત રાખીએ છીએ. વહેંચાયેલ કાળી સરહદ દ્વારા બંધ બે કોષોમાં પરસ્પર ઓવરલેપ થયેલ ગણતરી અને સંદેશાવ્યવહાર છે. (છબી ક્રેડિટ: ડીકસીક)

તમને પણ ગમશે