HBM એ AI ક્રાંતિ માટે મૂળભૂત છે કારણ કે તે GPUScaling HBM પરફોર્મન્સની નજીક અલ્ટ્રા ફાસ્ટ ડેટા ટ્રાન્સફર કરવાની મંજૂરી આપે છે જો તે JEDEC પ્રોટોકોલ્સ માર્વેલને વળગી રહે અને અન્ય લોકો તેના વિકાસને વેગ આપવા માટે કસ્ટમ HBM આર્કિટેક્ચર વિકસાવવા માંગે તો તે મુશ્કેલ છે.
માર્વેલ ટેક્નોલૉજીએ એક્સપીયુની કાર્યક્ષમતા અને કામગીરીને વધારવા માટે રચાયેલ કસ્ટમ HBM કમ્પ્યુટ આર્કિટેક્ચરનું અનાવરણ કર્યું છે, જે ઝડપથી વિકસતા ક્લાઉડ ઈન્ફ્રાસ્ટ્રક્ચર લેન્ડસ્કેપમાં મુખ્ય ઘટક છે.
મેમરી જાયન્ટ્સ માઈક્રોન, સેમસંગ અને SK Hynix સાથે મળીને વિકસાવવામાં આવેલ નવા આર્કિટેક્ચરનો ઉદ્દેશ્ય નેક્સ્ટ જનરેશન ડેટા સેન્ટરની જરૂરિયાતો માટે તૈયાર કરેલ સોલ્યુશન્સ ઓફર કરીને પરંપરાગત મેમરી એકીકરણમાં મર્યાદાઓને દૂર કરવાનો છે.
આર્કિટેક્ચર કેવી રીતે XPUs – અદ્યતન AI અને ક્લાઉડ કમ્પ્યુટિંગ સિસ્ટમમાં ઉપયોગમાં લેવાય છે – મેમરીને હેન્ડલ કરવા પર ધ્યાન કેન્દ્રિત કરે છે. AI કમ્પ્યુટ સિલિકોન ડાઈઝ અને હાઈ બેન્ડવિડ્થ મેમરી સ્ટેક્સ વચ્ચેના ઈન્ટરફેસને ઑપ્ટિમાઇઝ કરીને, માર્વેલ દાવો કરે છે કે ટેક્નોલોજી પ્રમાણભૂત HBM અમલીકરણની સરખામણીમાં 70% સુધી પાવર વપરાશ ઘટાડે છે.
JEDEC થી દૂર જઈ રહ્યા છીએ
વધુમાં, તેની પુનઃડિઝાઈન સિલિકોન રિયલ એસ્ટેટની જરૂરિયાતોને 25% જેટલી ઓછી કરે છે, જે ક્લાઉડ ઓપરેટરોને કમ્પ્યુટ ક્ષમતાને વિસ્તૃત કરવા અથવા વધુ મેમરીનો સમાવેશ કરવાની મંજૂરી આપે છે. આ સંભવતઃ XPU ને 33% વધુ HBM સ્ટેક્સને સપોર્ટ કરવાની મંજૂરી આપી શકે છે, જે મોટા પાયે મેમરીની ઘનતામાં વધારો કરે છે.
“અગ્રણી ક્લાઉડ ડેટા સેન્ટર ઓપરેટરોએ કસ્ટમ ઈન્ફ્રાસ્ટ્રક્ચર સાથે સ્કેલ કર્યું છે. ચોક્કસ કામગીરી, શક્તિ અને માલિકીની કુલ કિંમત માટે HBM ને અનુરૂપ બનાવીને XPU ને વધારવું એ એઆઈ એક્સિલરેટર્સની ડિઝાઈન અને ડિલિવરી કરવાની રીતમાં એક નવા દાખલાનું નવીનતમ પગલું છે,” વિલ ચુ, કસ્ટમ, કમ્પ્યુટના વરિષ્ઠ ઉપપ્રમુખ અને જનરલ મેનેજર માર્વેલ ખાતેના સ્ટોરેજ ગ્રુપે જણાવ્યું હતું.
“અમે આ ક્રાંતિને વેગ આપવા માટે અગ્રણી મેમરી ડિઝાઇનર્સ સાથે કામ કરવા માટે ખૂબ જ આભારી છીએ અને, ક્લાઉડ ડેટા સેન્ટર ઓપરેટરોને AI યુગ માટે તેમના XPUs અને ઇન્ફ્રાસ્ટ્રક્ચરને સ્કેલ કરવાનું ચાલુ રાખવામાં મદદ કરીએ છીએ.”
HBM XPUsમાં કેન્દ્રિય ભૂમિકા ભજવે છે, જે મેમરી અને પ્રોસેસિંગ પાવરને એકીકૃત કરવા માટે અદ્યતન પેકેજિંગ ટેકનોલોજીનો ઉપયોગ કરે છે. પરંપરાગત આર્કિટેક્ચર, જોકે, માપનીયતા અને ઊર્જા કાર્યક્ષમતાને મર્યાદિત કરે છે.
માર્વેલનો નવો અભિગમ HBM સ્ટેકને અને તેના એકીકરણમાં ફેરફાર કરે છે, જેનો હેતુ ઓછી શક્તિ અને ઓછા ખર્ચ માટે બહેતર પ્રદર્શન આપવાનો છે – હાઇપરસ્કેલર્સ કે જેઓ ડેટા સેન્ટર્સમાં સતત વધતી જતી ઉર્જાની માંગનું સંચાલન કરવા માંગે છે તેમના માટે મુખ્ય વિચારણા.
ઘરની સેવા કરોના પેટ્રિક કેનેડી, જેમણે માર્વેલ વિશ્લેષક દિવસ 2024 થી સમાચાર લાઈવ રિપોર્ટ કર્યા, તેમણે નોંધ્યું કે cHBM (કસ્ટમ HBM) એ JEDEC સોલ્યુશન નથી અને તેથી HBM શેલ્ફની બહાર પ્રમાણભૂત રહેશે નહીં.
“મેમરી JEDEC ધોરણોથી દૂર અને હાઇપરસ્કેલર્સ માટે કસ્ટમાઇઝેશનમાં ખસેડવી એ ઉદ્યોગમાં એક સ્મારક પગલું છે,” તે લખે છે. “આ બતાવે છે કે માર્વેલ પાસે કેટલાક મોટા હાઇપરસ્કેલ XPU જીત છે કારણ કે મેમરી સ્પેસમાં આ પ્રકારનું કસ્ટમાઇઝેશન નાના ઓર્ડર માટે થતું નથી.”
અગ્રણી મેમરી ઉત્પાદકો સાથેનો સહયોગ ઉદ્યોગમાં અત્યંત કસ્ટમાઇઝ્ડ હાર્ડવેર તરફના વ્યાપક વલણને પ્રતિબિંબિત કરે છે.
“વધેલી મેમરી ક્ષમતા અને બેન્ડવિડ્થ ક્લાઉડ ઓપરેટરોને AI યુગ માટે તેમના ઈન્ફ્રાસ્ટ્રક્ચરને અસરકારક રીતે સ્કેલ કરવામાં મદદ કરશે,” રાજ નરસિમ્હને જણાવ્યું હતું કે, માઇક્રોનના કોમ્પ્યુટ અને નેટવર્કિંગ બિઝનેસ યુનિટના સિનિયર વાઇસ પ્રેસિડેન્ટ અને જનરલ મેનેજર.
“પાવર કાર્યક્ષમતા પર કેન્દ્રિત વ્યૂહાત્મક સહયોગ, જેમ કે માર્વેલ સાથે અમારી પાસે છે, તે માઇક્રોનના ઉદ્યોગ-અગ્રણી HBM પાવર સ્પેક્સ પર નિર્માણ કરશે અને AI સ્કેલ કરવા માટે જરૂરી ક્ષમતાઓ અને શ્રેષ્ઠ કામગીરી પહોંચાડવા માટે એક મજબૂત પ્લેટફોર્મ સાથે હાઇપરસ્કેલર પ્રદાન કરશે.”