4ÔÂÖÐÑ®£¬£¬£¬»ªÎªÐû²¼ÁËAI»ù´¡ÉèÊ©¼Ü¹¹µÄÐÂÏ£Íû£¬£¬£¬ÍƳöÁËÈ«Çò×î´ó¹æÄ£³¬½Úµã¡ª¡ª»ùÓÚ•NÌÚ 910C ´òÔìµÄ CloudMatrix 384¡£¡£¡£ ¡£ÎÒÃÇÔ®ÒýÁËSemiAnalysis¶Ô´ËµÄÊý¾ÝºÍÆÊÎö£¬£¬£¬²¢½«ÆäÖ÷ÒªÄÚÈÝÔÚºóÎÄ·ÖÏí¡£¡£¡£ ¡£´ÓÖУ¬£¬£¬ÎÒÃÇ¿ú¼ûÁËÖйúAI¿ÉÄܵÄÐðÊÂÇ黯£º
¢Ù´Óµ¥±øµ½¼¯Èº£¬£¬£¬»¥ÁªµÄÖ÷ÒªÐÔ͹ÏÔ£ºÊÜÏÞÓÚÏȽøÖƳÌÓëHBM£¬£¬£¬•NÌÚ910CÄÑÒÔÔÚµ¥¿¨ÐÔÄÜÉÏͬӢΰ´ïBlackwellÆ¥µÐ£¬£¬£¬µ«ÒÀ¸½Ç¿Ê¢µÄͨѶ»¥ÁªÊÖÒÕ»ýÀÛ£¬£¬£¬»ªÎªÊµÏÖÁËϵͳ¼¶µÄÁ¢ÒìºÍÁìÏÈ£»£»£»£»£»¢Ú»ùÓÚ¹ú¼Ò×ÊÔ´Ù÷¸³µÄÁ¢Ò죺³¬´ó¹æÄ£¼¯ÈºµÄ¼ÛÇ®ÊÇÖش󹦺ģ¬£¬£¬µ«ÖйúÄÜÔ´ÍøÂçµÄÅˮƽΪȫÇòÖ®×£¬£¬Ïà½ÏÓÚ±±ÃÀ¸ß°ºµÄÄÜÔ´±¾Ç®£¬£¬£¬ÖйúÄÜÔ´µÄ½ÏÁ¿ÓÅÊƵÃÒÔÊ©Õ¹¡£¡£¡£ ¡£
?Ò»¡¢»ªÎªCM384ÓëNVL72±ÈÕÕ?
»ªÎªCloudMatrix 384 ÓÉ 384 ¿é Ascend 910C оƬ×é³É£¬£¬£¬Í¨¹ýÈ«¶ÔÈ«ÍØÆ˽ṹÅþÁ¬¡£¡£¡£ ¡£Æä±³ºóµÄ˼Ð÷ºÜ¼òÆÓ£ºËäȻÿ¿éGPU ÐÔÄܽöΪNvidia Blackwell µÄÈý·ÖÖ®Ò»£¬£¬£¬µ«Î屶ÓÚNVL72µÄAscendÊýÄ¿Ìî²¹ÁËϵͳ¼¶µÄÐÔÄܲî±ð¡£¡£¡£ ¡£ÍêÕûµÄCloudMatrix ϵͳÏÖÔÚÉõÖÁ¿ÉÒÔÌṩ300 PFLOP µÄ BF16 ÅÌËãÄÜÁ¦£¬£¬£¬ÏÕЩÊÇ GB200 NVL72 µÄÁ½±¶¡£¡£¡£ ¡£ÒÀ¸½Áè¼Ý3.6 ±¶µÄ×ÜÄÚ´æÈÝÁ¿ºÍ2.1 ±¶µÄÄÚ´æ´ø¿í£¬£¬£¬ÖйúÏÖÔÚ¿ÉÄÜÓµÓÐÓâÔ½Nvidia µÄAI ϵͳÄÜÁ¦¡£¡£¡£ ¡£
ÆäΨһµÄÈõµãÊÇ£¬£¬£¬ËüÐèÒª4.1 ±¶ GB200 NVL72 µÄ¹¦ÂÊ£¬£¬£¬Ã¿ FLOP µÄ¹¦Âʲî 2.5 ±¶£¬£¬£¬Ã¿ TB/s ÄÚ´æ´ø¿íµÄ¹¦Âʲî 1.9 ±¶£¬£¬£¬Ã¿ TB HBM ÄÚ´æÈÝÁ¿µÄ¹¦Âʲî 1.2 ±¶¡£¡£¡£ ¡£
µ«ÄܺĶÔÖйú²¢²»ÊÇÒ»¸ö½¹µãµÄÏÞÖÆÒòËØ¡£¡£¡£ ¡£ÖйúÓµÓÐ×î´óµÄÌ«ÑôÄÜ¡¢Ë®µçºÍ·çµç×°»úÈÝÁ¿£¬£¬£¬ÏÖÔÚÔں˵簲ÅÅ·½ÃæÒ²´¦ÓÚÁìÏÈְ룬£¬£¬¶øÃÀ¹ú½öά³Ö×ÅÉÏÊÀ¼Í70ÄêÔ°²Åŵĺ˵ç¹æÄ£¡£¡£¡£ ¡£Öйú×Ô2011ÄêÒÔÀ´£¬£¬£¬ÐÂÔöµÄµçÍøÈÝÁ¿ÒÑÏ൱ÓÚÕû¸öÃÀ¹úµçÍø¹æÄ£¡£¡£¡£ ¡£
?¶þ¡¢ÏµÍ³¼¶»¥ÁªµÄ¹¹½¨?
²î±ðNvidia£¬£¬£¬»ªÎªSuperPodµÄScale Up»¥Áª½ÓÄÉÁËÈ¥ÍÈ«¹âµÄ¼Æ»®¡£¡£¡£ ¡£Ã¿¸öGPUÓÃ7¸ö400G LPO Sipho¹âÄ£¿£¿£¿£¿£¿£¿éÌṩµÄ2800Gbit/s´ø¿íÀ´ÊµÏÖScale Up»¥Áª£¬£¬£¬ºÏ¼Æ384ÕÅGPUÒ»¹²Í¨¹ý4¸öCloudEngine SwitchµÄµ¥²ã±âƽÍØÆËʵÏÖ»¥Áª¡£¡£¡£ ¡£
Scale UpËùÓÃLPO¹âÄ£¿£¿£¿£¿£¿£¿éÓÃÁ¿ºÏ¼Æ´ï5376Ö»¡£¡£¡£ ¡£´ÓGPU²à³ö·¢£¬£¬£¬Ò»¹²ÓÐ384ÕÅGPU*7¸öLPOÄ£¿£¿£¿£¿£¿£¿é/ÕÅ=2688¸öLPO¹âÄ£¿£¿£¿£¿£¿£¿é¡£¡£¡£ ¡£Switch²àµÄÓÃÁ¿ÓëGPU²àÒ»¶ÔһƥÅ䣬£¬£¬Ò²ÊÇ2688Ö»LPO¹âÄ£¿£¿£¿£¿£¿£¿é¡£¡£¡£ ¡£
¿ÉÊÇ£¬£¬£¬5000Óà¸ö¹âÄ£¿£¿£¿£¿£¿£¿éÓÃÓÚÀ©Õ¹¹æÄ£½«Òý·¢¿É¿¿ÐÔÎÊÌ⣬£¬£¬ÇÒÐèÒª¸ßÖÊÁ¿µÄÈÝ´íѵÁ·Èí¼þÀ´Ó¦¶ÔÔÆÔƶàµÄ¹âÄ£¿£¿£¿£¿£¿£¿é¡£¡£¡£ ¡£±ðµÄ£¬£¬£¬¼ÙÉèÿ¸ö400G LPO¹âÄ£¿£¿£¿£¿£¿£¿é±¾Ç®~200ÃÀÔª¡¢¹¦ºÄ~0.5W£¬£¬£¬ÄÇô³¬µÈ½ÚµãµÄÀ©Õ¹ÍøÂçµÄTCOԼĪ»áÊÇNVL72»ú¼ÜµÄ8±¶£¬£¬£¬¹¦ºÄÔò½«µÖ´ïºóÕßµÄ10±¶¡£¡£¡£ ¡£
2.Scale Out£º
ÔÚScale OutÍøÂ磬£¬£¬CM384½ÓÄÉÁ˶þ²ãÓÅ»¯ÍØÆË¡£¡£¡£ ¡£Leaf²ã£¬£¬£¬Ã¿¸öLeaf SwitchÓµÓÐ768¸ö400G¹âÄ£¿£¿£¿£¿£¿£¿é¶Ë¿Ú£¬£¬£¬ÆäÖÐ384¸ö¶Ë¿ÚÏòÏÂÅþÁ¬µ½384ÕÅGPU£¬£¬£¬ÏòÉϵÄ384¸ö¶Ë¿ÚÅþÁ¬µ½Spine Switch¡£¡£¡£ ¡£Spine²ã£¬£¬£¬Ã¿¸öSpine SwitchÆ¥ÅäGPUµÄÊýÄ¿ÊÇLeaf SwitchµÄ0.5±¶¡£¡£¡£ ¡£
Òò´ËScale Out»¥ÁªÖУ¬£¬£¬Ã¿¸öSuperPodÒ»¹²½«Óõ½384*1£¨GPU²à£©+384*2£¨Leaf²à£©+384*2*0.5£¨Spine²à£©=1536Ö»¹âÄ£¿£¿£¿£¿£¿£¿é¡£¡£¡£ ¡£
×ÛºÏÁ½²¿·ÖµÄ¹ÀËã¿ÉÒÔ»ñµÃ£¬£¬£¬ÔÚÕû¸öCM384µÄϵͳ¼¶»¥ÁªÖУ¬£¬£¬Ã¿¸öCloudMatrix PodµÄLPO¹âÄ£¿£¿£¿£¿£¿£¿é×ÜÓÃÁ¿µÖ´ïÁ˾ªÈ˵Ä6912Ö»¡£¡£¡£ ¡£
?Èý¡¢µ¥¿¨×é³ÉµÄ²ð½â?
Ϊ°ü¹ÜÖØ´óµÄϵͳ¼¶»¥ÁªµÃÒÔʵÏÖ£¬£¬£¬Ã¿ÕÅ»ù°åÉϾùÐèÒª´ó×ڵĻ¥ÁªÔª¼þ¡£¡£¡£ ¡£µ¥ÕÅ»ù°åºÏ¼Æ8ÕÅ910C GPU¡¢2ÕÅöïÅôCPU¡¢8ÕÅThor-2ºó¶ËÍø¿¨¡¢8*7Ö»Scale Up 400G LPO¹âÄ£¿£¿£¿£¿£¿£¿é£¨Ã¿ÕÅGPU¶ÔÓ¦7Ö»£©¡¢1*8Ö»Scale Out 400G LPO¹âÄ£¿£¿£¿£¿£¿£¿é¡¢2ÕÅ200GÇ°¶ËÍø¿¨¼°2¸öÇ°¶Ë200G¹âÄ£¿£¿£¿£¿£¿£¿é¡£¡£¡£ ¡£
ÓÉÓÚÖƳ̺ÍHBMÏÞÖÆ£¬£¬£¬910Cµ¥¿¨ÐÔÄܽöÓÐNvidia GB200µÄÈý·ÖÖ®Ò»¡£¡£¡£ ¡£µ«³¬´ó¹æÄ£µÄ¼¯ÈºÌî²¹Á˵¥±ø×÷Õ½ÄÜÁ¦µÄȱ·¦£¬£¬£¬»ùÓÚÇ¿Ê¢µÄͨѶÊÖÒÕ»ýÀÛ£¬£¬£¬»ªÎªÓû¥ÁªÌî²¹ÁËËãÁ¦µÄȱ¿Ú¡£¡£¡£ ¡£
?ËÄ¡¢½áÂÛ?
Semi Analysis¶ÔÕû¸öCloudMatrix384ϵͳµÄ¹¦ºÄ¾ÙÐÐÁËÏêϸԤ¼Æ¡£¡£¡£ ¡£ÓÉÓÚ×ÝÏòÀ©Õ¹ÓëºáÏòÀ©Õ¹ÍøÂç´ó¹æÄ£½ÓÄɹâÄ£¿£¿£¿£¿£¿£¿é£¬£¬£¬Õû¸ö°üÀ¨384ÕÅGPUµÄ¼¯Èº¹¦ºÄ¼«¸ß¡£¡£¡£ ¡£¼´±ã½ÓÄÉÁ˹¦ºÄ¸üµÍµÄÏßÐÔÖ±ÇýLPO¹âÄ£¿£¿£¿£¿£¿£¿é¼Æ»®£¬£¬£¬×ܹ¦ºÄÈÔÈ»ÁîÈËÊܾª¡£¡£¡£ ¡£µ¥¸öCM384³¬½Úµã¹¦ºÄ³¬500ǧÍߣ¬£¬£¬ÊÇӢΰ´ïGB200 NVL72»ú¼ÜµÄ4±¶ÒÔÉÏ¡£¡£¡£ ¡£µ«Í¬Ê±£¬£¬£¬Õû¸ö³¬½ÚµãÒ²ÌṩÁËÁè¼ÝNVL72³¬½Úµã70%µÄËãÁ¦¡£¡£¡£ ¡£
ÎÒÃÇÒÔΪ£¬£¬£¬Ò»·½Ã棬£¬£¬°ëµ¼Ì幤ҵϵͳÐÔÆ¿¾±µ¼ÖµÄÖƳ̺ÍÏȽøоƬÎÊÌâ¿ÉÒÔͨ¹ýϵͳ¼¶»¥ÁªÀ´Ìî²¹£¨ÎÞÂÛÊÇ»ùÓÚÈ«¹â¼Æ»®£¬£¬£¬ÕվɻùÓÚÍ£©£¬£¬£¬¶ÔËãÁ¦È±·¦ÎÊÌâʵÏÖ¡°ÇúÏ߾ȹú¡±¡£¡£¡£ ¡£ÁíÒ»·½Ã棬£¬£¬ÌØÁíÍâÓöȺ͵çÁ¦ÊÇÖйúΪÁË׷ƽÎ÷·½µÄÅÌËãÄÜÁ¦ËùÐèµÄÐëÒª±¾Ç®£¬£¬£¬Ïà½ÏÓÚ¹ú¼ÒÇå¾²ºÍAI¾ºÕùÉíλµÄÖ÷ÒªÐÔ£¬£¬£¬ÄÜÔ´µÄ¼ÛÇ®¶ÔÖйúÏà¶Ô¸üµÍ¡£¡£¡£ ¡£
»ùÓÚÇ¿Ê¢»¥ÁªÄÜÁ¦µÄÊÖÒÕÓÅÊÆ£¬£¬£¬ºÍ»ùÓÚ¹ú¼ÒÙ÷¸³µÄÄÜÔ´ÓÅÊÆ£¬£¬£¬½«ÔÚδÀ´À©´óÊý¾ÝÖÐÐĽڵã¹æÄ£ºÍËÙÂʵÄÀú³ÌÖУ¬£¬£¬³ÉΪÖйú¹«Ë¾¿ÉʹÓõÄÒªº¦ÒªËØ¡£¡£¡£ ¡£
https://semianalysis.com/2025/04/16/huawei-ai-cloudmatrix-384-chinas-answer-to-nvidia-gb200-nvl72/
