richiefang的个人空间动态-电子工程世界

动态发布点评好友关于

2024-11-24
回复了主题帖： #没读懂#关于Nvidia GH100内部SM架构相关问题

L0缓存只能由象限内共用
回复了主题帖： #没读懂#关于Nvidia DGX A100 内部部件的问题

9+1的9是一张业务网卡和8张RDMA网卡。1是可选配的存储网卡
回复了主题帖： #聊一聊#NVidia DGX A100 PCI-E子系统解决SW的upstream通道成为性能瓶颈问题

由于GPU到RDMA网卡的操作无需经过CPU，所以通过PCI-E Switch的办法旁路掉CPU里面的PCI-E Root Complex，让GPU到RDMA网卡直通。
回复了主题帖： #没读懂#《大模型时代的基础架构》关于GPU跨节点异号卡数据交换路径

ltaodream 发表于 2024-9-24 16:23 既然GPU层面不支持，那是否可以在代码层面实现这种数据传输控制呢，比如使用一些gpu通信库，或者进行通信 ... GPU内部不具备数据路由功能，所以不能通过通信库实现NVLink的多跳转发
2024-09-22
回复了主题帖： #没读懂#《大模型时代的基础架构》关于GPU跨节点异号卡数据交换路径

不同编号的GPU卡，跨GPU服务器节点的通信，只能通过上一层交换机（一般称为spine, 或核心层）转发，这是因为GPU卡本身是不具备GPU Direct Memory的路由功能的。GPU Direct Memory也不支持跨卡的路由，只能两张卡直通。