2015.8
我大概在4、5月间,听说了Win10免费升级的消息。于是一直很期待7月29日的到来。果然到了29日当天下午的时候,公司电脑就收到了升级的通知。然而由于网速不给力,当天并未对公司电脑进行升级。倒是晚上在家里的电脑上,虽然耗时2小时,但却一路顺利的升级成功。
Win10给人的第一感觉,其实和Win8差不多,只不过加了个更像Win7的开始菜单而已。不过既来之则安之,一段时间用下来,总算还是要比Win7强不少的。
又过了几天,公司的电脑也升级成功。正得意间,忽然发现VirtualBox在Win10下工作不正常。查了VirtualBox官网方知,其目前尚不支持Win10 Host。于是不得不重新降级到Win7。看来尝鲜也是有得有失的。对于工作用的电脑,有的时候够用就好,没必要什么都求新的。
2020.11
由于硬盘出了些故障,原来在备份分区准备着的Ghost镜像,恢复系统失败,不得不使用U盘启动并重装系统。
除非是从Win7升级,否则Win10强制要求硬盘是UEFI启动的。修改硬盘分区格式的方法如下:
https://docs.microsoft.com/zh-cn/windows-server/storage/disk-management/change-an-mbr-disk-into-a-gpt-disk
将MBR磁盘转换为GPT磁盘
应该说这次U盘安装Win10的体验还是不错的。MS官方提供了相关工具(Windows PE),一切都是傻瓜操作。不像早期的光盘安装,还要注意启动盘和数据盘的差异。当然U盘其实也存在这两者的差异问题,不过工具已经帮你处理好了。
这样一来,光盘确实是没啥用了,即使我的第一台PC的光驱,实际使用也不过数十次,更多的主要是用于重装系统,如今连这也用不着了。
最后,吐槽一下系统的体积,Win10启动需要8G以上的U盘,DVD看来也不够用了。
2021.11
最近电脑更新了Win11,升级顺利,暂时无感。
2022.9
最近使用HP打印机的扫描功能,发现怎么都用不了。后来查了资料,除了要装打印机驱动之外,还要把Windows Image Acquisition服务重新启动一下。
控制面板–管理工具–服务
简单来说,Linux Virtual Server就是把一个集群虚拟成一台机器。
参考:
http://www.linuxvirtualserver.org/zh/lvs1.html
章文嵩博士的LVS经典论文,非常值得一读。
LVS的代码已经集成进Linux内核,在net/netfilter/ipvs目录下。
http://www.cnblogs.com/xybaby/p/7867735.html
关于负载均衡的一切:总结与思考
网络虚拟化是一个相反的过程,即将一台机器虚拟成一个集群。
它和LVS不是相对的概念,而是相辅相成的:
1.对于用户来说,无论多大的集群,用起来都像一台机器一样。
2.对于集群内部来说,资源调度的颗粒度,从单台机器下移到单个实例(服务/VM/容器)。
这里的内容较多,仅列出关键术语,备查。
Software Defined Network,SDN
Open vSwitch,OVS
Overlay,顾名思义,上层的,或者说,业务层面的、用户层面的,overlay traffic 是指用户业务流量。
而与overlay所对应的是underlay,顾名思义,下层的,或者说,基础架构层,专门用于承载用户流量的传统的IP网络,只要可以提供IP包的转发即可。
leaf-spine
参考:
https://mp.weixin.qq.com/s/blU7ewaKiQowV8Yju5J4lA
云计算时代携程的网络架构变迁
https://mp.weixin.qq.com/s/zuTgPlNSUpUBp8eZUFMbPA
OpenStack的架构详解
https://www.cnblogs.com/bakari/p/8037105.html
网络虚拟化
https://www.cnblogs.com/bakari/p/8097439.html
从Bridge到OVS,探索虚拟交换机
https://zhuanlan.zhihu.com/p/29881248
数据中心网络架构浅谈(一)
https://zhuanlan.zhihu.com/p/29975418
数据中心网络架构浅谈(二)
https://zhuanlan.zhihu.com/p/30119950
数据中心网络架构浅谈(三)
https://zhuanlan.zhihu.com/p/64445886
数据中心网络架构浅谈(四)
https://blog.csdn.net/lonely_geek/article/details/104016887
OpenvSwitch(OVS)全面解读
https://mp.weixin.qq.com/s/XihwGVU-8QJORfvENhhLnA
图像传感器厂家大盘点(上)
https://mp.weixin.qq.com/s/wSgSZA2c0fP3E8JgHn6yRQ
AI时代的去马赛克算法
https://mp.weixin.qq.com/s/YKL0Cwp1l9_4lAj8knMIqQ
高级AI视觉算法是否还需要ISP?
https://mp.weixin.qq.com/s/x4cz9mW1HOF8rtRv4uqLCQ
门控相机:车载ADAS相机的未来?
https://mp.weixin.qq.com/s/qtBGRvwr0-ykaZhn6nWsfA
自动对焦技术的新发展
网线连接上万台机器的分布式计算,早已经被广泛用于数据中心。然而网线和内存的带宽差异巨大。一般将这种低带宽分布式计算称为松耦合,与之相对的是紧耦合。
显然,互联带宽没有显著高于内存带宽时,任何网络拓扑都没法扩展到非常多节点的紧耦合。
分布式节点太多一定会造成带宽问题。NVidia创造的紧耦合系统目前主流的尺度是单机8卡,当然也做过16卡的形态。大力出奇迹的规格是256卡的GH200,但是对应的全局带宽堆得相当夸张,否则就只是个松耦合系统。
紧耦合的AI集群被称为AI Factory,而松耦合的AI集群则被称为AI Cloud。前者偏重于极致的性能,而后者则主打多样性业务、低成本。
Scale Out是指Application可以在水平方向上扩展。一般对数据中心的应用而言,Scale out指的是当添加更多的机器时,应用仍然可以很好的利用这些机器的资源来提升自己的效率从而达到很好的扩展性。
Scale Up是指Application可以在垂直方向上扩展。一般对单台机器而言,Scale Up值得是当某个计算节点(机器)添加更多的CPU Cores,存储设备,使用更大的内存时,应用可以很充分的利用这些资源来提升自己的效率从而达到很好的扩展性。
生物学有个概念叫标度律,树不能超过130米,哥斯拉也不可能存在。单纯堆性能不够的卡是没有意义的,通信效率就挡住了。
从Scale层面来看,紧耦合是在单卡性能受到工艺/面积限制的情况下的Scale Up,而松耦合更多的是Scale Out。
Super Pod是一种高性能计算架构单元,通常由大量GPU通过高速互联(如NVLink)组成,形成一个逻辑上的单机系统。
Super Cluster是由多个Super Pod或其他计算节点通过网络(如InfiniBand或Ethernet)连接而成的更大规模计算系统。
集群线性加速比:把同样任务从M张GPU扩展到N张GPU时,实测总有效算力与理想线性增长之间的比值。
https://zhuanlan.zhihu.com/p/1952422612014699888
超节点是大模型基础设施的最优解吗?
https://zhuanlan.zhihu.com/p/1952744774143542334
从超节点到微节点:大模型需要什么样的基础设施?
https://zhuanlan.zhihu.com/p/1955200725576561559
基于灵衢(UB)的超节点架构白皮书走读
NCCL是Nvidia Collective multi-GPU Communication Library的简称,它是一个实现多GPU的collective communication通信库,可以在PCIe、Nvlink、InfiniBand上实现较高的通信速度。
官方文档:
https://docs.nvidia.com/deeplearning/nccl/user-guide/docs/index.html
nccl v1:支持单机多卡通信,不支持多机通信。
nccl v2:支持多机通信。
NCCL的每个Channel内部有8个Slot。每个Slot可以独立地处于不同的数据传输阶段。当Slot 0在传输第一块数据时,Slot 1可以准备第二块数据,Slot 2可以处理第三块数据……8个Slot在通信缓冲区上循环使用,形成一条持续流动的数据管道。
NCCL的IB传输中有一个精妙的设计:为每对Rank建立两条QP(Queue Pair),一条用于数据传输(正向QP),一条用于控制信号(反向QP传递CTS消息)。
数据传输需要高带宽,但能容忍一定延迟。控制信号需要低延迟,但只有几十个字节。如果混在同一条QP上,控制信号可能被排在大量数据包后面,产生队头阻塞(Head-of-Line Blocking)。
NVLS利用NVSwitch的硬件能力直接在交换机上做reduce运算——数据不需要到达GPU就能被处理。CollNet更进一步,利用InfiniBand交换机上的SHARP技术在网络层面做reduce。
参考:
https://www.zhihu.com/question/63219175
如何理解Nvidia英伟达的Multi-GPU多卡通信框架NCCL?
https://zhuanlan.zhihu.com/p/364816069
NCCL–GPU的collective communication通信技术
https://blog.csdn.net/TH_NUM/article/details/81479317
nvidia-nccl学习笔记
https://developer.nvidia.com/blog/fast-multi-gpu-collectives-nccl/
Fast Multi-GPU collectives with NCCL
https://zhuanlan.zhihu.com/p/701623664
由A800平台训练InternLM-7B无法收敛引发的思考
https://www.infoq.cn/article/3D4MsRVS8ZOtGCj7*krT
GPU通信技术初探
https://zhuanlan.zhihu.com/p/67785062
不止显卡!这些硬件因素也影响着你的深度学习模型性能
https://zhuanlan.zhihu.com/p/680702927
NVLink发展概述
https://zhuanlan.zhihu.com/p/2012261634530386254
GPU通信的文明密码:NCCL架构创新深度解析——当硅基世界映射碳基文明的底层逻辑

您的打赏,是对我的鼓励