[导读]↓推荐关注↓今天分享一篇内存性能优化的文章，文章用了大量精美的图深入浅出地分析了Linux内核slab性能优化的核心思想，slab是Linux内核小对象内存分配最重要的算法，文章分析了内存分配的各种性能问题（在不同的场景下面），并给出了这些问题的优化方案，这个对我们实现高性能内存...
↓推荐关注↓
今天分享一篇内存性能优化的文章，文章用了大量精美的图深入浅出地分析了Linux内核slab性能优化的核心思想
，slab
是Linux内核小对象内存分配最重要的算法，文章分析了内存分配的各种性能问题（在不同的场景下面），并给出了这些问题的优化方案，这个对我们实现高性能内存池算法
，或以后遇到内存性能问题的时候，有一定的启发，值得我们学习。
Linux内核的slab来自一种很简单的思想，即事先准备好一些会频繁分配，释放的数据结构。然而标准的slab实现太复杂且维护开销巨大，因此便分化出了更加小巧的slub，因此本文讨论的就是slub，后面所有提到slab的地方，指的都是slub。另外又由于本文主要描述内核优化方面的内容，因此想了解slab细节以及代码实现的请查看源码。
单CPU上单纯的slab
下图给出了单CPU上slab在分配和释放对象时的情景序列：
可以看出，非常之简单，而且完全达到了slab设计之初的目标。
扩展到多核心CPU
现在我们简单的将上面的模型扩展到多核心CPU，同样差不多的分配序列如下图所示：
我们看到，在只有单一slab的时候，如果多个CPU同时分配对象，冲突是不可避免的，解决冲突的几乎是唯一的办法就是加锁排队，然而这将大大增加延迟，我们看到，申请单一对象的整个时延从T0开始，到T4结束，这太久了。
多CPU无锁化并行化操作的直接思路-复制给每个CPU一套相同的数据结构。不二法门就是增加“每CPU变量”。对于slab而言，可以扩展成下面的样子：
如果以为这么简单就结束了，那这就太没有意义了。
问题
首先，我们来看一个简单的问题，如果单独的某个CPU的slab缓存没有对象可分配了，但是其它CPU的slab缓存仍有大量空闲对象的情况，如下图所示：
这是可能的，因为对单独一种slab的需求是和该CPU上执行的进程/线程紧密相关的，比如如果CPU0只处理网络，那么它就会对skb等数据结构有大量的需求，对于上图最后引出的问题，如果我们选择从伙伴系统中分配一个新的page(或者pages，取决于对象大小以及slab cache的order)，那么久而久之就会造成slab在CPU间分布的不均衡，更可能会因此吃掉大量的物理内存，这都是不希望看到的。
在继续之前，首先要明确的是，我们需要在CPU间均衡slab，并且这些必须靠slab内部的机制自行完成，这个和进程在CPU间负载均衡是完全不同的，对进程而言，拥有一个核心调度机制，比如基于时间片，或者虚拟时钟的步进速率等，但是对于slab，完全取决于使用者自身，只要对象仍然在使用，就不能剥夺使用者继续使用的权利，除非使用者自己释放。因此slab的负载均衡必须设计成合作型的，而不是抢占式的。
好了。现在我们知道，从伙伴系统重新分配一个page(s)并不是一个好主意，它应该是最终的决定，在执行它之前，首先要试一下别的路线。
现在，我们引出第二个问题，如下图所示：
谁也不能保证分配slab对象的CPU和释放slab对象的CPU是同一个CPU，谁也不能保证一个CPU在一个slab对象的生命周期内没有分配新的page(s)，这期间的复杂操作谁也没有规定。这些问题该怎么解决呢？事实上，理解了这些问题是怎么解决的，一个slab框架就彻底理解了。
问题的解决-分层slab cache
无级变速总是让人向往。如果一个CPU的slab缓存满了，直接去抢同级别的别的CPU的slab缓存被认为是一种鲁莽且不道义的做法。那么为何不设置另外一个slab缓存，获取它里面的对象不像直接获取CPU的slab缓存那么简单且直接，但是难度却又不大，只是稍微增加一点消耗，这不是很好吗？
事实上，CPU的L1，L2，L3 cache不就是这个方案设计的吗？这事实上已经成为cache设计的不二法门。这个设计思想同样作用于slab，就是Linux内核的slub实现，现在可以给出概念和解释了。
-
Linux kernel slab cache：一个分为3层的对象cache模型。
-
Level 1 slab cache：一个空闲对象链表，每个CPU一个的独享cache，分配释放对象无需加锁。
-
Level 2 slab cache：一个空闲对象链表，每个CPU一个的共享page(s) cache，分配释放对象时仅需要锁住该page(s)，与Level 1 slab cache互斥，不互相包容。
-
Level 3 slab cache：一个page(s)链表，每个NUMA NODE的所有CPU共享的cache，单位为page(s)，获取后被提升到对应CPU的Level 1 slab cache，同时该page(s)作为Level 2的共享page(s)存在。
-
共享page(s)：该page(s)被一个或者多个CPU占有，每一个CPU在该page(s)上都可以拥有互相不充图的空闲对象链表，该page(s)拥有一个唯一的Level 2 slab cache空闲链表，该链表与上述一个或多个Level 1 slab cache空闲链表亦不冲突，多个CPU获取该Level 2 slab cache时必须争抢，获取后可以将该链表提升成自己的Level 1 slab cache。
该slab cache的图示如下：
其行为如下图所示：
2个场景
对于常规的对象分配过程，下图展示了其细节：事实上，对于多个CPU共享一个page(s)的情况，还可以有另一种玩法，如下图所示：
伙伴系统
前面我们简短的体会了Linux内核的slab设计,不宜过长,太长了不易理解.但是最后,如果Level 3也没有获取page(s)，那么最终会落到终极的伙伴系统，伙伴系统是为了防内存分配碎片化的，所以它尽可能地做两件事：
-
尽量分配尽可能大的内存
-
尽量合并连续的小块内存成一块大内存
我们可以通过下面的图解来理解上面的原则：
注意，本文是关于优化的，不是伙伴系统的科普，所以我假设大家已经理解了伙伴系统。
鉴于slab缓存对象大多数都是不超过1个页面的小结构(不仅仅slab系统，超过1个页面的内存需求相比1个页面的内存需求，很少)，因此会有大量的针对1个页面的内存分配需求。
从伙伴系统的分配原理可知，如果持续大量分配单一页面，会有大量的order大于0的页面分裂成单一页面，在单核心CPU上，这不是问题，但是在多核心CPU上，由于每一个CPU都会进行此类分配，而伙伴系统的分裂，合并操作会涉及大量的链表操作，这个锁开销是巨大的，因此需要优化！
Linux内核对伙伴系统针对单一页面的分配需求采取的批量分配“每CPU单一页面缓存”的方式！每一个CPU拥有一个单一页面缓存池，需要单一页面的时候，可以无需加锁从当前CPU对应的页面池中获取页面。而当池中页面不足时，系统会批量从伙伴系统中拉取一堆页面到池中，反过来，在单一页面释放的时候，会择优将其释放到每CPU的单一页面缓存中。
为了维持“每CPU单一页面缓存”中页面的数量不会太多或太少(太多会影响伙伴系统，太少会影响CPU的需求)，系统保持了两个值，当缓存页面数量低于low值的时候，便从伙伴系统中批量获取页面到池中，而当缓存页面数量大于high的时候，便会释放一些页面到伙伴系统中。
小结
多CPU操作系统内核中，关键的开销就是锁的开销。我认为这是一开始的设计导致的，因为一开始，多核CPU并没有出现，单核CPU上的共享保护几乎都是可以用“禁中断”，“禁抢占”来简单实现的，到了多核时代，操作系统同样简单平移到了新的平台，因此同步操作是在单核的基础上后来添加的。
简单来讲，目前的主流操作系统都是在单核年代创造出来的，因此它们都是顺应单核环境的，对于多核环境，可能它们一开始的设计就有问题。
不管怎么说，优化操作的不二法门就是禁止或者尽量减少锁的操作。随之而来的思路就是为共享的关键数据结构创建"每CPU的缓存“，而这类缓存分为两种类型：1. 数据通路缓存
比如路由表之类的数据结构，你可以用RCU锁来保护，当然如果为每一个CPU都创建一个本地路由表缓存，也是不错的，现在的问题是何时更新它们，因为所有的缓存都是平级的，因此一种批量同步的机制是必须的。2. 管理机制缓存
比如slab对象缓存这类，其生命周期完全取决于使用者，因此不存在同步问题，然而却存在管理问题。采用分级cache的思想是好的，这个非常类似于CPU的L1/L2/L3缓存，采用这种平滑的开销逐渐增大，容量逐渐增大的机制，并配合以设计良好的换入/换出等算法，效果是非常明显的。
转自：极客重生
- EOF -
本站声明： 本文章由作者或相关机构授权发布，目的在于传递更多信息，并不代表本站赞同其观点，本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者，如若文章内容侵犯您的权益，请及时联系本站删除。
三星宣布，其最新的LPDDR5X内存已通过验证，可在骁龙（Snapdragon）移动平台上使用，该内存速度可达到当前业界最快的8.5 千兆比特每秒（Gbps）。通过优化应用处理器和存储器之间的高速信号环境，三星超过了自身...
关键字：
GBPS
三星
内存
LPDDR5
（全球TMT2022年10月18日讯）三星宣布，其最新的LPDDR5X内存已通过验证，可在骁龙（Snapdragon）移动平台上使用，该内存速度可达到当前业界最快的8.5 千兆比特每秒（Gbps）。通过优化应用处理器和...
关键字：
GBPS
三星
亚马逊
内存
在三星 Tech Day 2022 活动上，三星电子总裁兼内存业务负责人 Jung-bae Lee 表示，三星 40 多年来共生产了 1 万亿 GB 内存，仅在过去三年中就产生了大约一半。
关键字：
三星
内存
储存芯片
搁在四五年前，板载内存极大可能会被用户视为一台轻薄本的缺点，其实这也很好理解，板载内存无法扩容，而且当时内存容量并不大，板载内存的频率也普遍偏低，性能稍差，所以很多朋友选购轻薄本的时候，都会避开板载内存。
关键字：
板载
内存
半导体
摘要:对步进电机优化研究的必要性、特点进行了阐述,并详细介绍了步进电机的设计方法。以某卫星天线驱动用步进电机为基础,分析了不同的转子结构、电磁参数对步进电机性能的影响,并进行了性能优化研究。
关键字：
磁钢厚度
铁芯迭长
性能优化
继DDR5 DRAM成为英特尔“Alder Lake”第12代处理器的标准配置之后，AMD近日也宣布其7000系列处理器将支持DDR5内存，并在9月27日正式上市。AMD表示，该平台将不再支持DDR4，只支持DDR5产品...
关键字：
DDR5
内存
三星
GRL通过与FuturePlus的合作伙伴关系，扩大了全球七个实验室所提供的DDR和LPDDR内存测试服务组合 加利福尼亚州圣克拉拉市2022年9月15日 /美...
关键字：
DDR
FUTURE
SYSTEMS
内存
上海2022年9月1日 /美通社/ -- 澜起科技宣布在业界率先推出DDR5第一子代时钟驱动器（简称CKD或DDR5CK01）工程样片，并已送样给业界主流内存厂商，该产品将用于新一代台式机和笔记本电脑的内存。 澜起科技...
关键字：
DDR
驱动器
时钟驱动
内存
（全球TMT2022年9月1日讯）IMAX中国宣布2022年暑期档IMAX总票房达到3.03亿元人民币，较去年同期大幅增长34%。与此同时，2022年全国暑期档票房达到92亿元，较去年增长24%。目前全国有680家IM...
关键字：
亚马逊
DDR
内存
安集科技
（全球TMT2022年8月23日讯）科大讯飞披露2022年半年度报告，上半年实现营业收入为80.23亿元，同比增长26.97%；归母净利润2.78亿元，同比下滑33.57%。 云米发布截至6月30日的20...
关键字：
科大讯飞
内存
VR
AI
北京2022年8月22日 /美通社/ -- 前言： 在企业数字化转型的今天，数据已经成为企业赖以生存的基础。数据的丢失或者损坏将会给企业带来无法估量的损失。因此如何进行数据保护与保障数据一致性成为必须面对的挑战...
关键字：
内存
虚拟化
OPENSTACK
OS
（全球TMT2022年8月2日讯）XLR8 Gaming EPIC-X RGB™ Silver DDR4内存专为游戏玩家和发烧友设计，提供出色的 RGB 设计，结合极致超频性能，将玩家的电脑效能发挥到极致...
关键字：
内存
台式机
灯光
DDR4
新竹2022年8月2日 /美通社/ -- XLR8 Gaming EPIC-X RGB™ Silver DDR4内存专为游戏玩家和发烧友设计，提供出色的 RGB 设计，结合极致超频性能，将玩家的电脑效能发挥到极致。 X...
关键字：
内存
台式机
灯光
DDR4
（全球TMT2022年7月25日讯）浪潮信息官网显示，NF5468A5正在进行"超值机型 限免试用"活动，对算力有强大需求的用户都可以免费申请。NF5468A5是浪潮信息推出的一款面向AI训练、AI推理、HPC、视频处...
关键字：
GPU
内存
带宽
HP
近年来，芯片的全球供需平衡大受市场关心。进入2022年以来，芯片议题从短缺转移至过剩，周期“换季”比很多人想象中要快。
关键字：
内存
芯片
三星SK
据供应链最新消息称，苹果将在下月开始量产iPhone 14系列，不过他们目前陷入了困难，因为部分物料的供应短缺。
关键字：
面板
内存
苹果
苹果14
（全球TMT2022年6月16日）浪潮信息作针对企业业务、办公等不同场景优化，推出更高性价比的2U双路服务器NF5270M6，适用于小型虚拟化、数据库，办公OA系统等应用场景。 NF5270M6在2U...
关键字：
SATA
内存
波导
BIOS
北京2022年6月14日 /美通社/ -- 随着数字化时代的发展，企业的数字化转型将迈向纵深，算力的需求与日俱增。在线教育、在线办公、直播购物、智能制造等应用场景爆发式增长，对算力的需求也变得更加多元化和精细化。浪潮信息...
关键字：
内存
波导
数据中心
数字化
这导致我们想及时收到这些 App 的通知就必须让它们常驻在后台，为了保证后台常驻多个 App 后系统还能流畅运行，安卓机只能用上更大的内存。
关键字：
iPhone
4GB
内存
6月3日消息，据外媒报道，苹果将于9月发布的iPhone 14全系机型都将配备6GB内存。iPhone 14 Pro机型将升级到更快、更省电的RAM类型，称为LPDDR5。而标准iPhone 14和iPhone 14 M...
关键字：
iPhone 14
内存
LPDDR5
下载文档
