* [PATCH v3 0/2] docs/zh_CN: add vm page_migration translation
@ 2022-05-16 15:56 Yanteng Si
2022-05-16 15:56 ` [PATCH v3 1/2] " Yanteng Si
2022-05-16 15:56 ` [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation Yanteng Si
0 siblings, 2 replies; 6+ messages in thread
From: Yanteng Si @ 2022-05-16 15:56 UTC (permalink / raw)
To: corbet, alexs, bobwxc, seakeel
Cc: Yanteng Si, chenhuacai, jiaxun.yang, linux-doc, siyanteng01
v3:
Modify some words under Xiangcheng's advice.
v2:
Resolving conflicts on next-20220513.
v1:
Translate .../vm/page_migration.rst and .../vm/vmalloced-kernel-stacks.rst into Chinese.
Yanteng Si (2):
docs/zh_CN: add vm page_migration translation
docs/zh_CN: add vm vmalloced-kernel-stacks translation
Documentation/translations/zh_CN/vm/index.rst | 4 +-
.../translations/zh_CN/vm/page_migration.rst | 228 ++++++++++++++++++
.../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++
3 files changed, 363 insertions(+), 2 deletions(-)
create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst
create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
--
2.27.0
^ permalink raw reply [flat|nested] 6+ messages in thread
* [PATCH v3 1/2] docs/zh_CN: add vm page_migration translation
2022-05-16 15:56 [PATCH v3 0/2] docs/zh_CN: add vm page_migration translation Yanteng Si
@ 2022-05-16 15:56 ` Yanteng Si
2022-05-17 3:24 ` Wu X.C.
2022-05-16 15:56 ` [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation Yanteng Si
1 sibling, 1 reply; 6+ messages in thread
From: Yanteng Si @ 2022-05-16 15:56 UTC (permalink / raw)
To: corbet, alexs, bobwxc, seakeel
Cc: Yanteng Si, chenhuacai, jiaxun.yang, linux-doc, siyanteng01
Translate .../vm/page_migration.rst into Chinese.
Signed-off-by: Yanteng Si <siyanteng@loongson.cn>
---
Documentation/translations/zh_CN/vm/index.rst | 2 +-
.../translations/zh_CN/vm/page_migration.rst | 228 ++++++++++++++++++
2 files changed, 229 insertions(+), 1 deletion(-)
create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst
diff --git a/Documentation/translations/zh_CN/vm/index.rst b/Documentation/translations/zh_CN/vm/index.rst
index a1c6d529b6ff..551f58bf7b55 100644
--- a/Documentation/translations/zh_CN/vm/index.rst
+++ b/Documentation/translations/zh_CN/vm/index.rst
@@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处)
numa
overcommit-accounting
page_frags
+ page_migration
page_owner
page_table_check
remap_file_pages
@@ -47,7 +48,6 @@ TODOLIST:
* arch_pgtable_helpers
* free_page_reporting
* hugetlbfs_reserv
-* page_migration
* slub
* transhuge
* unevictable-lru
diff --git a/Documentation/translations/zh_CN/vm/page_migration.rst b/Documentation/translations/zh_CN/vm/page_migration.rst
new file mode 100644
index 000000000000..417861fbc3e0
--- /dev/null
+++ b/Documentation/translations/zh_CN/vm/page_migration.rst
@@ -0,0 +1,228 @@
+.. include:: ../disclaimer-zh_CN.rst
+
+:Original: Documentation/vm/index.rst
+
+:翻译:
+
+ 司延腾 Yanteng Si <siyanteng@loongson.cn>
+
+:校译:
+
+========
+页面迁移
+========
+
+页面迁移允许在进程运行时在NUMA系统的节点之间移动页面的物理位置。这意味着进程所看到的虚拟地
+址并没有改变。然而,系统会重新安排这些页面的物理位置。
+
+也可以参见 :ref: `<异构内存管理 (HMM)>` 以了解将页面迁移到设备私有内存或从设备私有内存中迁移。
+
+页面迁移的主要目的是通过将页面移到访问该内存的进程所运行的处理器附近来减少内存访问的延迟。
+
+页面迁移允许进程通过MF_MOVE和MF_MOVE_ALL选项手动重新定位其页面所在的节点,同时通过
+mbind()设置一个新的内存策略。一个进程的页面也可以通过sys_migrate_pages()函数调用从另
+一个进程重新定位。migrate_pages()函数调用接收两组节点,并将一个进程位于旧节点上的页面移
+动到目标节点上。页面迁移功能由Andi Kleen的numactl包提供(需要0.9.3以上的版本,其仓库
+地址https://github.com/numactl/numactl.git)。numactl提供了libnuma,它为页面迁移
+提供了与其他NUMA功能类似的接口。执行 cat ``/proc/<pid>/numa_maps`` 允许轻松查看进
+程的页面位置。参见proc(5)手册中的numa_maps文档。
+
+如果调度程序将一个进程重新安置到一个遥远的节点上的处理器,手动迁移是很有用的。批量调度程序
+或管理员可以检测到这种情况,并将进程的页面移到新处理器附近。内核本身只提供手动的页迁移支持。
+自动的页面迁移可以通过用户空间的进程移动页面来实现。一个特殊的函数调用 "move_pages" 允许
+在一个进程中移动单个页面。例如,NUMA分析器可以获得一个显示频繁的节点外访问的日志,并可以使
+用这个结果将页面移动到更有利的位置。
+
+较大型的设备通常使用cpusets将系统分割成若干个节点。Paul Jackson为cpusets配备了当任务被
+转移到另一个cpuset时移动页面的能力(见:ref:`CPUSETS <cpusets>`)。Cpusets允许进程定
+位的自动化。如果一个任务被移到一个新的cpuset上,那么它的所有页面也会随之移动,这样进程的
+性能就不会急剧下降。如果cpuset允许的内存节点发生变化,cpuset中的进程页也会被移动。
+
+页面迁移允许为所有迁移技术保留一组节点中页面的相对位置,这将保留生成的特定内存分配模式即使
+进程已被迁移。为了保留内存延迟,这一点是必要的。迁移后的进程将以类似的性能运行。
+
+页面迁移分几个步骤进行。首先为那些试图从内核中使用migrate_pages()的进程做一个高层次的
+描述(对于用户空间的使用,可以参考上面提到的Andi Kleen的numactl包),然后对低水平的细
+节工作做一个低水平描述。
+
+在内核中使用 migrate_pages()
+============================
+
+1. 从LRU中移除页面。
+
+ 要迁移的页面列表是通过扫描页面并把它们移到列表中来生成的。这是通过调用 isolate_lru_page()
+ 来完成的。调用isolate_lru_page()增加了对该页的引用,这样在页面迁移发生时它就不会
+ 消失。它还可以防止交换器或其他扫描器遇到该页。
+
+
+2. 我们需要有一个new_page_t类型的函数,可以传递给migrate_pages()。这个函数应该计算
+ 出如何在给定的旧页面中分配正确的新页面。
+
+3. migrate_pages()函数被调用,它试图进行迁移。它将调用该函数为每个被考虑迁移的页面分
+ 配新的页面。
+
+migrate_pages()如何工作
+=======================
+
+migrate_pages()对它的页面列表进行了多次处理。如果当时对一个页面的所有引用都可以被移除,
+那么这个页面就会被移动。该页已经通过isolate_lru_page()从LRU中移除,并且refcount被
+增加,以便在页面迁移发生时不释放该页。
+
+步骤:
+
+1. 锁定要迁移的页面。
+
+2. 确保回写已经完成。
+
+3. 锁定我们要迁移到的新页面。锁定它是为了在迁移过程中立即阻止对这个(尚未更新的)页面的
+ 访问。
+
+4. 所有对该页的页表引用都被转换为迁移条目。这就减少了一个页面的mapcount。如果产生的
+ mapcount不是零,那么我们就不迁移该页。所有试图访问该页的用户空间进程现在将等待页
+ 面锁或者等待迁移页表项被移除。
+
+5. i_pages的锁被持有。这将导致所有试图通过映射访问该页的进程在自旋锁上阻塞。
+
+6. 检查该页的Refcount,如果还有引用,我们就退出。否则,我们知道我们是唯一引用这个页
+ 面的人。
+
+7. 检查基数树,如果它不包含指向这个页面的指针,那么我们就退出,因为其他人修改了基数树。
+
+8. 新的页面要用旧的页面的一些设置进行预处理,这样访问新的页面就会发现一个具有正确设置
+ 的页面。
+
+9. 基数树被改变以指向新的页面。
+
+10. 旧页的引用计数被删除,因为地址空间的引用已经消失。对新页的引用被建立,因为新页被
+ 地址空间引用。
+
+11. i_pages锁被放弃。这样一来,在映射中的查找又变得可能了。进程将从在锁上自旋到在
+ 被锁的新页上睡眠。
+
+12. 页面内容被复制到新的页面上。
+
+13. 剩余的页面标志被复制到新的页面上。
+
+14. 旧的页面标志被清除,以表明该页面不再提供任何信息。
+
+15. 新页面上的回写队列被触发了。
+
+16. 如果迁移条目被插入到页表中,那么就用真正的ptes替换它们。这样做将使那些尚未等待页
+ 锁的用户空间进程能够访问。
+
+17. 页面锁从新旧页面上被撤销。等待页锁的进程将重做他们的缺页异常,并将到达新的页面。
+
+18. 新的页面被移到LRU中,可以被交换器等再次扫描。
+
+非LRU页面迁移
+=============
+
+尽管迁移最初的目的是为了减少NUMA的内存访问延迟,但压缩也使用迁移来创建高阶页面。
+
+目前实现的问题是,它被设计为只迁移*LRU*页。然而,有一些潜在的非LRU页面可以在驱动中
+被迁移,例如,zsmalloc,virtio-balloon页面。
+
+对于virtio-balloon页面,迁移代码路径的某些部分已经被钩住,并添加了virtio-balloon
+的特定函数来拦截迁移逻辑。这对一个驱动来说太特殊了,所以其他想让自己的页面可移动的驱
+动就必须在迁移路径中添加自己的特定钩子。
+
+为了克服这个问题,VM支持非LRU页面迁移,它为非LRU可移动页面提供了通用函数,而在迁移
+路径中没有特定的驱动程序钩子。
+
+如果一个驱动程序想让它的页面可移动,它应该定义三个函数,这些函数是
+struct address_space_operations的函数指针。
+
+1. ``bool (*isolate_page) (struct page *page, isolate_mode_t mode);``
+
+ VM对驱动的isolate_page()函数的期望是,如果驱动成功隔离了该页,则返回×true×。
+ 返回true后,VM会将该页标记为PG_isolated,这样多个CPU的并发隔离就会跳过该
+ 页进行隔离。如果驱动程序不能隔离该页,它应该返回*false*。
+
+ 一旦页面被成功隔离,VM就会使用page.lru字段,因此驱动程序不应期望保留这些字段的值。
+
+2. ``int (*migratepage) (struct address_space *mapping,``
+| ``struct page *newpage, struct page *oldpage, enum migrate_mode);``
+
+ 隔离后,虚拟机用隔离的页面调用驱动的migratepage()。migratepage()的功能是将旧页
+ 的内容移动到新页,并设置struct page newpage的字段。请记住,如果你成功迁移了旧页
+ 并返回MIGRATEPAGE_SUCCESS,你应该通过page_lock下的__ClearPageMovable()向虚
+ 拟机表明旧页不再可移动。如果驱动暂时不能迁移该页,驱动可以返回-EAGAIN。在-EAGAIN
+ 时,VM会在短时间内重试页面迁移,因为VM将-EAGAIN理解为 "临时迁移失败"。在返回除
+ -EAGAIN以外的任何错误时,VM将放弃页面迁移而不重试。
+
+ 在migratepage()函数中,驱动程序不应该接触page.lru字段。
+
+3. ``void (*putback_page)(struct page *);``
+
+ 如果在隔离页上迁移失败,VM应该将隔离页返回给驱动,因此VM用隔离页调用驱动的
+ putback_page()。在这个函数中,驱动应该把隔离页放回自己的数据结构中。
+
+非LRU可移动页标志
+
+ 有两个页面标志用于支持非LRU可移动页面。
+
+ * PG_movable
+
+ 驱动应该使用下面的函数来使页面在page_lock下可移动。::
+
+ void __SetPageMovable(struct page *page, struct address_space *mapping)
+
+ 它需要address_space的参数来注册将被VM调用的migration family函数。确切地说,
+ PG_movable不是struct page的一个真正的标志。相反,VM复用了page->mapping的低
+ 位来表示它::
+
+ #define PAGE_MAPPING_MOVABLE 0x2
+ page->mapping = page->mapping | PAGE_MAPPING_MOVABLE;
+
+ 所以驱动不应该直接访问page->mapping。相反,驱动应该使用page_mapping(),它可
+ 以在页面锁下屏蔽掉page->mapping的低2位,从而获得正确的struct address_space。
+
+ 对于非LRU可移动页面的测试,VM支持__PageMovable()函数。然而,它并不能保证识别
+ 非LRU可移动页面,因为page->mapping字段与struct page中的其他变量是统一的。如
+ 果驱动程序在被虚拟机隔离后释放了页面,尽管page->mapping设置了PAGE_MAPPING_MOVABLE,
+ 但它并没有一个稳定的值(看看__ClearPageMovable)。但是__PageMovable()在页
+ 面被隔离后,无论页面是LRU还是非LRU可移动的,调用它开销都很低,因为LRU页面在
+ page->mapping中不可能有PAGE_MAPPING_MOVABLE设置。在用pfn扫描中的lock_page()
+ 进行更大开销的检查来选择受害者之前,它也很适合只是瞥一眼来测试非LRU可移动的页面。
+
+ 为了保证非LRU的可移动页面,VM提供了PageMovable()函数。与__PageMovable()不
+ 同,PageMovable()在lock_page()下验证page->mapping和
+ mapping->a_ops->isolate_page。lock_page()可以防止突然破坏page->mapping。
+
+ 使用__SetPageMovable()的驱动应该在释放页面之前通过page_lock()下的
+ __ClearMovablePage()清除该标志。
+
+ * PG_isolated
+
+ 为了防止几个CPU同时进行隔离,VM在lock_page()下将隔离的页面标记为PG_isolated。
+ 因此,如果一个CPU遇到PG_isolated非LRU可移动页面,它可以跳过它。驱动程序不需要
+ 操作这个标志,因为VM会自动设置/清除它。请记住,如果驱动程序看到PG_isolated页,
+ 这意味着VM已经被虚拟机隔离,所以它不应该碰page.lru字段。PG_isolated标志与
+ PG_reclaim标志是同义的,所以驱动程序不应该为自己的目的使用PG_isolated。
+
+监测迁移
+========
+
+以下事件(计数器)可用于监控页面迁移。
+
+1. PGMIGRATE_SUCCESS: 正常的页面迁移成功。每个计数器意味着一个页面被迁移了。如果该
+ 页是一个非THP和非hugetlb页,那么这个计数器会增加1。如果该页面是一个THP或hugetlb
+ 页面,那么这个计数器会随着THP或hugetlb子页面的数量而增加。例如,迁移一个有4KB大小
+ 的基础页(子页)的2MB THP,将导致这个计数器增加512。
+
+2. PGMIGRATE_FAIL: 正常的页面迁移失败。与上面PGMIGRATE_SUCCESS的计数规则相同:如
+ 果是THP或hugetlb,这个计数将被子页的数量增加。
+
+3. THP_MIGRATION_SUCCESS: 一个THP被迁移而没有被分割。
+
+4. THP_MIGRATION_FAIL: 一个THP不能被迁移,也不能被分割。
+
+5. THP_MIGRATION_SPLIT: 一个THP被迁移了,但不是这样的:首先,这个THP必须被分割。
+ 在拆分之后,对它的子页面进行了迁移重试。
+
+THP_MIGRATION_* 事件也会更新相应的PGMIGRATE_SUCCESS或PGMIGRATE_FAIL事件。
+例如,一个THP迁移失败将导致THP_MIGRATION_FAIL和PGMIGRATE_FAIL增加。
+
+Christoph Lameter,2006年5月8日。
+
+Minchan Kim,2016年3月28日。
--
2.27.0
^ permalink raw reply related [flat|nested] 6+ messages in thread
* [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation
2022-05-16 15:56 [PATCH v3 0/2] docs/zh_CN: add vm page_migration translation Yanteng Si
2022-05-16 15:56 ` [PATCH v3 1/2] " Yanteng Si
@ 2022-05-16 15:56 ` Yanteng Si
2022-05-17 3:27 ` Wu X.C.
1 sibling, 1 reply; 6+ messages in thread
From: Yanteng Si @ 2022-05-16 15:56 UTC (permalink / raw)
To: corbet, alexs, bobwxc, seakeel
Cc: Yanteng Si, chenhuacai, jiaxun.yang, linux-doc, siyanteng01
Translate .../vm/vmalloced-kernel-stacks.rst into Chinese.
Signed-off-by: Yanteng Si <siyanteng@loongson.cn>
---
Documentation/translations/zh_CN/vm/index.rst | 2 +-
.../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++++++++++
2 files changed, 134 insertions(+), 1 deletion(-)
create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
diff --git a/Documentation/translations/zh_CN/vm/index.rst b/Documentation/translations/zh_CN/vm/index.rst
index 551f58bf7b55..d9ac73159dbc 100644
--- a/Documentation/translations/zh_CN/vm/index.rst
+++ b/Documentation/translations/zh_CN/vm/index.rst
@@ -41,6 +41,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处)
page_table_check
remap_file_pages
split_page_table_lock
+ vmalloced-kernel-stacks
z3fold
zsmalloc
@@ -51,4 +52,3 @@ TODOLIST:
* slub
* transhuge
* unevictable-lru
-* vmalloced-kernel-stacks
diff --git a/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst b/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
new file mode 100644
index 000000000000..ad23f274f6d7
--- /dev/null
+++ b/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
@@ -0,0 +1,133 @@
+.. SPDX-License-Identifier: GPL-2.0
+.. include:: ../disclaimer-zh_CN.rst
+
+:Original: Documentation/vm/vmalloced-kernel-stacks.rst
+
+:翻译:
+
+ 司延腾 Yanteng Si <siyanteng@loongson.cn>
+
+:校译:
+
+====================
+支持虚拟映射的内核栈
+====================
+
+:作者: Shuah Khan <skhan@linuxfoundation.org>
+
+.. contents:: :local:
+
+概览
+----
+
+这是介绍 `虚拟映射内核栈功能 <https://lwn.net/Articles/694348/>` 的代码
+和原始补丁系列的信息汇总。
+
+简介
+----
+
+内核堆栈溢出通常难以调试,并使内核容易被(恶意)利用。问题可能在稍后的时间出现,使其难以
+隔离和究其根本原因。
+
+带有保护页的虚拟映射内核堆栈如果溢出,会被立即捕获,而不会放任其导致难以诊断的损
+坏。
+
+HAVE_ARCH_VMAP_STACK和VMAP_STACK配置选项能够支持带有保护页的虚拟映射堆栈。
+当堆栈溢出时,这个特性会引发可靠的异常。溢出后堆栈跟踪的可用性以及对溢出本身的
+响应取决于架构。
+
+.. note::
+ 截至本文撰写时, arm64, powerpc, riscv, s390, um, 和 x86 支持VMAP_STACK。
+
+HAVE_ARCH_VMAP_STACK
+--------------------
+
+能够支持虚拟映射内核栈的架构应该启用这个bool配置选项。要求是:
+
+- vmalloc空间必须大到足以容纳许多内核堆栈。这可能排除了许多32位架构。
+- vmalloc空间的堆栈需要可靠地工作。例如,如果vmap页表是按需创建的,当堆栈指向
+ 具有未填充页表的虚拟地址时,这种机制需要工作,或者架构代码(switch_to()和
+ switch_mm(),很可能)需要确保堆栈的页表项在可能未填充的堆栈上运行之前已经填
+ 充。
+- 如果堆栈溢出到一个保护页,就应该发生一些合理的事情。“合理”的定义是灵活的,但
+ 在没有记录任何东西的情况下立即重启是不友好的。
+
+VMAP_STACK
+----------
+
+VMAP_STACK bool配置选项在启用时分配虚拟映射的任务栈。这个选项依赖于
+HAVE_ARCH_VMAP_STACK。
+
+- 如果你想使用带有保护页的虚拟映射的内核堆栈,请启用该选项。这将导致内核栈溢出
+ 被立即捕获,而不是难以诊断的损坏。
+
+.. note::
+
+ 使用KASAN的这个功能需要架构支持用真实的影子内存来支持虚拟映射,并且
+ 必须启用KASAN_VMALLOC。
+
+.. note::
+
+ 启用VMAP_STACK时,无法在堆栈分配的数据上运行DMA。
+
+内核配置选项和依赖性不断变化。请参考最新的代码库:
+
+`Kconfig <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/arch/Kconfig>`
+
+分配方法
+--------
+
+当一个新的内核线程被创建时,线程堆栈是由页级分配器分配的虚拟连续的内存页组成。这
+些页面被映射到有PAGE_KERNEL保护的连续的内核虚拟空间。
+
+alloc_thread_stack_node()调用__vmalloc_node_range()来分配带有PAGE_KERNEL
+保护的栈。
+
+- 分配的堆栈被缓存起来,以后会被新的线程重用,所以在分配/释放堆栈给任务时,要手动
+ 进行memcg核算。因此,__vmalloc_node_range被调用时没有__GFP_ACCOUNT。
+- vm_struct被缓存起来,以便能够找到在中断上下文中启动的空闲线程。 free_thread_stack()
+ 可以在中断上下文中调用。
+- 在arm64上,所有VMAP的堆栈都需要有相同的对齐方式,以确保VMAP的堆栈溢出检测正常
+ 工作。架构特定的vmap堆栈分配器照顾到了这个细节。
+- 这并不涉及中断堆栈--参考原始补丁
+
+线程栈分配是由clone()、fork()、vfork()、kernel_thread()通过kernel_clone()
+启动的。留点提示在这,以便搜索代码库,了解线程栈何时以及如何分配。
+
+大量的代码是在:
+`kernel/fork.c <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/kernel/fork.c>`.
+
+task_struct中的stack_vm_area指针可以跟踪虚拟分配的堆栈,一个非空的stack_vm_area
+指针可以表明虚拟映射的内核堆栈已经启用。
+
+::
+
+ struct vm_struct *stack_vm_area;
+
+堆栈溢出处理
+------------
+
+前守护页和后守护页有助于检测堆栈溢出。当堆栈溢出到守护页时,处理程序必须小心不要再
+次溢出堆栈。当处理程序被调用时,很可能只留下很少的堆栈空间。
+
+在x86上,这是通过处理表明内核堆栈溢出的双异常堆栈的缺页异常来实现的。
+
+用守护页测试VMAP分配
+--------------------
+
+我们如何确保VMAP_STACK在分配时确实有前守护页和后守护页的保护?下面的 lkdtm 测试
+可以帮助检测任何回归。
+
+::
+
+ void lkdtm_STACK_GUARD_PAGE_LEADING()
+ void lkdtm_STACK_GUARD_PAGE_TRAILING()
+
+结论
+----
+
+- vmalloced堆栈的percpu缓存似乎比高阶堆栈分配要快一些,至少在缓存命中时是这样。
+- THREAD_INFO_IN_TASK完全摆脱了arch-specific thread_info,并简单地将
+ thread_info(仅包含标志)和'int cpu'嵌入task_struct中。
+- 一旦任务死亡,线程栈就可以被释放(无需等待RCU),然后,如果使用vmapped栈,就
+ 可以将整个栈缓存起来,以便在同一cpu上重复使用。
--
2.27.0
^ permalink raw reply related [flat|nested] 6+ messages in thread
* Re: [PATCH v3 1/2] docs/zh_CN: add vm page_migration translation
2022-05-16 15:56 ` [PATCH v3 1/2] " Yanteng Si
@ 2022-05-17 3:24 ` Wu X.C.
2022-05-17 4:00 ` yanteng si
0 siblings, 1 reply; 6+ messages in thread
From: Wu X.C. @ 2022-05-17 3:24 UTC (permalink / raw)
To: Yanteng Si
Cc: corbet, alexs, seakeel, chenhuacai, jiaxun.yang, linux-doc, siyanteng01
On Mon, May 16, 2022 at 11:56:31PM +0800, Yanteng Si wrote:
> Translate .../vm/page_migration.rst into Chinese.
>
> Signed-off-by: Yanteng Si <siyanteng@loongson.cn>
> ---
> Documentation/translations/zh_CN/vm/index.rst | 2 +-
> .../translations/zh_CN/vm/page_migration.rst | 228 ++++++++++++++++++
> 2 files changed, 229 insertions(+), 1 deletion(-)
> create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst
>
> diff --git a/Documentation/translations/zh_CN/vm/index.rst b/Documentation/translations/zh_CN/vm/index.rst
> index a1c6d529b6ff..551f58bf7b55 100644
> --- a/Documentation/translations/zh_CN/vm/index.rst
> +++ b/Documentation/translations/zh_CN/vm/index.rst
> @@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处)
> numa
> overcommit-accounting
> page_frags
> + page_migration
> page_owner
> page_table_check
> remap_file_pages
> @@ -47,7 +48,6 @@ TODOLIST:
> * arch_pgtable_helpers
> * free_page_reporting
> * hugetlbfs_reserv
> -* page_migration
> * slub
> * transhuge
> * unevictable-lru
> diff --git a/Documentation/translations/zh_CN/vm/page_migration.rst b/Documentation/translations/zh_CN/vm/page_migration.rst
> new file mode 100644
> index 000000000000..417861fbc3e0
> --- /dev/null
> +++ b/Documentation/translations/zh_CN/vm/page_migration.rst
[...]
> +
> +非LRU页面迁移
> +=============
> +
> +尽管迁移最初的目的是为了减少NUMA的内存访问延迟,但压缩也使用迁移来创建高阶页面。
> +
> +目前实现的问题是,它被设计为只迁移*LRU*页。然而,有一些潜在的非LRU页面可以在驱动中
> +被迁移,例如,zsmalloc,virtio-balloon页面。
> +
> +对于virtio-balloon页面,迁移代码路径的某些部分已经被钩住,并添加了virtio-balloon
> +的特定函数来拦截迁移逻辑。这对一个驱动来说太特殊了,所以其他想让自己的页面可移动的驱
> +动就必须在迁移路径中添加自己的特定钩子。
> +
> +为了克服这个问题,VM支持非LRU页面迁移,它为非LRU可移动页面提供了通用函数,而在迁移
> +路径中没有特定的驱动程序钩子。
> +
> +如果一个驱动程序想让它的页面可移动,它应该定义三个函数,这些函数是
> +struct address_space_operations的函数指针。
> +
> +1. ``bool (*isolate_page) (struct page *page, isolate_mode_t mode);``
> +
> + VM对驱动的isolate_page()函数的期望是,如果驱动成功隔离了该页,则返回×true×。
*true*
> + 返回true后,VM会将该页标记为PG_isolated,这样多个CPU的并发隔离就会跳过该
> + 页进行隔离。如果驱动程序不能隔离该页,它应该返回*false*。
> +
> [...]
> +
> + * PG_isolated
> +
> + 为了防止几个CPU同时进行隔离,VM在lock_page()下将隔离的页面标记为PG_isolated。
> + 因此,如果一个CPU遇到PG_isolated非LRU可移动页面,它可以跳过它。驱动程序不需要
> + 操作这个标志,因为VM会自动设置/清除它。请记住,如果驱动程序看到PG_isolated页,
> + 这意味着VM已经被虚拟机隔离,所以它不应该碰page.lru字段。PG_isolated标志与
Emmm, I mean 虚拟机 -> VM
Sorry for the miss leading, seemis only strict mono font could understand
it.
Please fix these two, and pick my review-by :)
Thanks,
Wu
> + PG_reclaim标志是同义的,所以驱动程序不应该为自己的目的使用PG_isolated。
> +
> [...]
^ permalink raw reply [flat|nested] 6+ messages in thread
* Re: [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation
2022-05-16 15:56 ` [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation Yanteng Si
@ 2022-05-17 3:27 ` Wu X.C.
0 siblings, 0 replies; 6+ messages in thread
From: Wu X.C. @ 2022-05-17 3:27 UTC (permalink / raw)
To: Yanteng Si
Cc: corbet, alexs, seakeel, chenhuacai, jiaxun.yang, linux-doc, siyanteng01
On Mon, May 16, 2022 at 11:56:32PM +0800, Yanteng Si wrote:
> Translate .../vm/vmalloced-kernel-stacks.rst into Chinese.
>
> Signed-off-by: Yanteng Si <siyanteng@loongson.cn>
Reviewed-by: Wu XiangCheng <bobwxc@email.cn>
Thanks,
Wu
> ---
> Documentation/translations/zh_CN/vm/index.rst | 2 +-
> .../zh_CN/vm/vmalloced-kernel-stacks.rst | 133 ++++++++++++++++++
> 2 files changed, 134 insertions(+), 1 deletion(-)
> create mode 100644 Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
>
> diff --git a/Documentation/translations/zh_CN/vm/index.rst b/Documentation/translations/zh_CN/vm/index.rst
> index 551f58bf7b55..d9ac73159dbc 100644
> --- a/Documentation/translations/zh_CN/vm/index.rst
> +++ b/Documentation/translations/zh_CN/vm/index.rst
> @@ -41,6 +41,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处)
> page_table_check
> remap_file_pages
> split_page_table_lock
> + vmalloced-kernel-stacks
> z3fold
> zsmalloc
>
> @@ -51,4 +52,3 @@ TODOLIST:
> * slub
> * transhuge
> * unevictable-lru
> -* vmalloced-kernel-stacks
> diff --git a/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst b/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
> new file mode 100644
> index 000000000000..ad23f274f6d7
> --- /dev/null
> +++ b/Documentation/translations/zh_CN/vm/vmalloced-kernel-stacks.rst
> @@ -0,0 +1,133 @@
> +.. SPDX-License-Identifier: GPL-2.0
> +.. include:: ../disclaimer-zh_CN.rst
> +
> +:Original: Documentation/vm/vmalloced-kernel-stacks.rst
> +
> +:翻译:
> +
> + 司延腾 Yanteng Si <siyanteng@loongson.cn>
> +
> +:校译:
> +
> +====================
> +支持虚拟映射的内核栈
> +====================
> +
> +:作者: Shuah Khan <skhan@linuxfoundation.org>
> +
> +.. contents:: :local:
> +
> +概览
> +----
> +
> +这是介绍 `虚拟映射内核栈功能 <https://lwn.net/Articles/694348/>` 的代码
> +和原始补丁系列的信息汇总。
> +
> +简介
> +----
> +
> +内核堆栈溢出通常难以调试,并使内核容易被(恶意)利用。问题可能在稍后的时间出现,使其难以
> +隔离和究其根本原因。
> +
> +带有保护页的虚拟映射内核堆栈如果溢出,会被立即捕获,而不会放任其导致难以诊断的损
> +坏。
> +
> +HAVE_ARCH_VMAP_STACK和VMAP_STACK配置选项能够支持带有保护页的虚拟映射堆栈。
> +当堆栈溢出时,这个特性会引发可靠的异常。溢出后堆栈跟踪的可用性以及对溢出本身的
> +响应取决于架构。
> +
> +.. note::
> + 截至本文撰写时, arm64, powerpc, riscv, s390, um, 和 x86 支持VMAP_STACK。
> +
> +HAVE_ARCH_VMAP_STACK
> +--------------------
> +
> +能够支持虚拟映射内核栈的架构应该启用这个bool配置选项。要求是:
> +
> +- vmalloc空间必须大到足以容纳许多内核堆栈。这可能排除了许多32位架构。
> +- vmalloc空间的堆栈需要可靠地工作。例如,如果vmap页表是按需创建的,当堆栈指向
> + 具有未填充页表的虚拟地址时,这种机制需要工作,或者架构代码(switch_to()和
> + switch_mm(),很可能)需要确保堆栈的页表项在可能未填充的堆栈上运行之前已经填
> + 充。
> +- 如果堆栈溢出到一个保护页,就应该发生一些合理的事情。“合理”的定义是灵活的,但
> + 在没有记录任何东西的情况下立即重启是不友好的。
> +
> +VMAP_STACK
> +----------
> +
> +VMAP_STACK bool配置选项在启用时分配虚拟映射的任务栈。这个选项依赖于
> +HAVE_ARCH_VMAP_STACK。
> +
> +- 如果你想使用带有保护页的虚拟映射的内核堆栈,请启用该选项。这将导致内核栈溢出
> + 被立即捕获,而不是难以诊断的损坏。
> +
> +.. note::
> +
> + 使用KASAN的这个功能需要架构支持用真实的影子内存来支持虚拟映射,并且
> + 必须启用KASAN_VMALLOC。
> +
> +.. note::
> +
> + 启用VMAP_STACK时,无法在堆栈分配的数据上运行DMA。
> +
> +内核配置选项和依赖性不断变化。请参考最新的代码库:
> +
> +`Kconfig <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/arch/Kconfig>`
> +
> +分配方法
> +--------
> +
> +当一个新的内核线程被创建时,线程堆栈是由页级分配器分配的虚拟连续的内存页组成。这
> +些页面被映射到有PAGE_KERNEL保护的连续的内核虚拟空间。
> +
> +alloc_thread_stack_node()调用__vmalloc_node_range()来分配带有PAGE_KERNEL
> +保护的栈。
> +
> +- 分配的堆栈被缓存起来,以后会被新的线程重用,所以在分配/释放堆栈给任务时,要手动
> + 进行memcg核算。因此,__vmalloc_node_range被调用时没有__GFP_ACCOUNT。
> +- vm_struct被缓存起来,以便能够找到在中断上下文中启动的空闲线程。 free_thread_stack()
> + 可以在中断上下文中调用。
> +- 在arm64上,所有VMAP的堆栈都需要有相同的对齐方式,以确保VMAP的堆栈溢出检测正常
> + 工作。架构特定的vmap堆栈分配器照顾到了这个细节。
> +- 这并不涉及中断堆栈--参考原始补丁
> +
> +线程栈分配是由clone()、fork()、vfork()、kernel_thread()通过kernel_clone()
> +启动的。留点提示在这,以便搜索代码库,了解线程栈何时以及如何分配。
> +
> +大量的代码是在:
> +`kernel/fork.c <https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/tree/kernel/fork.c>`.
> +
> +task_struct中的stack_vm_area指针可以跟踪虚拟分配的堆栈,一个非空的stack_vm_area
> +指针可以表明虚拟映射的内核堆栈已经启用。
> +
> +::
> +
> + struct vm_struct *stack_vm_area;
> +
> +堆栈溢出处理
> +------------
> +
> +前守护页和后守护页有助于检测堆栈溢出。当堆栈溢出到守护页时,处理程序必须小心不要再
> +次溢出堆栈。当处理程序被调用时,很可能只留下很少的堆栈空间。
> +
> +在x86上,这是通过处理表明内核堆栈溢出的双异常堆栈的缺页异常来实现的。
> +
> +用守护页测试VMAP分配
> +--------------------
> +
> +我们如何确保VMAP_STACK在分配时确实有前守护页和后守护页的保护?下面的 lkdtm 测试
> +可以帮助检测任何回归。
> +
> +::
> +
> + void lkdtm_STACK_GUARD_PAGE_LEADING()
> + void lkdtm_STACK_GUARD_PAGE_TRAILING()
> +
> +结论
> +----
> +
> +- vmalloced堆栈的percpu缓存似乎比高阶堆栈分配要快一些,至少在缓存命中时是这样。
> +- THREAD_INFO_IN_TASK完全摆脱了arch-specific thread_info,并简单地将
> + thread_info(仅包含标志)和'int cpu'嵌入task_struct中。
> +- 一旦任务死亡,线程栈就可以被释放(无需等待RCU),然后,如果使用vmapped栈,就
> + 可以将整个栈缓存起来,以便在同一cpu上重复使用。
> --
> 2.27.0
^ permalink raw reply [flat|nested] 6+ messages in thread
* Re: [PATCH v3 1/2] docs/zh_CN: add vm page_migration translation
2022-05-17 3:24 ` Wu X.C.
@ 2022-05-17 4:00 ` yanteng si
0 siblings, 0 replies; 6+ messages in thread
From: yanteng si @ 2022-05-17 4:00 UTC (permalink / raw)
To: Wu X.C.
Cc: Yanteng Si, Jonathan Corbet, Alex Shi, Alex Shi, Huacai Chen,
Jiaxun Yang, Linux Doc Mailing List
Wu X.C. <bobwxc@email.cn> 于2022年5月17日周二 11:25写道:
>
> On Mon, May 16, 2022 at 11:56:31PM +0800, Yanteng Si wrote:
> > Translate .../vm/page_migration.rst into Chinese.
> >
> > Signed-off-by: Yanteng Si <siyanteng@loongson.cn>
> > ---
> > Documentation/translations/zh_CN/vm/index.rst | 2 +-
> > .../translations/zh_CN/vm/page_migration.rst | 228 ++++++++++++++++++
> > 2 files changed, 229 insertions(+), 1 deletion(-)
> > create mode 100644 Documentation/translations/zh_CN/vm/page_migration.rst
> >
> > diff --git a/Documentation/translations/zh_CN/vm/index.rst b/Documentation/translations/zh_CN/vm/index.rst
> > index a1c6d529b6ff..551f58bf7b55 100644
> > --- a/Documentation/translations/zh_CN/vm/index.rst
> > +++ b/Documentation/translations/zh_CN/vm/index.rst
> > @@ -36,6 +36,7 @@ TODO:待引用文档集被翻译完毕后请及时修改此处)
> > numa
> > overcommit-accounting
> > page_frags
> > + page_migration
> > page_owner
> > page_table_check
> > remap_file_pages
> > @@ -47,7 +48,6 @@ TODOLIST:
> > * arch_pgtable_helpers
> > * free_page_reporting
> > * hugetlbfs_reserv
> > -* page_migration
> > * slub
> > * transhuge
> > * unevictable-lru
> > diff --git a/Documentation/translations/zh_CN/vm/page_migration.rst b/Documentation/translations/zh_CN/vm/page_migration.rst
> > new file mode 100644
> > index 000000000000..417861fbc3e0
> > --- /dev/null
> > +++ b/Documentation/translations/zh_CN/vm/page_migration.rst
> [...]
> > +
> > +非LRU页面迁移
> > +=============
> > +
> > +尽管迁移最初的目的是为了减少NUMA的内存访问延迟,但压缩也使用迁移来创建高阶页面。
> > +
> > +目前实现的问题是,它被设计为只迁移*LRU*页。然而,有一些潜在的非LRU页面可以在驱动中
> > +被迁移,例如,zsmalloc,virtio-balloon页面。
> > +
> > +对于virtio-balloon页面,迁移代码路径的某些部分已经被钩住,并添加了virtio-balloon
> > +的特定函数来拦截迁移逻辑。这对一个驱动来说太特殊了,所以其他想让自己的页面可移动的驱
> > +动就必须在迁移路径中添加自己的特定钩子。
> > +
> > +为了克服这个问题,VM支持非LRU页面迁移,它为非LRU可移动页面提供了通用函数,而在迁移
> > +路径中没有特定的驱动程序钩子。
> > +
> > +如果一个驱动程序想让它的页面可移动,它应该定义三个函数,这些函数是
> > +struct address_space_operations的函数指针。
> > +
> > +1. ``bool (*isolate_page) (struct page *page, isolate_mode_t mode);``
> > +
> > + VM对驱动的isolate_page()函数的期望是,如果驱动成功隔离了该页,则返回×true×。
>
> *true*
OK!
>
> > + 返回true后,VM会将该页标记为PG_isolated,这样多个CPU的并发隔离就会跳过该
> > + 页进行隔离。如果驱动程序不能隔离该页,它应该返回*false*。
> > +
> > [...]
> > +
> > + * PG_isolated
> > +
> > + 为了防止几个CPU同时进行隔离,VM在lock_page()下将隔离的页面标记为PG_isolated。
> > + 因此,如果一个CPU遇到PG_isolated非LRU可移动页面,它可以跳过它。驱动程序不需要
> > + 操作这个标志,因为VM会自动设置/清除它。请记住,如果驱动程序看到PG_isolated页,
> > + 这意味着VM已经被虚拟机隔离,所以它不应该碰page.lru字段。PG_isolated标志与
>
> Emmm, I mean 虚拟机 -> VM
OK!
Thanks,
Yanteng
> Sorry for the miss leading, seemis only strict mono font could understand
> it.
>
> Please fix these two, and pick my review-by :)
>
> Thanks,
> Wu
>
> > + PG_reclaim标志是同义的,所以驱动程序不应该为自己的目的使用PG_isolated。
> > +
> > [...]
>
^ permalink raw reply [flat|nested] 6+ messages in thread
end of thread, other threads:[~2022-05-17 4:00 UTC | newest]
Thread overview: 6+ messages (download: mbox.gz / follow: Atom feed)
-- links below jump to the message on this page --
2022-05-16 15:56 [PATCH v3 0/2] docs/zh_CN: add vm page_migration translation Yanteng Si
2022-05-16 15:56 ` [PATCH v3 1/2] " Yanteng Si
2022-05-17 3:24 ` Wu X.C.
2022-05-17 4:00 ` yanteng si
2022-05-16 15:56 ` [PATCH v3 2/2] docs/zh_CN: add vm vmalloced-kernel-stacks translation Yanteng Si
2022-05-17 3:27 ` Wu X.C.
This is an external index of several public inboxes,
see mirroring instructions on how to clone and mirror
all data and code used by this external index.