代码拉取完成，页面将自动刷新
同步操作将从 泰晓科技/Linux Lab 强制同步，此操作会覆盖自 Fork 仓库以来所做的任何修改，且无法恢复！！！
确定后同步将在后台操作，完成时将刷新页面，请耐心等待。
订阅公众号，关注项目状态：
本项目致力于创建一个基于 Docker + QEMU 的 Linux 实验环境，方便大家学习、开发和测试 Linux 内核。
Linux Lab 是一个开源软件，不提供任何保证，请自行承担使用过程中的任何风险。
主页
仓库
关联项目：
Cloud Lab
Linux 0.11 Lab
labs/linux-0.11-lab 后，可直接在 Linux Lab 内使用CS630 Qemu Lab
labs/cs630-qemu-lab 后，可直接在 Linux Lab 内使用现在，Linux Lab 已经发展为一个学习、开发和测试 Linux 的集成环境，它支持以下功能：
| 编号 | 特性 | 描述 |
|---|---|---|
| 1 | 开发板 | 基于 QEMU，支持 7+ 主流体系架构，15+ 款流行开发板 |
| 2 | 组件 | 支持 Uboot，Linux, Buildroot，Qemu。支持 Linux v2.6.10 ~ v5.x |
| 3 | 预置组件 | 提供上述组件的预先编译版本，并按开发板分类存放，可即时下载使用 |
| 4 | 根文件系统 | 支持 initrd，harddisk，mmc 和 nfs; ARM 架构提供 Debian 系统 |
| 5 | Docker | 交叉工具链已预先安装，还可灵活配置并下载外部交叉工具链 |
| 6 | 灵活访问 | 支持通过本地或网络访问，支持 bash, ssh, vnc, web ssh, web vnc |
| 7 | 网络 | 内置桥接网络支持，每个开发板都支持网络（Raspi3 是唯一例外） |
| 8 | 启动 | 支持串口、Curses（用于 bash/ssh 访问）和图形化方式启动 |
| 9 | 测试 | 支持通过 make test 命令对目标板进行自动化测试 |
| 10 | 调试 | 可通过 make debug 命令对目标板进行调试 |
更多特性和使用方法请看下文介绍。
大约九年前，我向 elinux.org 发起了一个 tinylinux 提案：Work on Tiny Linux Kernel。该提案最终被采纳，因此我在这个项目上工作了几个月。
在项目开发过程中，编写了几个脚本用于验证一些新的小特性（譬如：gc-sections）是否破坏了几个主要的处理器架构上的内核功能。
这些脚本使用 qemu-system-ARCH 作为处理器/开发板的模拟器，在模拟器上针对 Ftrace + Perf 运行了基本的启动测试和功能测试，并为之相应准备了内核配置文件（defconfig）、根文件系统（rootfs）以及一些测试脚本。但在当时的条件下，所有的工作只是简单地归档在一个目录下，并没有从整体上将它们组织起来。
这些工作成果在我的硬盘里闲置了好多年，直到有一天我遇到了 noVNC 和 Docker，并基于这些新技术开发了第一个 Linux 0.11 Lab，此后，为了将此前开发的那些零散的脚本、内核配置文件、根文件系统和测试脚本整合起来，我开发了 Linux Lab 这个系统。
从 2016 年发起，经过数年的开发与迭代，Linux Lab 于 2019 年 6 月 28 日迎来了第 1 个正式版本 v0.1。
v0.2 新增原生 Windows 支持、新增龙芯全系支持、新增多个平台外置交叉编译器支持、新增实时 RT 支持、新增 host 侧免 root 支持等，并首次被某线上课程全程采用。
v0.3 统一了所有组件的公共操作接口更方便记忆，进一步优化了大型仓库的下载体验，通过添加自动依赖关系简化了命令执行并大幅度提升实验效率，为多本知名 Linux 图书新增了 v2.6.10, v2.6.11, v2.6.12, v2.6.14, v2.6.21, v2.6.24 等多个历史版本内核，并发布了首份中文版用户手册。
v0.4 通过提升镜像下载速度、优化 make 性能、完善登陆方式等进一步完善使用体验，同时首次为 64 位 ARM 架构的 aarch64/virt 新增 Uboot 支持并升级 arm/vexpress-a9 的 Uboot 到当前最新版本，另外，修复了一处新内核下在容器内插入 NFSD 模块导致的系统卡死问题。
v0.5 提前升级到新镜像 Ubuntu 20.04，全面导入龙芯系列处理器支持，并进一步完善各种细微体验。
v0.6 完善开发镜像，新增首块真实硬件开发板支持。
arm/ebf-imx6ull 支持packages-install 目标，允许通过 .labinit 配置环境缺少的软件包Linux Lab 是一套完备的嵌入式 Linux 开发环境，需要预留足够的算力和存储空间，避免后续扩展麻烦，基本硬件配置建议如下：
| 硬件类型 | 要求 | 说明 |
|---|---|---|
| 处理器 | X86_64, > 1.5GHz | 创建虚拟机时也务必选择 64 位 X86 处理器 |
| 磁盘 | >= 50G | 系统(25G), Docker 镜像(~5G), Linux Lab(20G) |
| 内存 | >= 4G | 过低的内存可能会导致各种卡顿以及异常缓慢 |
如果平时用的几率比较高，建议把磁盘空间提高到 100G ~ 200G 以上，内存可以提升到 8G 以上。
另外，为了避免走弯路，这里提供了一份验证过的操作系统列表，方便大家参考：
| 操作系统 | 系统版本 | Docker 版本 | 内核版本 |
|---|---|---|---|
| Ubuntu | 16.04, 18.04, 20.04 | 18.09.4 | Linux 4.15, 5.0, 5.3, 5.4 |
| Debian | bullseye | 19.03.7 | Linux 5.4.42 |
| Arch Linux | rolling-release | 20.10.3 | Linux 5.4.94, 5.7.4 |
| CentOS | 7.6, 7.7 | 19.03.8 | Linux 3.10, 5.2.9 |
| Deepin | 15.11 | 18.09.6 | Linux 4.15 |
| Mac OS X | 10.15.5 | 19.03.8 | Darwin 19.5.0 |
| Windows | 10 PRO, WSL2 | 19.03.8 | MINGW64_NT-10.0-17134 |
| Manjaro | rolling-release | 20.10.3 | Linux 5.8.3 |
请查看其他同学 成功运行过 Linux Lab 的系统，并分享你的情况，例如：
$ cd /path/to/cloud-lab/
$ tools/docker/env
System: Ubuntu 16.04.6 LTS
Linux: 4.4.0-176-generic
Docker: Docker version 18.09.4, build d14af54
运行 Linux Lab 需要基于 Docker，所以请务必先安装 Docker：
Linux, Mac OSX, Windows 10
使用 Docker CE
更早的 Windows 版本（含大部分老版本 Windows 10）
通过 Virtualbox 或 Vmware 安装 Ubuntu 后使用
在运行 Linux Lab 之前，请参考 6.1.4 节确保无需 sudo 权限也可以正常运行以下命令：
$ docker run hello-world
另外，在国内要正常使用 Docker，请务必配置好国内的 Docker 镜像加速服务：
使用 Linux Lab 过程中的常见 Docker 相关问题，请参考常见问题中的 6.1 节，镜像下载慢、下载超时、下载出错等问题都有详细解决方案。
其他问题，请参考 官方 Docker 文档。
Ubuntu 用户安装手册
Arch 用户安装手册
Manjaro 用户安装手册
Windows 用户须知：
请参考 Docker 官方文档 确保所用 Windows 版本支持 Docker
Linux Lab 当前仅在 Git Bash 验证过，请务必配合 Git Bash 使用
如果您是通过 Docker Toolbox 安装，请在 Virtualbox 上进入 default 系统的 /mnt/sda1，否则，关机后所有数据会丢失，因为缺省的 /root 目录是挂载在内存中的。
$ cd /mnt/sda1
对于 Linux 用户，可以简单地在 ~/Downloads 或 ~/Documents 下选择一个工作路径。
$ cd ~/Documents
对于 Windows 和 Mac OSX 用户，要正常编译 Linux，请先使能或创建一个区分大小写的文件系统作为工作空间：
Windows：
(git bash) $ cd /path/to/cloud-lab
(git bash) $ fsutil file SetCaseSensitiveInfo ./ enable
Mac OSX：
$ hdiutil create -type SPARSE -size 60g -fs "Case-sensitive Journaled HFS+" -volname labspace labspace.dmg
$ hdiutil attach -mountpoint ~/Documents/labspace -nobrowse labspace.dmg.sparseimage
$ cd ~/Documents/labspace
对于 Windows 用户，在安装完 Git For Windows 后，可通过鼠标右键在选定的工作目录运行 “Git Bash Here”。
下载代码前，请务必切到普通用户。Linux Lab 虽未禁用 root 帐号，但是不推荐使用 root 帐号，否则会有各种权限异常问题。
查看当前用户 ID，0 表示 root，非零表示普通用户：
$ id -u `whoami`
1000
如果当前为 root，需切到普通用户，请替换 <USER> 为自己的帐号名，下同：
# id -u `whoami`
0
# sudo -su <USER>
如果目标机器上仅有 root 帐号，则必须新建一个普通用户帐号，假设取名为 laber：
$ sudo useradd --create-home --shell /bin/bash --user-group --groups adm,sudo laber
$ sudo passwd laber
$ sudo -su laber
$ whoami
laber
下载 Cloud Lab，然后再选择 linux-lab 仓库：
$ git clone https://gitee.com/tinylab/cloud-lab.git
$ cd cloud-lab/ && tools/docker/choose linux-lab
如果错误使用了 root 帐号来 clone 代码，下载后请务必切换到普通用户，并把属主改为普通用户：
$ sudo -su <USER>
$ sudo chown -R <USER>:<USER> -R cloud-lab/{*,.git}
启动 Linux Lab 并根据控制台上打印的用户名和密码登录实验环境：
$ tools/docker/run linux-lab
通过 Bash 直接登陆：
$ tools/docker/bash
通过 Web 浏览器直接登录实验环境：
$ tools/docker/webvnc
其他登录方式：
$ tools/docker/vnc
$ tools/docker/ssh
$ tools/docker/webssh
选择某种登陆方式：
$ tools/docker/login list # 列出并选择，并且记住
$ tools/docker/login vnc # 直接选择一种并记住
登录方式汇总：
| 登录方法 | 描述 | 缺省用户 | 登录所在地 |
|---|---|---|---|
| bash | docker bash | ubuntu | 本地主机 |
| ssh | 普通 ssh | ubuntu | 本地主机 |
| vnc | 普通 桌面 | ubuntu | 本地主机+VNC client |
| webvnc | web 桌面 | ubuntu | 互联网在线即可 |
| webssh | web ssh | ubuntu | 互联网在线即可 |
由于普通的 vnc 客户端五花八门，所以当前建议采用 webvnc，确保可以在各个平台能自动登陆。
如果想使用本地的 vnc 客户端，请先提前安装好客户端，Linux Lab 推荐使用 vinagre。其他的客户端请通过如下方式指定：
$ tools/docker/vnc vinagre
如果上述命令不能正常工作，请根据上述命令打印出来的 VNC 服务器信息，自行配置所用客户端。
为了更新 Linux Lab 的版本，首先 必须 备份所有的本地修改，比如固化容器：
$ tools/docker/commit linux-lab
$ git checkout -- configs/linux-lab/docker/name
然后就可以执行更新了：
$ tools/docker/update linux-lab
如果更新失败，请尝试清理当前运行的容器:
$ tools/docker/rm-all
如果有必要的话清理整个环境:
$ tools/docker/clean-all
之后重新运行 Linux Lab：
$ tools/docker/rerun linux-lab
进入实验环境, 切换目录:
$ cd /labs/linux-lab
输入如下命令，在缺省的 vexpress-a9 开发板上启动预置的内核和根文件系统：
$ make boot
使用 root 帐号登录，不需要输入密码（密码为空），只需要输入 root 然后输入回车即可：
Welcome to Linux Lab
linux-lab login: root
# uname -a
Linux linux-lab 5.1.0 #3 SMP Thu May 30 08:44:37 UTC 2019 armv7l GNU/Linux
#
# poweroff
#
键入 poweroff 即可关闭板子。部分开发板的关机功能不完善，可通过 CTRL+a x （依次按下 CTRL 和 A，同时释放，再单独按下 x）来退出 Qemu。当然，也可以另开一个控制台，通过 kill 或 pkill 退出 Qemu 进程。
列出内置支持的开发板:
$ make list
[ aarch64/raspi3 ]:
ARCH = arm64
CPU ?= cortex-a53
LINUX ?= v5.1
ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0
ROOTDEV ?= /dev/mmcblk0
[ aarch64/virt ]:
ARCH = arm64
CPU ?= cortex-a57
LINUX ?= v5.1
ROOTDEV_LIST := /dev/sda /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
[ arm/mcimx6ul-evk ]:
ARCH = arm
CPU ?= cortex-a9
LINUX ?= v5.4
ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/mmcblk0
[ arm/versatilepb ]:
ARCH = arm
CPU ?= arm926t
LINUX ?= v5.1
ROOTDEV_LIST := /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ arm/vexpress-a9 ]:
ARCH = arm
CPU ?= cortex-a9
LINUX ?= v5.1
ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ i386/pc ]:
ARCH = x86
CPU ?= qemu32
LINUX ?= v5.1
ROOTDEV_LIST ?= /dev/hda /dev/ram0 /dev/nfs
ROOTDEV_LIST[LINUX_v2.6.34.9] ?= /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/hda
[ mips64el/ls2k ]:
ARCH = mips
CPU ?= mips64r2
LINUX ?= loongnix-release-1903
LINUX[LINUX_loongnix-release-1903] := 04b98684
ROOTDEV_LIST := /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ mips64el/ls3a7a ]:
ARCH = mips
CPU ?= mips64r2
LINUX ?= loongnix-release-1903
LINUX[LINUX_loongnix-release-1903] := 04b98684
ROOTDEV_LIST ?= /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ mipsel/ls1b ]:
ARCH = mips
CPU ?= mips32r2
LINUX ?= v5.2
ROOTDEV_LIST ?= /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ mipsel/ls232 ]:
ARCH = mips
CPU ?= mips32r2
LINUX ?= v2.6.32-r190726
ROOTDEV_LIST := /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ mipsel/malta ]:
ARCH = mips
CPU ?= mips32r2
LINUX ?= v5.1
ROOTDEV_LIST := /dev/hda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ ppc/g3beige ]:
ARCH = powerpc
CPU ?= generic
LINUX ?= v5.1
ROOTDEV_LIST := /dev/hda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ riscv32/virt ]:
ARCH = riscv
CPU ?= any
LINUX ?= v5.0.13
ROOTDEV_LIST := /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
[ riscv64/virt ]:
ARCH = riscv
CPU ?= any
LINUX ?= v5.1
ROOTDEV_LIST := /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
[ x86_64/pc ]:
ARCH = x86
CPU ?= qemu64
LINUX ?= v5.1
ROOTDEV_LIST := /dev/hda /dev/ram0 /dev/nfs
ROOTDEV_LIST[LINUX_v3.2] := /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
[ csky/virt ]:
ARCH = csky
CPU ?= ck810
LINUX ?= v4.9.56
ROOTDEV ?= /dev/nfs
如果只想查看特定的架构，插件或者模糊匹配，可以使用 ARCH，FILTER:
$ make list ARCH=arm
$ make list FILTER=virt
更多用法:
$ make list-board # 仅显示 ARCH
$ make list-short # ARCH 和 LINUX
$ make list-base # 不包含插件
$ make list-plugin # 仅包含插件
$ make list-full # 所有板子信息
$ make list-real # 仅真实硬件
$ make list-virt # 仅虚拟开发板
从 v0.6 版以后，为了方便进一步开展外围设备驱动等实验，Linux Lab 开始支持真实的硬件开发板，选择这类开发板时请务必确保有购买开发板并正确连接到开发主机。
这类开发板可以用 make list-real 单独列出来：
$ make list-real
[ arm/ebf-imx6ull ]:
ARCH = arm
CPU ?= cortex-a9
LINUX ?= v4.19.35
ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/mmcblk0
由于不同的真实硬件开发板差异较大，所以在板级目录有提供专门的开发文档，例如：boards/arm/ebf-imx6ull/README.md。
所有适配过的开发板会统一放置在如下网店供大家选购，选购完毕后可以加微信号 tinylab 申请进入相应的 Linux Lab 开发板群组。
系统缺省使用的虚拟开发板型号为 vexpress-a9，我们也可以自己配置，制作和使用其他的虚拟开发板，具体使用 BOARD 选项，举例如下：
$ make BOARD=malta
$ make boot
如果存在同名的板子，必须指定架构以示区分，否则系统会默认匹配一个（不一定刚好是你想要的），所以建议明确设定：
$ make BOARD=mipsel/malta
目前同名的有 virt, pc 等，可以这样查看同名的板子：
$ make list FILTER=virt
[ aarch64/virt ]:
ARCH = arm64
CPU ?= cortex-a57
LINUX ?= v5.1
ROOTDEV_LIST := /dev/sda /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
[ riscv32/virt ]:
ARCH = riscv
CPU ?= any
LINUX ?= v5.0.13
ROOTDEV_LIST := /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
[ riscv64/virt ]:
ARCH = riscv
CPU ?= any
LINUX ?= v5.1
ROOTDEV_LIST := /dev/vda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/vda
$ make list FILTER=/pc
[ i386/pc ]:
ARCH = x86
CPU ?= qemu32
LINUX ?= v5.1
ROOTDEV_LIST ?= /dev/hda /dev/ram0 /dev/nfs
ROOTDEV_LIST[LINUX_v2.6.34.9] ?= /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/hda
[ x86_64/pc ]:
ARCH = x86
CPU ?= qemu64
LINUX ?= v5.1
ROOTDEV_LIST := /dev/hda /dev/ram0 /dev/nfs
ROOTDEV_LIST[LINUX_v3.2] := /dev/sda /dev/ram0 /dev/nfs
ROOTDEV ?= /dev/ram0
选择时可以这样：
$ make BOARD=x86_64/pc
$ make BOARD=riscv64/virt
如果使用的命令选项是小写的 board，这表明创建的开发板的配置不会被保存，提供该选项的目的是为了方便用户同时运行多个开发板而不会相互冲突。
$ make board=malta boot
使用该命令允许在多个不同的终端中或者以后台方式同时运行多个开发板。
检查开发板特定的配置：
$ cat boards/arm/vexpress-a9/Makefile
Linux Lab 支持 “插件” 功能，允许在独立的 git 仓库中添加和维护开发板。采用独立的仓库维护可以确保 Linux Lab 在支持愈来愈多的开发板的同时，自身的代码体积不会变得太大。
该特性有助于支持基于 Linux Lab 学习一些书上的例子以及支持一些采用新的处理器体系架构的开发板，书籍中可能会涉及多个开发板或者是新的处理器架构，并可能会需要多个新的软件包（譬如交叉工具链和架构相关的 qemu 系统模拟器）。
这里列出当前维护的插件:
其中，Loongson 已经在 v5.0 合并进主线。
每块开发板都有特定的配置，部分配置是可以根据需要进行修改的，比如说内存大小、内核版本、文件系统版本、QEMU 版本，以及其他外设配置，比如串口、网络等。
配置方法很简单，参考现有的板级配置（boards/<BOARD>/Makefile）修改即可，以下命令会通过 vim 调出当前开发板的本地配置文件（boards/<BOARD>/.labconfig）：
$ make local-edit
建议不要一次性做太大的调整，通常只建议修改内核版本，这样可直接用如下命令达到：
$ make list-linux
v4.12 v4.5.5 v5.0.10 [v5.1]
$ make local-config LINUX=v5.0.10
$ make list-linux
v4.12 v4.5.5 [v5.0.10] v5.1
如果想把相关改动提交进上游代码仓库，请使用 board-edit 和 board-config，否则，建议使用 local-edit 和 local-config，这样可以方便同步上游的改动而不产生任何冲突。
v0.3 以及之后的版本默认增加了目标依赖支持，所以，如果想编译内核，直接：
$ make kernel-build
或
$ make build kernel
它将自动完成所有需要的工作，当然，依然可以跟以前一样手动指定某个目标运行。
更进一步地，通过给每个目标完成情况打上时间戳，完成的目标就不会再运行，从而可以节省时间。如果还想再次执行某个历史目标，可以删掉时间戳文件再运行：
$ make cleanstamp kernel-build
$ make kernel-build
或
$ make force-kernel-build
下面的命令则删掉所有内核目标的时间戳：
$ make cleanstamp kernel
该功能同样适用于 root, uboot 和 qemu。
下载特定开发板的软件包、内核、buildroot 以及 U-boot 的源码：
$ make source APP="bsp kernel root uboot"
或
$ make source APP=all
或
$ make source all
如果需要单独下载这些部分：
$ make bsp-source
$ make kernel-source
$ make root-source
$ make uboot-source
或
$ make source bsp
$ make source kernel
$ make source root
$ make source uboot
从 v0.5 开始，所有源代码下载在 Linux Lab 的 src/ 目录下，历史版本都直接放在 Linux Lab 根目录，请注意该区别。
检出（checkout）您需要的 kernel 和 buildroot 版本：
$ make checkout APP="kernel root"
单独检出相关部分:
$ make kernel-checkout
$ make root-checkout
或
$ make checkout kernel
$ make checkout root
如果由于本地更改而导致检出不起作用，请保存更改并做清理以获取一个干净的环境：
$ make kernel-cleanup
$ make root-cleanup
或
$ make cleanup kernel
$ make cleanup root
以上操作也适用于 qemu 和 uboot。
给开发板打补丁，补丁包的来源是存放在 boards/<BOARD>/bsp/patch/linux 和 src/patch/linux/ 路径下：
$ make kernel-patch
或
$ make patch kernel
使用缺省配置（defconfig）配置 kernel 和 buildroot：
$ make defconfig APP="kernel root"
单独配置，缺省情况下使用 boards/<BOARD>/bsp/ 下的 defconfig：
$ make kernel-defconfig
$ make root-defconfig
或
$ make defconfig kernel
$ make defconfig root
使用特定的 defconfig 配置：
$ make B=raspi3
$ make kernel-defconfig KCFG=bcmrpi3_defconfig
$ make root-defconfig KCFG=raspberrypi3_64_defconfig
如果仅提供 defconfig 的名字，则搜索所在目录的次序首先是 boards/<BOARD>，然后是 buildroot, u-boot 和 linux-stable 各自的缺省配置路径 src/buildroot/configs，src/u-boot/configs 和 src/linux-stable/arch/<ARCH>/configs。
$ make kernel-menuconfig
$ make root-menuconfig
或
$ make menuconfig kernel
$ make menuconfig root
$ make kernel-olddefconfig
$ make root-olddefconfig
$ make root-olddefconfig
$ make uboot-olddefconfig
或
$ make olddefconfig kernel
$ make olddefconfig root
$ make olddefconfig uboot
一起编译 kernel 和 buildroot：
$ make build APP="kernel root"
单独编译 kernel 和 buildroot:
$ make kernel-build # make kernel
$ make root-build # make root
或
$ make build kernel
$ make build root
从 v0.5 开始，所有构建结果存放在 Linux Lab 的 build/ 目录下，历史版本都放在 output/ 目录，请注意该区别。
保存所有的配置以及 rootfs/kernel/dtb 的 image 文件：
$ make saveconfig APP="kernel root"
$ make save APP="kernel root"
保存配置和 image 文件到 boards/<BOARD>/bsp/：
$ make kernel-saveconfig
$ make root-saveconfig
$ make root-save
$ make kernel-save
或
$ make saveconfig kernel
$ make saveconfig root
$ make save kernel
$ make save root
缺省情况下采用非图形界面的串口方式启动，如果要退出可以使用 CTRL+a x, poweroff, reboot 或 pkill qemu 命令（具体参考 6.2.2 节）
$ make boot
图形方式启动 (如果要退出请使用 CTRL+ALT+2 quit):
$ make b=pc boot G=1 LINUX=v5.1
$ make b=versatilepb boot G=1 LINUX=v5.1
$ make b=g3beige boot G=1 LINUX=v5.1
$ make b=malta boot G=1 LINUX=v2.6.36
$ make b=vexpress-a9 boot G=1 LINUX=v4.6.7 // LINUX=v3.18.39 works too
注意：真正的图形化方式启动需要 LCD 和键盘驱动的支持，上述开发板可以完美支持 Linux 内核 5.1 版本的运行，raspi3 和 malta 两款开发板支持 tty0 终端但不支持键盘输入。
vexpress-a9 和 virt 缺省情况下不支持 LCD，但对于最新的 qemu，可以通过在启动时指定 G=1 参数然后通过选择 “View” 菜单切换到串口终端，但这么做无法用于测试 LCD 和键盘驱动。我们可以通过 XOPTS 选项指定额外的 qemu 选项参数。
$ make b=vexpress-a9 CONSOLE=ttyAMA0 boot G=1 LINUX=v5.1
$ make b=raspi3 CONSOLE=ttyAMA0 XOPTS="-serial vc -serial vc" boot G=1 LINUX=v5.1
基于 curses 图形方式启动（这么做适合采用 bash/ssh 的登录方式，但不是对所有开发板都有效，退出时需要使用 ESC+2 quit 或 ALT+2 quit）
$ make b=pc boot G=2 LINUX=v4.6.7
使用预编译的内核、dtb 和 Rootfs 启动：
$ make boot PBK=1 PBD=1 PBR=1
or
$ make boot k=old d=old r=old
or
$ make boot kernel=old dtb=old root=old
使用新的内核、dtb 和 rootfs 启动：
$ make boot PBK=0 PBD=0 PBR=0
or
$ make boot k=new d=new r=new
or
$ make boot kernel=new dtb=new root=new
如果目标内核和 Uboot 不存在，重新编译一个之后再启动：
$ make boot BUILD="kernel uboot"
使用 Uboot 启动（目前仅测试并支持了 versatilepb 和 vexpress-a9 两款开发板）：
$ make boot U=0
使用不同的 rootfs 启动（依赖于开发板的支持，启动后检查 /dev/）
$ make boot ROOTDEV=/dev/ram // support by all boards, basic boot method
$ make boot ROOTDEV=/dev/nfs // depends on network driver, only raspi3 not work
$ make boot ROOTDEV=/dev/sda
$ make boot ROOTDEV=/dev/mmcblk0
$ make boot ROOTDEV=/dev/vda // virtio based block device
使用额外的内核命令行参数启动（格式：XKCLI = eXtra Kernel Command LIne）：
$ make boot ROOTDEV=/dev/nfs XKCLI="init=/bin/bash"
列出支持的选项：
$ make list ROOTDEV
$ make list BOOTDEV
$ make list CCORI
$ make list NETDEV
$ make list LINUX
$ make list UBOOT
$ make list QEMU
使用 list <xxx> 可以实现更多 <xxx>-list，例如：
$ make list features
$ make list modules
$ make list gcc
Linux 内核提供了一个脚本 scripts/config，可用于非交互方式获取或设置内核的配置选项值。基于该脚本，实验环境增加了两个选项 kernel-getconfig 和 kernel-setconfig，可用于调整内核的选项。基于该功能我们可以方便地实现类似 "enable/disable/setstr/setval/getstate" 内核选项的操作。
获取一个内核模块的状态：
$ make kernel-getconfig m=minix_fs
Getting kernel config: MINIX_FS ...
build/aarch64/linux-v5.1-virt/.config:CONFIG_MINIX_FS=m
使能一个内核模块：
$ make kernel-setconfig m=minix_fs
Setting kernel config: m=minix_fs ...
build/aarch64/linux-v5.1-virt/.config:CONFIG_MINIX_FS=m
Enable new kernel config: minix_fs ...
更多 kernel-setconfig 命令的控制选项：y, n, c, o, s, v：
| 选项 | 说明 |
|---|---|
y |
编译内核中的模块或者使能其他内核选项 |
c |
以插件方式编译内核模块，类似 m 选项 |
o |
以插件方式编译内核模块，类似 m 选项 |
n |
关闭一个内核选项 |
s |
RTC_SYSTOHC_DEVICE="rtc0"，设置 rtc 设备为 rtc0 |
v |
v=PANIC_TIMEOUT=5, 设置内核 panic 超时为 5 秒 |
在一条命令中使用多个选项：
$ make kernel-setconfig m=tun,minix_fs y=ikconfig v=panic_timeout=5 s=DEFAULT_HOSTNAME=linux-lab n=debug_info
$ make kernel-getconfig o=tun,minix,ikconfig,panic_timeout,hostname
编译所有的内部内核模块：
$ make modules
$ make modules-install
$ make root-rebuild // not need for nfs boot
$ make boot
列出 src/modules/ 和 boards/<BOARD>/bsp/modules/ 路径下的所有模块：
$ make modules-list
如果加上 m 参数，除了列出 src/modules/ 和 boards/<BOARD>/bsp/modules/ 路径下的所有模块外，还会列出 src/linux-stable/ 下的所有模块：
$ make modules-list m=hello
1 m=hello ; M=$PWD/src/modules/hello
$ make modules-list m=tun,minix
1 c=TUN ; m=tun ; M=drivers/net
2 c=MINIX_FS ; m=minix ; M=fs/minix
使能一个内核模块：
$ make kernel-getconfig m=minix_fs
Getting kernel config: MINIX_FS ...
build/aarch64/linux-v5.1-virt/.config:CONFIG_MINIX_FS=m
$ make kernel-setconfig m=minix_fs
Setting kernel config: m=minix_fs ...
build/aarch64/linux-v5.1-virt/.config:CONFIG_MINIX_FS=m
Enable new kernel config: minix_fs ...
编译一个内核模块（例如：minix.ko）
$ make modules M=fs/minix/
或
$ make modules m=minix
安装和清理模块：
$ make modules-install M=fs/minix/
$ make modules-clean M=fs/minix/
其他用法：
$ make kernel-setconfig m=tun
$ make kernel x=tun.ko M=drivers/net
$ make kernel x=drivers/net/tun.ko
$ make kernel-run drivers/net/tun.ko
编译外部内核模块（类似编译内部模块）：
$ make modules m=hello
或
$ make kernel x=$PWD/src/modules/hello/hello.ko
内核的众多特性都集中存放在 src/feature/linux/，其中包括了特性的配置补丁，可以用于管理已合入内核主线的特性和未合入的特性功能。
$ make feature-list
[ /labs/linux-lab/src/feature/linux ]:
+ 9pnet
+ core
- debug
- module
+ ftrace
- v2.6.36
* env.g3beige
* env.malta
* env.pc
* env.versatilepb
- v2.6.37
* env.g3beige
+ gcs
- v2.6.36
* env.g3beige
* env.malta
* env.pc
* env.versatilepb
+ kft
- v2.6.36
* env.malta
* env.pc
+ uksm
- v2.6.38
这里列出了针对某项特性验证时使用的内核版本，如果其他条件未改变的话该特性应该可以正常工作。
例如，为了使能内核模块支持，可以执行如下简单的操作：
$ make feature f=module
$ make kernel-olddefconfig
$ make kernel
为了在 malta 开发板上验证基于 2.6.36 版本的 kft 特性，可以执行如下操作：
$ make BOARD=malta
$ export LINUX=v2.6.36
$ make kernel-checkout
$ make kernel-patch
$ make kernel-defconfig
$ make feature f=kft
$ make kernel-olddefconfig
$ make kernel
$ make boot
如果希望新建一个分支来做开发，那么可以参考如下步骤。
首先在 src/linux-stable 或配置的其他 KERNEL_SRC 目录下基于某个内核版本新建一个 git 分支，假设历史版本是 v5.1：
$ cd src/linux-stable
$ git checkout -b linux-v5.1-dev v5.1
然后通过 kernel-clone 从 Linux Lab 的 v5.1 克隆一份配置和相应目录：
$ make kernel-clone LINUX=v5.1 LINUX_NEW=linux-v5.1-dev
之后就可以跟往常一样开发。
如果基础版本不是 v5.1，那么可以从支持的版本中挑选一个比较接近的，以 i386/pc 为例：
$ make b=i386/pc list linux
v2.6.10 v2.6.11.12 v2.6.12.6 v2.6.21.5 v2.6.24.7 v2.6.34.9 v2.6.35.14 v2.6.36 v4.6.7 [v5.1] v5.2
例如，想进行 v2.6.38 开发，可以考虑从 v2.6.36 来克隆，就近的配置更接近，出问题可能更少。
$ cd src/linux-stable
$ git checkout -b linux-v2.6.38-dev v2.6.38
$ make kernel-clone LINUX=v2.6.36 LINUX_NEW=linux-v2.6.38-dev
开发过程中，请及时 commit，另外，请慎重使用如下命令，避免清除重要变更：
从当前支持 U-boot 的板子：versatilepb 和 vexpress-a9 中选择一款：
$ make BOARD=vexpress-a9
下载 Uboot：
$ make uboot-source
检出一个特定的版本（版本号在 boards/<BOARD>/Makefile 中通过 UBOOT 指定）：
$ make uboot-checkout
应用必要的补丁修改，可以指定 BOOTDEV 和 ROOTDEV 两个选项设置，如果不指定则缺省值使用 flash。
$ make uboot-patch
如果要明确指定值为 tftp, sdcard 或 flash，则必须在输入 uboot-patch 之前运行 make uboot-checkout：
$ make uboot-patch BOOTDEV=tftp
$ make uboot-patch BOOTDEV=sdcard
$ make uboot-patch BOOTDEV=flash
BOOTDEV 用于设定 uboot 的存放设备以便从该设备引导，ROOTDEV 用于告诉内核从哪里加载 rootfs。
配置 U-boot：
$ make uboot-defconfig
$ make uboot-menuconfig
编译 U-boot：
$ make uboot
使用 BOOTDEV 和 ROOTDEV 引导，缺省采用 flash 方式：
$ make boot U=1
显式使用 tftp, sdcard 或 flash 方式：
$ make boot U=1 BOOTDEV=tftp
$ make boot U=1 BOOTDEV=sdcard
$ make boot U=1 BOOTDEV=flash
我们也可以在启动引导阶段改变 ROOTDEV 选项，例如：
$ make boot U=1 BOOTDEV=flash ROOTDEV=/dev/nfs
执行清理，更新 ramdisk, dtb 和 uImage：
$ make uboot-images-clean
$ make uboot-clean
保存 uboot 镜像和配置：
$ make uboot-save
$ make uboot-saveconfig
内置的 qemu 或许不能和最新的 Linux 内核配套工作，为此我们有时不得不自己编译 qemu，自行编译 qemu 的方法在 vexpress-a9 和 virt 开发板上已经验证通过。
首先，编译 qemu-system-ARCH：
$ make B=vexpress-a9
$ make qemu-download
$ make qemu-checkout
$ make qemu-patch
$ make qemu-defconfig
$ make qemu
$ make qemu-save
qemu-ARCH-static 和 qemu-system-ARCH 是不能一起编译的，为了制作 qemu-ARCH-static，请在开发板的 Makefile 中首先使能 QEMU_US=1 然后再重新编译。
如果指定了 QEMU 和 QTOOL，那么实验环境会优先使用 bsp 子模块中的 QEMU 和 QTOOL，而不是已经安装在本地系统中的版本，但会优先使用最近编译的版本，如果最近有编译过的话。
在为新的内核实现移植时，如果使用 2.5 版本的 QEMU，Linux 5.0 在运行过程中会挂起，将 QEMU 升级到 2.12.0 后，问题消失。请在以后内核升级过程中注意相关的问题。
Qemu 每次编译都会检查子仓库是否较新，但是下载通常没那么顺利。如果下载过一次子仓库以后不想再更新，可以通过如下方式禁止更新：
$ make qemu git_module_status=0
Linux 内核主线的升级非常迅速，内置的工具链可能无法与其保持同步，为了减少维护上的压力，环境支持添加外部工具链。譬如 ARM64/virt, CCVER 和 CCPATH。
列出支持的预编译工具链：
$ make gcc-list
下载，解压缩和使能外部工具链：
$ make gcc
切换编译器版本，例子如下：
$ make gcc-switch CCORI=internal GCC=4.7
$ make gcc-switch CCORI=linaro
如果未指定外部工具链，则缺省使用内置的工具链。
如果不存在内置的工具链，则必须指定外部工具链。当前对该特性已经支持 aarch64, arm, riscv, mipsel, ppc, i386, x86_64 多个体系架构。
GCC 的版本可以分别在开发板特定的 Makefile 中针对 Linux, Uboot, Qemu 和 Root 分别指定：
GCC[LINUX_v2.6.11.12] = 4.4
采用以上配置方法，在编译 v2.6.11.12 版本的 Linux 内核时会在 defconfig 时自动切换为使用指定的 GCC 版本。
在编译主机（host）的软件时，也需要做相应配置（需要显式指定 b=i386/pc）：
$ make gcc-list b=i386/pc
$ make gcc-switch CCORI=internal GCC=4.8 b=i386/pc
内置的 rootfs 很小，不足以应付复杂的应用开发，如果需要涉及高级的应用开发，需要使用现代的 Linux 发布包。
环境提供了针对 arm32v7 的 Ubuntu 18.04 的根文件系统，该文件系统已经制作成 Docker 镜像，以后有机会再提供更多更好的文件系统。
可以通过 Docker 直接使用：
$ docker run -it tinylab/arm32v7-ubuntu
可以将文件系统提取出来在 Linux Lab 中使用：
(host)$ sudo apt-get install -y qemu-user-static
ARM32/vexpress-a9 (用户名和密码均为 root):
(host)$ tools/root/docker/extract.sh tinylab/arm32v7-ubuntu arm
(lab )$ make boot B=vexpress-a9 U=0 V=1 MEM=1024M ROOTDEV=/dev/nfs ROOTFS=$PWD/prebuilt/fullroot/tmp/tinylab-arm32v7-ubuntu
ARM64/raspi3 (用户名和密码均为 root):
(host)$ tools/root/docker/extract.sh tinylab/arm64v8-ubuntu arm
(lab )$ make boot B=raspi3 V=1 ROOTDEV=/dev/mmcblk0 ROOTFS=$PWD/prebuilt/fullroot/tmp/tinylab-arm64v8-ubuntu
其他 Docker 中更多的根文件系统：
$ docker search arm64 | egrep "ubuntu|debian"
arm64v8/ubuntu Ubuntu is a Debian-based Linux operating system 25
arm64v8/debian Debian is a Linux distribution that's composed 20
使用调试选项编译内核：
$ make feature f=debug
$ make kernel-olddefconfig
$ make kernel
编译时使用一个线程：
$ make kernel JOBS=1
如果是通过 vnc 或者 webvnc 登陆的，可运行如下命令直接调试：
$ make debug
将打开一个新的终端窗口，从 .gdb/kernel.default 加载脚本，自动运行 gdb。
但是，如果是通过 bash、ssh 或者 webssh 登陆的，请通过相应方式再登陆一次 Linux Lab，再次运行如下命令即可：
$ make debug
主要原因是，控制台不支持多窗口，需要手动开多个窗口，方便一边运行，一边调试。
如果想修改调试脚本，可以拷贝一份到 .gdb/kernel.user，这样就可以无缝升级：
$ cp .gdb/kernel.default .gdb/kernel.user
以上命令等价于运行如下命令：
$ make debug linux
或
$ make boot DEBUG=linux
自动测试调试可以运行如下命令：
$ make test-debug linux
或
$ make test DEBUG=linux
找出内核崩溃出错地址所在的代码行:
$ make kernel-calltrace func+offset/length
如果想调试 Uboot（采用 .gdb/uboot.default 调试脚本）：
$ make debug uboot
或
$ make debug DEBUG=uboot
如果是通过控制台登陆的 Linux Lab，不会自动拉起窗口，请按提示再次执行如下命令即可开启调试：
$ make debug uboot
同样可以自动测试调试：
$ make test-debug uboot
或
$ make test DEBUG=uboot
同样地，如果想修改调试脚本，可以拷贝一份到 .gdb/uboot.user，这样就可以无缝升级：
$ cp .gdb/uboot.default .gdb/uboot.user
以 aarch64/virt 作为演示的开发板：
$ make BOARD=virt
为测试做准备，在 src/system/ 目录下安装必要的文件/脚本：
$ make rootdir
$ make root-install
$ make root-rebuild
直接引导启动（参考 6.2.2 节）
$ make test
测试完毕后不要关机：
$ make test TEST_FINISH=echo
运行一下客户机的测试用例：
$ make test TEST_CASE=/tools/ftrace/trace.sh
运行客户机的测试用例（COMMAND_LINE_SIZE 必须足够大，譬如，4096，查看下文的 cmdline_size 特性 ）
$ make test TEST_BEGIN=date TEST_END=date TEST_CASE='ls /root,echo hello world'
进行重启压力测试：
$ make test TEST_REBOOT=2
注意: reboot 可以有以下几种结果 1) 挂起, 2) 继续; 3) 超时后被杀死, TEST_TIMEOUT=30; 4) 超时终止后不报错继续其他测试, TIMEOUT_CONTINUE=1
在一个特定的开发板上测试一个特定 Linux 版本的某个功能（cmdline_size 特性用于增加 COMMAND_LINE_SIZE 为 4096）：
$ make test f=kft LINUX=v2.6.36 b=malta TEST_PREPARE=board-init,kernel-cleanup
注意：board-init 和 kernel-cleanup 用于确保测试自动运行，但是 kernel-cleanup 不安全，请在使用前保存代码！
测试一个内核模块：
$ make test m=hello
测试多个内核模块：
$ make test m=exception,hello
基于指定的 ROOTDEV 测试模块，缺省使用 nfs 引导方式，但注意有些开发板可能不支持网络：
$ make test m=hello,exception TEST_RD=/dev/ram0
在测试内核模块时运行测试用例（在 insmod 和 rmmod 命令之间运行测试用例）：
$ make test m=exception TEST_BEGIN=date TEST_END=date TEST_CASE='ls /root,echo hello world' TEST_PREPARE=board-init,kernel-cleanup f=cmdline_size
在测试内部内核模块时运行测试用例：
$ make test m=lkdtm TEST_BEGIN='mount -t debugfs debugfs /mnt' TEST_CASE='echo EXCEPTION ">" /mnt/provoke-crash/DIRECT'
在测试内部内核模块时运行测试用例，传入内核参数：
$ make test m=lkdtm lkdtm_args='cpoint_name=DIRECT cpoint_type=EXCEPTION'
测试时不使用 feature-init （若非必须可以节省时间）
$ make test m=lkdtm lkdtm_args='cpoint_name=DIRECT cpoint_type=EXCEPTION' TEST_INIT=0
或
$ make raw-test m=lkdtm lkdtm_args='cpoint_name=DIRECT cpoint_type=EXCEPTION'
测试模块以及模块的依赖（使用 make kernel-menuconfig 进行检查）：
$ make test m=lkdtm y=runtime_testing_menu,debug_fs lkdtm_args='cpoint_name=DIRECT cpoint_type=EXCEPTION'
测试时不使用 feature-init，boot-init，boot-finish 以及不带 TEST_PREPARE：
$ make boot-test m=lkdtm lkdtm_args='cpoint_name=DIRECT cpoint_type=EXCEPTION'
测试一个内核模块并且在测试前执行某些 make 目标：
$ make test m=exception TEST=kernel-checkout,kernel-patch,kernel-defconfig
使用一条命令测试所有功能（从下载到关机，如果关机后挂起，请参考 6.2.2）：
$ make test TEST=kernel,root TEST_PREPARE=board-init,kernel-cleanup,root-cleanup
使用一条命令测试所有功能（带 uboot，如果支持的话，譬如：vexpress-a9）：
$ make test TEST=kernel,root,uboot TEST_PREPARE=board-init,kernel-cleanup,root-cleanup,uboot-cleanup
测试引导过程中内核挂起，允许指定超时时间，系统挂起时将发生超时：
$ make test TEST_TIMEOUT=30s
测试过程中如果超时，继续执行后续测试，而不是直接终止：
$ make test TEST_TIMEOUT=30s TIMEOUT_CONTINUE=1
测试内核调试：
$ make test DEBUG=1
缺省支持如下方法在 Qemu 开发板和主机之间传输文件：
将文件放在 src/system/ 的相对路径中，安装和重新制作 rootfs：
$ mkdir src/system/root/
$ touch src/system/root/new_file
$ make root-install
$ make root-rebuild
$ make boot
上述操作在 root 用户目录下新增 new_file 文件。
使用 ROOTDEV=/dev/nfs 选项启动开发板：
$ make boot ROOTDEV=/dev/nfs
主机 NFS 目录如下：
$ make env-dump VAR=ROOTDIR
ROOTDIR="/labs/linux-lab/boards/<BOARD>/bsp/root/<BUILDROOT_VERSION>/rootfs"
在 Qemu 开发板上运行 tftp 命令访问主机的 tftp 服务器。
主机侧：
$ ifconfig br0
inet addr:172.17.0.3 Bcast:172.17.255.255 Mask:255.255.0.0
$ cd tftpboot/
$ ls tftpboot
kft.patch kft.log
Qemu 开发板：
$ ls
kft_data.log
$ tftp -g -r kft.patch 172.17.0.3
$ tftp -p -r kft.log -l kft_data.log 172.17.0.3
注意：当把文件从 Qemu 开发板发送到主机侧时，必须先在主机上创建一个空的文件，这是一个 bug？！
有关如何为一个新的开发板启用 9p virtio，请参考 qemu 9p setup。编译 qemu 时必须使用 --enable-virtfs 选项，同时内核必须打开必要的选项。
重新配置内核如下：
CONFIG_NET_9P=y
CONFIG_NET_9P_VIRTIO=y
CONFIG_NET_9P_DEBUG=y (Optional)
CONFIG_9P_FS=y
CONFIG_9P_FS_POSIX_ACL=y
CONFIG_PCI=y
CONFIG_VIRTIO_PCI=y
CONFIG_PCI_HOST_GENERIC=y (only needed for the QEMU Arm 'virt' board)
如果需要使用 qemu 的 -virtfs 或 -device virtio-9p-pci 选项，需要使能以上 PCI 相关的选项，否则无法工作：
9pnet_virtio: no channels available for device hostshare
mount: mounting hostshare on /hostshare failed: No such file or directory
-device virtio-9p-device 需要较少的内核选项。
为了使能以上选项，请输入以下命令：
$ make feature f=9pnet
$ make kernel-olddefconfig
Docker 主机：
$ modprobe 9pnet_virtio
$ lsmod | grep 9p
9pnet_virtio 17519 0
9pnet 72068 1 9pnet_virtio
主机：
$ make BOARD=virt
$ make root-install # Install mount/umount scripts, ref: src/system/etc/init.d/S50sharing
$ make root-rebuild
$ touch hostshare/test # Create a file in host
$ make boot U=0 ROOTDEV=/dev/ram0 PBR=1 SHARE=1
$ make boot SHARE=1 SHARE_DIR=src/modules # for external modules development
$ make boot SHARE=1 SHARE_DIR=build/aarch64/linux-v5.1-virt/ # for internal modules learning
$ make boot SHARE=1 SHARE_DIR=src/examples # for c/assembly learning
Qemu 开发板：
$ ls /hostshare/ # Access the file in guest
test
$ touch /hostshare/guest-test # Create a file in guest
使用 Linux v5.1 验证过的开发板：
| 开发板 | 支持状态 |
|---|---|
| aarch64/virt | virtio-9p-device (virtio-9p-pci 导致 nfsroot 不工作) |
| arm/vexpress-a9 | 仅支持 virtio-9p-device |
| arm/versatilepb | 仅支持 virtio-9p-pci |
| x86_64/pc | 仅支持 virtio-9p-pci |
| i386/pc | 仅支持 virtio-9p-pci |
| riscv64/virt | 同时支持 virtio-9p-pci 和 virtio-9p-dev |
| riscv32/virt | 同时支持 virtio-9p-pci 和 virtio-9p-dev |
Linux Lab 在 src/examples/assembly 目录下有许多汇编代码的例子：
$ cd src/examples/assembly
$ ls
aarch64 arm mips64el mipsel powerpc powerpc64 README.md x86 x86_64
$ make -s -C aarch64/
Hello, ARM64!
以 hello 为例：
$ cd src/examples/c/hello
$ make
gcc -fno-stack-protector -fomit-frame-pointer -fno-asynchronous-unwind-tables -fno-pie -no-pie -m32 -Wall -Werror -g -o hello hello.c
Hello, World!
下面简单介绍如何在 Linux Lab 下交叉编译和并运行 C 程序，以 X32 (code for x86-64, int/long/pointer to 32bits), ARM, MIPS, PPC 和 RISCV 为例：
$ sudo apt-get update -y
$ sudo apt-get install -y libc6-x32 libc6-dev-x32 libx32gcc-8-dev
$ gcc -mx32 -o hello hello.c
$ ./hello
Hello, World!
$ sudo apt-get install -y libc6-dev-armel-cross libc6-armel-cross
$ arm-linux-gnueabi-gcc -o hello hello.c
$ qemu-arm -L /usr/arm-linux-gnueabi/ ./hello
Hello, World!
$ sudo apt-get install -y libc6-dev-mipsel-cross libc6-mipsel-cross
$ mipsel-linux-gnu-gcc -o hello hello.c
$ qemu-mipsel -L /usr/mipsel-linux-gnu/ ./hello
Hello, World!
$ sudo apt-get install -y libc6-dev-powerpc-cross libc6-powerpc-cross
// Linux Lab v0.6 中，必须加 -static，否则运行时会有段错误
$ powerpc-linux-gnu-gcc -static -o hello hello.c
$ qemu-ppc -L /usr/powerpc-linux-gnu/ ./hello
Hello, World!
$ sudo apt-get install -y libc6-riscv64-cross libc6-dev-riscv64-cross
$ riscv64-linux-gnu-gcc -o hello hello.c
$ qemu-riscv64 -L /usr/riscv64-linux-gnu/ ./hello
Hello, World!
上面是通过 qemu-user 做指令翻译运行，如果要在目标板子上运行，参考 4.8.1 节复制到对应板子的文件系统即可。
主要的包是 libc6-dev, libc6 以及 libgcc，x32 是个例外，包名是 libx32gcc。可以通过 apt-cache search 检索更详细的列表。
Linux Lab 支持通过形如 <xxx>-run 方式访问 Makefile 中定义的目标，譬如：
$ make kernel-run help
$ make kernel-run menuconfig
$ make root-run help
$ make root-run busybox-menuconfig
$ make uboot-run help
$ make uboot-run menuconfig
执行这些带有 -run 的目标允许我们无需进入相关的构造目录就可以直接运行这些 make 目标来制作 kernel、rootfs 和 uboot。
欢迎阅读下述文档学习更多用法：
本节介绍如何从头开始为 Linux Lab 添加一块新的开发板。
列出支持的开发板，以 arm 架构为例：
$ qemu-system-arm -M ?
以 vexpress-a9 为例：
$ mkdir boards/arm/vexpress-a9/
以 versatilepb 为例：
$ cp boards/arm/versatilebp/Makefile boards/arm/vexpress-a9/Makefile
先注释掉所有的配置项，然后逐个打开获得一个最小的可工作配置集，最后再添加其他配置。
具体参考 doc/qemu/qemu-doc.html 或在线说明 http://qemu.weilnetz.de/qemu-doc.html。
我们需要为 Linux，buildroot 甚至 uboot 准备 config 文件。
Buildroot 已经为 buildroot 和内核配置提供了许多例子：
buildroot: src/buildroot/configs/qemu_ARCH_BOARD_defconfig
kernel: src/buildroot/board/qemu/ARCH-BOARD/linux-VERSION.config
Uboot 也提供了许多缺省的配置文件：
uboot: src/u-boot/configs/vexpress_ca9x4_defconfig
内核本身也提供了缺省的配置：
kernel: src/linux-stable/arch/arm/configs/vexpress_defconfig
Linux Lab 也提供许多有效的配置，xxx-clone 命令有助于利用现有的配置：
$ make list kernel
v4.12 v5.0.10 v5.1
$ make kernel-clone LINUX=v5.1 LINUX_NEW=v5.4
$ make kernel-menuconfig
$ make kernel-saveconfig
$ make list root
2016.05 2019.02.2
$ make root-clone BUILDROOT=2019.02.2 BUILDROOT_NEW=2019.11
$ make root-menuconfig
$ make root-saveconfig
编辑配置文件和 Makefile 直到它们满足我们的需要。
$ make kernel-menuconfig
$ make root-menuconfig
$ make board-edit
配置文件必须放在 boards/<BOARD>/ 目录下并且在命名上需要注明必要的版本信息，以 raspi3 为例：
$ make kernel-saveconfig
$ make root-saveconfig
$ ls boards/aarch64/raspi3/bsp/configs/
buildroot_2019.02.2_defconfig linux_v5.1_defconfig
2019.02.2 是 buildroot 的版本，v5.1 是内核版本，这两个变量需要在 boards/<BOARD>/Makefile 中设置好。
更多 clone 命令的用法如下：
$ make qemu-clone QEMU=<old_version> QEMU_NEW=<new_version>
$ make uboot-clone UBOOT=<old_version> UBOOT_NEW=<new_version>
$ make kernel-clone LINUX=<old_version> LINUX_NEW=<new_version>
$ make root-clone BUILDROOT=<old_version> BUILDROOT_NEW=<new_version>
检出版本时请使用 tag 命令而非 branch 命令，以 kernel 为例：
$ cd src/linux-stable
$ git tag
...
v5.0
...
v5.1
..
v5.1.1
v5.1.5
...
如果我们需要的是 v5.1 的 kernel，那么可以在 boards/<BOARD>/Makefile 添加一行：LINUX = v5.1。
或者从旧的版本或者是官方的 defconfig 文件中复制一份内核的配置：
$ make kernel-clone LINUX_NEW=v5.3 LINUX=v5.1
或
$ make B=i386/pc
$ pushd src/linux-stable && git checkout v5.4 && popd
$ make kernel-clone LINUX_NEW=v5.4 KCFG=i386_defconfig
如果不存在对应的 tag，可以直接使用 commit 号同时为它模拟一个 tag 名字，配置方法如下：
LINUX = v2.6.11.12
LINUX[LINUX_v2.6.11.12] = 8e63197f
可以配置和 Linux 版本对应的 ROOTFS：
ROOTFS[LINUX_v2.6.12.6] ?= $(BSP_ROOT)/$(BUILDROOT)/rootfs32.cpio.gz
以 kernel 为例：
$ make kernel-defconfig
$ make kernel-menuconfig
$ make kernel
$ make boot
同样的方法适用于 rootfs，uboot，甚至 qemu。
注意：该动作有丢失数据风险，请确保数据安全！
该功能旨在创建一个驻留在内存的临时目录，并挂载为 /labs/linux-lab/build，用于存储编译过程中的数据，如果不主动保存，关机以后，所有编译过程中的数据会全部丢失。
启动临时缓存（创建一个驻留在内存的文件系统作为 build 目录）：
$ sudo tools/build/cache
查看临时缓存的使用状态：
$ sudo tools/build/free
用临时缓存做编译加速：
$ time sudo make kernel
备份临时缓存到永久的文件（如果觉得 build 目录的数据很重要）：
$ sudo tools/build/backup
停止使用临时缓存（恢复默认的、存放在磁盘上的 build 目录）：
$ sudo tools/build/uncache
恢复使用上次备份的缓存作为 build 目录：
$ sudo mount /path/to/backup-file /labs/linux-lab/build/
$ make root-save
$ make kernel-save
$ make uboot-save
$ make root-saveconfig
$ make kernel-saveconfig
$ make uboot-saveconfig
最后，将 images、defconfigs、patchset 上传到开发板特定的 bsp 子模块仓库。
首先，获取远端 bsp 仓库的地址，方法如下：
$ git remote show origin
* remote origin
Fetch URL: https://gitee.com/tinylab/qemu-aarch64-raspi3/
Push URL: https://gitee.com/tinylab/qemu-aarch64-raspi3/
HEAD branch: master
Remote branch:
master tracked
Local branch configured for 'git pull':
master merges with remote master
Local ref configured for 'git push':
master pushes to master (local out of date)
然后，在 gitee.com 上 fork 这个仓库，上传您的修改，然后发送您的 pull request。
为了优化 Docker 镜像的下载速度，请参考 tools/docker/install 脚本的内容编辑 /etc/default/docker 中的 DOCKER_OPTS 以及 6.1.6 节。
假设 docker 网络为 10.66.0.0/16，否则，最好采用如下方式对其进行更改：
$ sudo vim /etc/default/docker
DOCKER_OPTS="$DOCKER_OPTS --bip=10.66.0.10/16"
$ sudo vim /lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --bip=10.66.0.10/16
请重新启动 docker 服务和 lab 容器以使更改生效：
$ sudo service docker restart
$ tools/docker/rerun linux-lab
如果 Linux Lab 的网络仍然无法正常工作，请尝试使用另一个专用网络地址，并最终避免与 LAN 地址冲突。
Linux Lab 的完整功能依赖于 Cloud Lab 所管理的完整 docker 环境，因此，请切勿尝试脱离 Cloud Lab 在本地主机上直接运行 Linux Lab，否则系统会报告缺少很多依赖软件包以及其他奇怪的错误。
Linux Lab 的设计初衷是旨在通过利用 docker 技术使用预先安装好的环境来避免在不同系统中的软件包安装问题，从而加速我们上手的时间，因此 Linux Lab 暂无计划支持在本地主机环境下使用。
如果需要在不使用 sudo 的情况下执行 tools 目录下的命令，请确保将您的帐户添加到 docker 组并重新启动系统以使其生效：
$ sudo usermod -aG docker <USER>
$ newgrp docker
如果无法 ping 通，请根据下面列举的方法逐一排查：
DNS 问题
如果 ping 8.8.8.8 工作正常，请检查 /etc/resolv.conf 并确保其与主机配置相同。
IP 问题
如果 ping 不起作用，请参阅 6.1.2 并更改 docker 容器的 ip 地址范围。
解决方法是选择配置以下 Docker 镜像服务站点中的一个：
Ubuntu 系统下，请根据不同版本情况选择下述某一种方法进行 Mirror 站点配置：
/etc/docker/daemon.json:
{
"registry-mirrors": ["<your accelerate address>"]
}
/lib/systemd/system/docker.service:
ExecStart=/usr/bin/dockerd -H fd:// --bip=10.66.0.10/16 --registry-mirror=<your accelerate address>
/etc/default/docker:
DOCKER_OPTS=\"\$DOCKER_OPTS --registry-mirror=<your accelerate address>\""
注意：以上三种方式不要同时配置，请选择适合 Docker 版本的方式选一种即可，新的 Linux 发行版一般都用 /etc/docker/daemon.json。
配置完需要重启 docker 服务才能生效：
$ sudo service docker restart
对于其他 Linux 系统，Windows 和 MacOS 系统，建议优先参考 阿里云 Docker 镜像使用文档。
如果添加镜像后速度依然很慢，请仔细检查是否配置成功或者是否打错了地址：
$ docker info | grep -A1 -i Mirrors
Registry Mirrors:
https://XXXXX.mirror.aliyuncs.com/
如果要恢复容器中已经安装的软件和添加的各类配置，请事先保存好容器：
$ tools/docker/commit linux-lab
在关机或者重启主机（或虚拟机）系统后，通常可以通过点击桌面的 “Linux Lab” 图标恢复运行，或者通过命令行像第一次运行那样：
$ tools/docker/run linux-lab
当前实现不支持通过 docker start 恢复容器，请知悉！
如果上述方式无法恢复，请根据情况执行 6.3.9 节中的相应步骤。
如果是从休眠中的主机（或虚拟机）系统唤醒，那么 Linux Lab 也会自动恢复，可以直接使用，登陆方式请参考 2.4 节中提供的 4 种登陆方式。例如，直接开一个浏览器去使用：
$ tools/docker/vnc
如果运行 docker 时遇到如下错误：
unable to configure the Docker daemon with file /etc/docker/daemon.json: the
following directives are specified both as a flag and in the configuration
file: registry-mirrors: (from flag: [https://docker.mirrors.ustc.edu.cn/], from
file: [https://xxx.mirror.aliyuncs.com])
说明同时在 /etc/docker/daemon.json 和 /etc/default/docker 中配置了 registry-mirrors，请注释掉后面的配置后重启 Docker 服务即可。
$ sudo service docker restart
如果在 make boot 时遇到如下错误，说明容器内网络可能不通，请参考 6.1.5 节。
Could not resolve host: gitee.com
error: pathspec 'FETCH_HEAD' dit not match any file(s) known to git
如果在 Ubuntu 20.04 下 Docker 不工作，请尝试使用 doc/install/daemon.json 并清理 dockerd 的默认参数，更多内容请参考 docker daemon：
$ sudo cat /etc/systemd/system/docker.service.d/docker.conf
[Service]
ExecStart=
ExecStart=/usr/bin/dockerd
$ sudo cp /etc/docker/daemon.json /etc/docker/daemon.json.bak
$ sudo cp doc/install/daemon.json /etc/docker/
$ sudo service docker restart
注意：记得把 registry-mirrors 配置为你希望使用的加速器地址。
如果遇到类似错误："error creating aufs mount to ... invalid arguments", 那意味着当前配置的 docker 存储驱动不被支持，可以从 Storage Driver 选配一个，例如:
$ sudo vim /etc/docker/daemon.json
{
"registry-mirrors": ["https://docker.mirrors.ustc.edu.cn"],
"storage-driver": "devicemapper"
}
这里主要是跟内核版本有关，同样的系统升级内核后，Storage Driver 类型可能得相应调整。
KVM 当前仅支持 qemu-system-i386 和 qemu-system-x86_64，并且还需要 cpu 和 bios 支持，否则，您可能会看到以下错误日志：
modprobe: ERROR: could not insert 'kvm_intel': Operation not supported
检查 cpu 的虚拟化支持能力，如果没有输出，则说明 cpu 不支持虚拟化：
$ cat /proc/cpuinfo | egrep --color=always "vmx|svm"
如果 cpu 支持，我们还需要确保在 BIOS 中启用了该功能，只需重新启动计算机，按 “Delete” 键进入 BIOS，请确保 “Intel virtualization technology” 功能已启用。
当前对以下开发板，基于内核版本 5.1（LINUX=v5.1），poweroff 和 reboot 命令无法正常工作：
LINUX=v2.6.36)在运行 poweroff 或 reboot 时，系统会直接挂起，为了退出 qemu，请使用 CTRL+a x 或执行 shell 命令 pkill qemu。
为了自动化测试这些开发板，请确保设置 TEST_TIMEOUT，例如：make test TEST_TIMEOUT=50。
欢迎提供修复意见。
| 停留界面 | 退出方式 |
|---|---|
| 串口控制台 | CTRL+a x |
| 基于 Curses 的图形终端 | ESC+2 quit 或 ALT+2 quit |
| 基于 X 图形终端 | CTRL+ALT+2 quit |
| 通用方法 | poweroff, reboot, kill, pkill |
这是由于 docker 的 image 没有更新导致，解决的方法是重新运行 lab：
$ tools/docker/pull linux-lab
$ tools/docker/rerun linux-lab
或
$ tools/docker/update linux-lab
使用 tools/docker/update，所有的 docker images 和源码都会被更新，这是推荐的做法。
如果 NFS 或 tftpboot 不起作用，请在主机端运行 modprobe nfsd 并通过运行 /configs/tools/restart-net-servers.sh 重新启动网络服务，请确保不要使用 tools/docker/trun。
浏览器和 vim 中都提供了 CTRL+w，为了避免冲突，要从一个窗口切换到另一个窗口，请改用 CTRL+Left 或 CTRL+Right 键，Linux Lab 已将 CTRL+Right 映射为 CTRL+w，将 CTRL+Left 映射为 CTRL+p。
长按键目前在 Web 界面中不起作用，因此，长按 “Delete” 或 “Backspace” 键不起作用，请改用 alt+delete 或 alt+backspace 组合键，以下是更多有关组合键的小技巧：
| 说明 | Vim | Bash |
|---|---|---|
| 行首/行尾 | ^/$ |
Ctrl + a/e |
| 前进/后退一个字 | w/b |
Ctrl + Home/end |
| 向后剪切一个字 | db |
Alt + Delete/backspace |
| 向前剪切一个字 | dw |
Alt + d |
| 剪切光标前所有 | d^ |
Ctrl + u |
| 剪切光标后所有 | d$ |
Ctrl + k |
| 粘帖剪切的内容 | p |
Ctrl + y |
为了切换英文/中文输入法，请使用 CTRL+s 快捷键，而不是 CTRL+space，以避免与本地系统冲突。
有两种方式可以调节 Web 界面窗口的大小，一种是通过 noVNC 左侧边栏设置 Scaling Mode，这样屏幕就可以自适应；另外一种是在启动时指定。
先来介绍第一种，也就是屏幕自适应，这种方法很方便，但是屏幕字体由于拉伸变形后略微有些发虚。
* 点击 noVNC Web 页面左侧的边栏（左侧有个小箭头）
* 断开连接
* 点击设置：'Settings -> Scaling Mode: -> Local Scaling -> Apply'
* 重新连接
接下来介绍第二种方法，即在启动 Lab 时指定一个合适的分辨率。
Linux Lab 的屏幕尺寸是由 xrandr 捕获的，如果不起作用，请检查并自行设置，例如：
获取可用的屏幕尺寸值：
$ xrandr --current
Screen 0: minimum 1 x 1, current 1916 x 891, maximum 16384 x 16384
Virtual1 connected primary 1916x891+0+0 (normal left inverted right x axis y axis) 0mm x 0mm
1916x891 60.00*+
2560x1600 59.99
1920x1440 60.00
1856x1392 60.00
1792x1344 60.00
1920x1200 59.88
1600x1200 60.00
1680x1050 59.95
1400x1050 59.98
1280x1024 60.02
1440x900 59.89
1280x960 60.00
1360x768 60.02
1280x800 59.81
1152x864 75.00
1280x768 59.87
1024x768 60.00
800x600 60.32
640x480 59.94
更新屏幕尺寸：
$ cd /path/to/cloud-lab
$ tools/docker/resize 1280x1024 # 指定任意一个尺寸
$ tools/docker/resize # 不带参数则设定为主系统同样的屏幕尺寸
如果需要做到全屏，可按如下步骤操作：
tools/docker/resize，把 Lab 屏幕大小设定为主机系统屏幕大小打开左边的侧边栏，点击 “Fullscreen” 按钮。
使能录制
打开左侧边栏，按 “Settings” 按钮，配置 “File/Title/Author/Category/Tags/Description”，然后启用 “Record Screen” 选项。
开始录制
按下 “Connect” 按钮。
停止录制
按下 “Disconnect” 按钮。
重放录制的视频
按下 “Play” 按钮。
分享视频
视频存储在 “cloud-lab/recordings” 目录下，参考 showdesk.io 的帮助进行分享。
Web 连接可能由于某些未知原因而挂起，导致 Linux Lab 有时可能无法响应，要恢复该状态，请点击 Web 浏览器的刷新按钮或断开连接后重新连接。
如果登陆 WEB 界面时出现 “Disconnect timeout”，请稍等片刻后继续点击左侧 “Connect” 按钮，如果依然无法成功，请按下述步骤检查。
首先检查 linux-lab 需要的 docker 容器是否正常启动（Up: 正常，Exit: 为不正常）：
$ docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
19a61ba075b5 tinylab/linux-lab "/tools/lab/run" 4 days ago Up 4 days 22/tcp, 5900/tcp linux-lab-21575
75dae89984c9 tinylab/cloud-ubuntu-web "/startup.sh" 8 days ago Up 8 days ....443/tcp cloud-ubuntu-web
如果为 Exit，可能是关机后容器自动关闭了，也可能是容器启动失败，如果是容器自动关闭了可以通过如下命令启动：
$ tools/docker/run linux-lab
如果依然无法启动，请检查并分析启动日志：
$ tools/docker/logs linux-lab
如果日志正常，那说明之前保存的帐号和密码可能由于某次异常失效了，需要参考如下步骤重新生成新的帐号和密码。
注意: 下述 clean 和 rerun 命令会清理一些容器和数据，请自行做好相应备份，例如固化容器：
$ tools/docker/commit linux-lab
使用不匹配的密码时会导致 Web 登录失败，要解决此问题，请清理环境并重新运行。
$ tools/docker/clean linux-lab
$ tools/docker/rerun linux-lab
如果上述命令依然无法启动，请尝试执行下述命令（该命令会整理整个 Cloud Lab 环境，请务必做好必要数据备份)：
$ tools/docker/clean-all
$ tools/docker/rerun linux-lab
用户报告了许多 snap 相关的问题，请改用 apt-get 安装 docker：
/dev/loop 设备从而导致无法挂载文件系统。在进入 VNC 客户端的全屏模式后，不同客户端软件在不同系统上的退出方式可能五花八门，甚至有些可能有 Bug，如果想切回主机，又没有便捷的方式，就会让人抓狂。
这个时候，就推荐下面的方式，理论上，与 VNC 客户端软件无关，那就是在 Linux Lab 内杀掉 VNC 服务：
$ sudo pkill x11vnc
由于 Linux Lab 会自动恢复掉线的 x11vnc 服务，所以完全不会影响下次登陆。
这意味着 rootfs.ext2 文件可能已损坏，请删除该文件，然后再次尝试执行 make boot，例如：
$ rm boards/aarch64/raspi3/bsp/root/2019.02.2/rootfs.ext2
$ make boot
make boot 命令可以自动创建该映像，请不要中途打断。
这意味着您使用的 gcc 版本不为当前 Linux 内核所支持，可使用 make gcc-switch 命令切换到较旧的 gcc 版本，以 i386 / pc 开发板为例：
$ make gcc-list
$ make gcc-switch CCORI=internal GCC=4.4
这个错误会在执行 make boot 时报出，原因可能是由于克隆代码仓库时使用了 root 权限，解决方式是修改 cloud-lab/ 目录的所有者：
$ cd /path/to/cloud-lab
$ sudo chown <USER>:<USER> -R ./{*,.git}
$ tools/docker/rerun linux-lab
为确保环境一致，目前 Linux Lab 仅支持通过普通用户使用，如果是用 root 用户下载的代码，请务必确保普通用户可以读写。
这是因为 MAC OSX 缺省的文件系统不区分大小写，请使用 hdiutil 或 Disk Utility 自己创建一个：
$ hdiutil create -type SPARSE -size 60g -fs "Case-sensitive Journaled HFS+" -volname labspace labspace.dmg
$ hdiutil attach -mountpoint ~/Documents/labspace -nobrowse labspace.dmg.sparseimage
$ cd ~/Documents/labspace
这是因为 Windows 没有使能文件系统的大小写支持，通过 Git Bash 开启它：
$ cd /path/to/cloud-lab
$ fsutil file SetCaseSensitiveInfo ./ enable
也可以通过管理员打开 cmd，然后执行：
$ fsutil.exe file SetCaseSensitiveInfo <path/to/cloud-lab> enable
默认情况下，可以免密直接切到 root：
$ sudo -s
如果看到如下信息：
$ make boot ROOTDEV=/dev/vda
ERR: /dev/vda not in supported ROOTDEV list: /dev/sda /dev/ram0 /dev/nfs, update may help: 'make bsp B=mips64el/ls3a7a'. Stop.
$ make boot LINUX=v5.8
Makefile:594: *** ERR: v5.8 not in supported LINUX list: loongnix-release-1903 v5.7, clone one please: 'make kernel-clone KERNEL_NEW=v5.8'. Stop.
$ make boot QEMU=loongson-v1.1
Makefile:606: *** ERR: loongson-v1.1 not in supported QEMU list: loongson-v1.0, clone one please: 'make qemu-clone QEMU_NEW=loongson-v1.1'.
表示当前设置的变量值无效，例如：
当前设定的版本还未支持或者还未验证和添加
xxx-clone 命令克隆出一个新版本，目前支持：qemu-clone, uboot-clone, kernel-clone, root-clone当前设定的变量值未经验证或者根本不支持
ROOTDEV_LIST 中只有 sda, ram0 和 nfs如果当前使用的是预制文件系统，说明操作过程中可能有类似 CTRL+C 中断了正常根文件系统目录、Ramdisk 或 Hardisk 镜像的创建过程，导致文件系统不完整，在确保 BSP 目录无其他紧要修改的情况下，可以通过如下命令恢复 BSP 仓库为默认设置：
$ make bsp-cleanup
如果当前使用的是用户自己构建的文件系统，请确保文件系统符合 Linux 的规范，确保相关的基础目录均存在。
我们的联系微信是 tinylab，欢迎加入 Linux Lab 的用户和开发人员讨论组。
通过微信扫描下述二维码联系我们或提供赞助：
此处可能存在不合适展示的内容，页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容，可点击提交进行申诉，我们将尽快为您处理。
马建仓 AI 助手