@程序员，别再让 Hotplug 问题难住你！

作者 | 喻津

责编 | 胡巍巍

本文经授权转载自DPDK与SPDK开源社区

什么是hotplug？

Hotplug即带电插拔，它的功能就是允许用户在不关闭系统，不切断电源的情况下取出和更换设备，最常见的如USB键盘，鼠标。

为什么需要hotplug？

Hotplug已经是现代计算机中不可或缺的特性之一了，它极大的方便了计算机的使用。单纯意义上的hotplug通常指设备的插入和删除，但是它不仅仅局限于此，它还可以应用于以下几个方面：

• 改变配置或者修复系统

• 负载均衡

• 动态迁移

• 减少能耗

而在云服务领域，关闭系统所带来的经济损失是巨大的。单以存储举例，硬盘是有可能损坏的，而且，存储空间也有可能消耗到一个危险的水平。这些都要求云服务在部署的时候就考虑到了硬盘的hotplug。

SPDK和hotplug又有什么关系呢？

SPDK（Storage Performance Development Kit）是一款专注于存储的用户态开源软件，加速磁盘的读写仅仅是它的一个特点之一，更多的信息可以访问网站https://spdk.io/来发掘SPDK的更多特性。SPDK的整体架构如图（1）所示，我们在bdev （Block Device Abstraction）层提供了hotplug的支持。

图-1 SPDK Architecture

SPDK从两个方向提供了hotplug的支持，这与SPDK的架构和使用有关。SPDK可以通过config 文件在启动时指定要创建的block device或者在启动后通过RPC的方式来创建与删除block device。所以，如图（2）所示，SPDK 对hotplug的支持有两个方向：

1. 物理设备的热插拔

2. 通过RPC实现的block device的热插拔。

图-2 SPDK Hotplug

图-3 SPDK event framework

• uio_pci_generic

• vfio-pci

图-4 SPDK UIO Hotplug handle

设备被移除后，SPDK还是有可能访问设备的空间，这个时候会引起sigbus。所以，我们需要注册了一个sigbus_handler，如图（5）所示，step  ②访问已经被移除的SSD-2的BAR空间，此时触发已注册的sigbus_handler，在sigbus_handle中我们对访问设备的虚拟地址做了新的匿名映射，同时把匿名页全置0xff，防止第二次的sigbus的出现。

图-5 SPDK sigbus handler

vfio-pci的hot remove有很大的不同，他不是通过uevent广播，而是通过request notify的方式通知用户，同时需要用户先释放自己的device，vfio-pci才能卸载。对于hot add， vfio-pci没有什么不同也是通过uevent的方式实现。目前SPDK正在实现对vfio-pci hot remove的支持，敬请期待。

3.3 RPC Command

通过RPC实现hotplug就比较直接，它相当于省略了物理设备hotplug处理中，接收和解析uevent的步骤，它的实现流程如图（6）所示。如果，我们仅仅看NVMe bdev的实现，我们就会发现，RPC和物理hotplug最后都调用到了remove_cb（）（在bdev_nvme.c中）。SPDK正在逐步放弃使用config文件启动的方式，而是选择在启动后通过RPC来创建对应的设备和启动服务。

图-6 SPDK RPC hotplug

SPDK中如何测试hotplug？

总结

Hotplug在存储实际使用中扮演着相当重要的角色，而SPDK提供的用户态hotplug解决方案会方便用户的使用与扩展，SPDK也会基于这套方案完善更多的基于hotplug的应用。