设计一副智能手套,可将自然的手部动作转化为流畅的打字和光标控制
该项目介绍了一款集成了传感器的手套,通过手势来执行键盘和鼠标操作。该系统将指尖上的压力传感器与手掌背面的惯性测量单元(IMU)相结合,将手指轻触和手部动作转化为键盘和鼠标的控制指令。这使得用户可以在任何表面上进行完整打字和光标控制,提供一个无需大而平坦表面、且能适应用户自然姿势的通用控制界面。
相关作品/灵感:
可穿戴输入设备的发展在人机交互(HCI)领域占据着重要地位,尤其适用于移动设备和无需视线的文本输入。该领域的核心概念是Engelbart(1968年)提出的有键键盘,它通过同时组合按键实现复杂的字符映射,显著缩小了设备的物理体积。
近期的研究已将这些逻辑映射转化为数据手套。早期的实现主要依靠柔性传感器或惯性测量单元(IMU)来解析手部空间手势。然而,采用力敏电阻(FSR)进行力感传感已成为一种更可靠的选择,相比基于手势的系统,它能提供更清晰的触觉反馈和更高的输入可靠性。此外,集成高性能微控制器(如ESP32)使得通过蓝牙低功耗(BLE)实现无线人机交互设备成为可能。这些进展共同推动了紧凑型可穿戴外设的发展,在增强现实和无障碍应用中为传统输入方式提供了可行的替代方案。
硬件:
ESP32微控制器(MCU)通过蓝牙低功耗(BLE)与FSRs和IMU接口,控制两个主要的计算机配件。ESP32连接到一个标准面包板,该面包板安装在定制的胶合板支架上,可通过魔术贴扎带固定在尼龙手套上。这些扎带还用于固定一个5V移动电源,通过USB-C线缆为ESP32供电。
五个自由应变片(Alpha MF01A-N-221-A01)通过电工胶带粘贴在尼龙手套的指尖上。每个自由应变片(20MΩ - 200Ω,0N - 10N)与一个1MΩ电阻串联,形成电压分压电路,输出电压随施加力增大而上升。每个自由应变片分压后的模拟电压连接到ESP32上的通用输入输出(GPIO)引脚,该引脚用于连接模数转换器(ADC)。
9轴IMU(MPU-9250)通过M3×8mm的螺丝和螺母安装在定制的胶合板支架上。IMU通过I2C引脚(SCL、SDA)与ESP32连接。
设备的正面和背面在下图中可见:
在连接电路前,请务必将压电传感器(FSR)固定到手套的指尖上。具体方法是:用胶带将传感器杆底部贴在手指上,使针脚外露,然后将杆的顶部缠绕在指尖上方,并使用传感器背面的粘合剂或一点强力胶水将传感器粘贴到指垫上。此外,用于安装IMU的安装孔未包含在胶合板支架的图纸中,必须使用3毫米钻头预先钻出。
将移动电源固定到手臂上时,先用魔术贴带紧紧缠绕一圈,然后在第一圈魔术贴带上再粘上第二套魔术贴带,并将第二套绕在手臂上,最后将其固定在第一圈魔术贴带的另一侧。
软件:
启动时,软件会持续追踪用户手指上的每个FSR,当检测到模拟值超过250时即记录触碰或按压。在最近一次触碰后600毫秒内,按压动作会被解析为不同的命令。该软件主要有两种模式:鼠标模式和键盘模式。当检测到用户中指双击时,系统会在这两种模式之间切换。
当处于鼠标模式时,软件通过计算手掌背面IMU加速度传感器的俯仰和横滚角度来确定鼠标移动。为了滤除噪声,软件仅记录大于5度的倾斜角度。横滚测量手掌左右倾斜,软件会相应地在屏幕上向左或向右移动光标;同样,俯仰测量手掌上下倾斜,软件则相应地在屏幕上向上或向下移动光标。当小指被按住时,还可以实现屏幕滚动,而非上下移动。同时,当软件检测到食指或无名指被轻触时,分别会进行向右或向左点击操作。这些手势均无600毫秒的延迟。
在键盘模式下,软件将处于字母或数字模式。当检测到用户拇指双击时,软件会在两种模式之间切换。在字母模式下,若手势未以拇指点击或按住开始,则软件会将其解释为下方“手势”部分中“小写字母”表中的对应小写字母。如果用户在完成手势前先轻触一次拇指,则软件会将其解释为“手势”部分中“大写字母”表中的对应大写字母。在数字模式下,若手势未以拇指点击或按住开始,则软件会将其解释为“手势”部分中“数字与基本标点符号”表中的对应数字或符号。无论哪种模式,若用户在执行手势时持续按住拇指,则软件会将其解释为“手势”部分中“特殊符号”表中的对应特殊字符。随后,软件将该字符显示在屏幕上。
手势:
里程碑摘要
在第一个里程碑中,我们提出了使用指尖带有压力传感器、背部配备惯性测量单元(IMU)的手套,在蓝牙连接设备上进行打字的方案。在此阶段,我们未包含任何鼠标控制的设计,而是计划利用IMU来切换字符表。本阶段所建立的数据流在最终产品中保持不变。
在第二阶段的里程碑中,我们搭建了一个小型演示电路,使用单个光纤传感器(FSR)和IMU。ESP32能够读取FSR的数据,并将触摸点识别为点和划,将其转换为摩尔斯电码。同时支持通过IMU进行单一手势操作,即向右旋转IMU可切换大小写字母。目前仍不支持鼠标控制功能,该功能将在最后一个里程碑中加入项目。
未来改进
虽然手套能够打字并控制鼠标,但其硬件体积笨重且易损。未来工作的主要方向是开发一种将电路嵌入手套的方法。这可能包括用焊接的导电线替代面包板和跳线,并将其缝入手套中。此外,也可以使用更小的微控制器和电池。
另一个方向是用应变传感器取代压力传感器,测量每个手指的伸展程度而非压力。这样可以省去对表面的需求,可能实现空中控制键盘和鼠标,并且通过在每个手指上加入某种电阻来检测按键按下时的信号,从而进一步优化。
本文编译自hackster.io





