跳到主要内容

PICO 用户手册

Pico 人机遥操作

最新版本: downloaddownload

打开应用​

按照 Pico App 安装 完成安装。打开应用时保持两个手柄处于追踪状态,并同意必要的权限和系统弹窗。

检查您的设置​

电量​

确保您的头显电量在 20% 以上,否则出于安全考虑,系统会弹出警告信息,您可能无法开始使用遥操作。

Low battery warning message
低电量警告信息

网络​

确保您的头显通过 USB 扩展坞和网线连接到主机,以获得最佳体验。强烈建议您关闭头显中的 WiFi,以防在操作过程中受到任何干扰。点击信息下方的按钮即可打开 WiFi 设置面板。

WiFi setting
WiFi 设置

手柄电量​

使用前请检查手柄电量。如果手柄电量过低,手柄将无法被追踪,您也无法使用遥操作。您可能需要充电或暂时更换电池,稍后再试。在您放下手柄一段时间后若系统无法追踪到手柄,图标会熄灭。电池图标旁边的手柄图标显示的是当前的手柄可用状态。此状态会被以下情况影响:手柄电量、手柄运动静止、手柄运动超速、手柄是否被系统追踪到。

边界设置​

点击 查看边界设置。我们使用您的边界设置来获取真实世界中地面的位置,并将虚拟机械臂的位置显示出来。如果您没有设置房间边界或者原地边界,摇操时您将会看到系统UI 和虚拟机械臂过高或者过低。我们提供三种调试边界的方法:地面高度、重设原地边界、重设房间边界。您可以按照图片指示分别设置。

边界设置
边界设置

语言​

您可以通过点击主面板左上角的语言下拉按钮来切换语言。当前版本支持英文、中文和日文。该设置更改也会同步应用到语音播报功能。

Language setting
语言设置

重要配置​

机械臂末端执行器配置​

在这个选项中自由切换机械臂末端的配置,通常是灵巧手或者夹爪。根据不同厂家的执行器,遥操的XR 端也需要更改相应配置。

连接到主机与末端原点设置
连接到主机与末端原点设置

如果机械臂装夹爪,XR端请选择:控制器(手柄)

如果机械臂装灵巧手,XR端请选择:手套(目前支持 Manus 或 UDCAP 两种)

Manus 手套配置
Manus 手套配置
UDCAP 手套配置
UDCAP 手套配置

传输协议​

尽力传输​

该模式使用 UDP 发送追踪数据。它是默认模式,推荐大多数用户使用。但是这可能会导致丢包或抖动。如果您有良好的网络连接(如使用网线),建议您选择此模式。

可靠传输​

该模式使用 TCP 发送追踪数据。它速度较慢,且可能会有较高的延迟。如果您在网络环境较差或不稳定的情况(如使用 Wi-Fi)下,建议您选择此模式。

身体追踪​

PICO 全身追踪功能​

当使用 PICO 全身追踪功能的数据时,请佩戴至少 2 个 PICO 追踪器(推荐 3 个,分别位于左右脚和腰部)。打开体感追踪器应用进行设置、校准,设置完成后返回我们的应用。点击下方的按钮可以直接打开体感追踪器应用。

运动追踪功能
运动追踪功能
全身追踪示意图
全身追踪示意图

简易全身追踪​

提示

此功能在 1.0.8 版本之后支持。

此功能是 PICO 全身追踪功能的替代方案。它专为无追踪器遥操作设计,利用左右手柄和头部位置在应用内模拟全身动作。在使用前,请确保手柄和头部追踪正常,将模式切换至此选项,点击“校准”并伸直双臂保持 5 秒。如果系统显示出骨骼模型,即可开始使用。

简易全身追踪
简易全身追踪模式下的遥操作

连接到主机​

填写您的主机 IP 地址以及您的身高(cm),您可以点击身高文本框上方的按钮获取一个预估值。如果检测到主机地址,IP 输入框上方也会出现提示框ApexHost XXX.XXX.XXX.XXX,点击即可将主机地址填入输入框。

提示

您必须退出遥操作状态才能更改配置,处于遥操作状态下该按钮无法点击。

确认身高和 IP 地址正确后,点击连接按钮连接到主机。

  • 连接成功:
    • 您双手的手柄会发出两次短促的震动。
    • 图标将会改变为
  • 连接失败:
    • 您双手的手柄会发出一次长震动。
    • 图标不会有任何变化。

主机录制功能​

在右手柄上按下 B键可以通知主机开始或结束录制,录制成功或失败会有语音提示。使用此功能前请确保头显跟主机的 HTTP 连接畅通,通过查看主面板上的录制图标,如果没有感叹号就表示目前连接正常。

重置机器人位姿​

在右手柄上按下 A 键可以通知主机恢复机器人初始位姿。若成功会有语音提示。使用此功能前请确保头显跟主机的 HTTP 连接畅通。

如何开始和结束遥操作​

连接到主机后,您可以按下左手柄上的Y键开始遥操作。界面会显示您的连接状态。在此模式下,您可以使用手柄控制机器人。按下X键可以结束摇操。开始和结束时都会有语音播报,如果在摇操过程中出现低电量、设备断联的情况,会自动断开摇操,断开时会有手柄震动。

将手跟虚拟机械臂重合,按住侧边键即可以向机械臂发送操控指令。松开侧边键则暂停摇操。强烈建议您在未摇操或暂停时按X直接退出摇操。

在主面板上有左/右手手柄的图标,如果图标亮起且没有显示红色,即表示目前手柄的追踪状态正常。

空间视频​

点击 打开或者关闭视频。在正确填写IP 并打开视频后,您将看到如下视频传输界面:

Connecting video stream
视频连接中
Connected video stream
视频已连接
机械臂右手腕部相机画面
用户正在查看机械臂右手的相机流来帮助他精细化操作

用户除了中间那个空间视频的大屏,还可以看到机械臂左右两个腕部相机的视频流。增加了细节可以加强操控的准确性。两个腕部相机的视频流可以选择固定在空间视频窗口下方,或者跟随用户手腕运动。

主视频窗口左上方有以下选项:

  • 收起视频。
  • 固定/取消固定空间视频窗口。
  • 查看视频流传输细节,例如带宽、像素、网络情况等。
  • 拉伸空间视频窗口。
  • 主视频流支持切换双目视频(Stereo)和单目视频(Mono)画面。
空间视频窗口左上方的选项

将光标移入空间视频中下方,可以调节空间视频的瞳距(IPD)。此设置可以减轻用户的眼睛疲劳以及改善远端空间感知。

空间视频窗口中下方的瞳距调节滑块

推流和游玩 XR 应用​

提示

此功能在 1.0.8 版本之后支持。

打开遥操作应用后,推流链接将出现在主面板的底部,如下所示:

XR 视图推流
XR 视图推流

您可以在电脑或平板浏览器中输入上述链接来打开此视频流。您的外部设备和 XR 设备必须处于同一网络下。

观看 XR 视频流时有两种模式:First-Person和 Free Cam模式。在 Free Cam 模式下,您可以执行左键转动、中键位移、右键点击。此模式旨在协助非专业用户,First-Person 模式仅供观看。视频流有三种画质模式:low regular 和 high。

XR 投屏
将 XR 画面投屏至电脑和平板
已连接的视频流
自由视角模式及交互展示

如何进入开发者模式​

警告

仅供开发者使用。这可能会给您的设备和机器人带来安全风险。请仅在明确操作后果的情况下启用。

点击面板顶部的 标志即可打开开发者面板。您会看到主面板旁边出现了新的选项。本应用使用 TCP 进行主机通信,使用 UDP 进行机器人控制并接收来自机器人的遥操作数据,使用 WebRTC 进行视频流传输。

再次点击即可关闭开发者面板。

Developer Mode
开发者模式

在开发者模式下您可以做什么?

在开发者模式下,您可以查看主机与头显之间的通讯细节和具体日志,进行各个端口配置,以及进行其他更精细的配置。

  • 单独更改主机连接、空间视频和数据传输端口。
  • 测试主机连接、空间视频和数据传输状态并单独断开/连接它们。
  • 查看与主机连接、空间视频和数据传输相关的应用日志。

安全检查​

[待更新。]

交互按键对照表​

手柄按键功能
左手菜单键最大化/最小化面板
Pico 4 Ultra Controller
Pico 4 Ultra Controller
左手Y 键开始遥操作
左手X 键退出遥操作
右手A 键重置机器人姿态
右手B 键开始/结束主机录制
右手菜单键长按以重置原点
左/右扳机键点击UI, 控制夹爪
左/右侧边键摇操时按住
左手摇杆(摇杆下压)机器人底盘旋转
右手摇杆(摇杆下压)机器人底盘平面移动
左手摇杆(长按)开启全身控制底盘
右手摇杆(长按)开启摇杆控制底盘运动
双手摇杆(同时长按)关闭底盘运动

已知问题​

手柄被完全遮挡时,机械臂为何会出现抽动或缓慢漂移?​

本项目使用头显与手柄的光学定位系统。当手柄被完全遮挡时会导致追踪丢失,而系统判断追踪丢失存在极短的时间阈值。若手柄被突然遮挡后又迅速恢复,底层的追踪状态可能未能及时通知到应用层。

系统已内置瞬时抖动过滤机制以确保安全,但无法完全消除缓慢的姿态漂移。用户在操作过程中若发现机械臂出现缓慢漂移,应立即停止操作。

当系统确认底层光学追踪丢失,或手柄电池耗尽时,机械臂的控制均会立即自动停止。

如何关闭 PICO 的安全防护边界?地上总有一个蓝色的圆圈限制我走动。​

出于您的安全考虑,我们不建议关闭安全边界,请考虑重新绘制房间边界以便在物理空间内自由移动。如果您清楚关闭该功能可能带来的意外后果,请按照以下步骤操作。

Disable safeguard on PICO