虚拟现实及增强现实技术在眼视光学的研究进展
赵峰, 任彦新
210006 南京医科大学附属南京医院(南京市第一医院)眼科(赵峰)
050051 河北医科大学第二医院眼科(任彦新)
通信作者:任彦新(ORCID:0000-0002-0931-217X),Email:2242312488@qq.com

第一作者:赵峰(ORCID:0000-0002-4927-0090),Email:96140501@163.com

摘要

近年来,虚拟现实和增强现实技术得到快速发展,在医学领域的应用逐渐增多,作为计算机、光学、眼科学等的交叉学科,其在眼视光学的应用尤其令人关注。为进一步促进相关研究的发展,现就虚拟现实和增强现实技术在眼视光学医学教育、手术辅助、疾病诊疗等方面的应用及研究进展进行综述。

关键词: 虚拟现实; 增强现实; 混合现实
Progress of Virtual Reality and Augmented Reality and Its Effect on the Optometric Field
Feng Zhao1, Yanxin Ren2
1Department of Ophthalmology, Nanjing First Hospital, Nanjing Medical University, Nanjing 210006, China
2Department of Ophthalmology, the Second Hospital of Hebei Medical University, Shijiazhuang 050000, China
Corresponding author:Yanxin Ren, Department of Ophthalmology, the Second Hospital of Hebei Medical University, Shijiazhuang 050000, China (Email: 2242312488@qq.com)
Abstract

The technologies of virtual reality (VR) and augmented reality (AR), which are considered as a cross-discipline subject in the computer, photology and ophthalmology fields, has expanded rapidly in recent years. There has been an increase in clinical applications, especially for the optometric field. To further promote the development of related research, the application and research progress of virtual reality and augmented reality technology in medical education, surgical assistance, disease diagnosis and treatment are reviewed.

Keyword: virtual reality; augmented reality; mixed reality

虚拟现实(Virtual reality, VR)和增强现实(Augmented reality, AR)技术近年来发展迅速, 呈现出普及化趋势。由于涉及大量应用光学, 双眼视觉学, 视觉神经学知识, VR和AR技术在眼视光学的应用尤其令人关注, 以“ 头戴式显示” (Head-mounted display, HMD)或智能眼镜为主要实现手段的VR或AR技术, 将有望成为眼视光学研究及疾病诊治的重要工具。

1 常见虚拟技术的定义及特点
1.1 VR

VR指构建完全数字化的三维虚拟环境, 提供使用者关于视觉、听觉、触觉等感官的模拟, 并将使用者与现实环境相隔绝, 以达到身临其境的感受。在VR环境里, 使用者看到的是完全虚拟的景象。VR技术的代表产品是Oculus Rift和HTC Vive。虚拟现实有3大显著特点[1]:①沉浸感, 使用者以第1视角处于完全虚拟的环境内, 而不是像其他3D显示设备那样通过第3视角来进行旁观, 故有更强的现场感; ②交互性, 使用者可以与构建的虚拟环境进行互动, 例如在虚拟的人体上进行手术操作; ③构想性, 借助所构建的那些常规无法到达的或抽象的场景, 使用者可以身处任何环境, 从而扩展视野和想象力, 例如从眼球内部来观看眼球解剖结构, 跟随房水流动来感受房水循环, 从不同角度来展示复杂的视路走行等。

1.2 AR

AR指在现实环境中增添由计算机生成的虚拟信息, 从而达到现实的增强[2]。在AR环境里, 使用者看到的是虚拟景象与现实环境的叠加。AR技术的代表产品是基于移动设备的各种AR应用程序和微软的Hololens。

1.2.1 基于移动设备的AR应用 基于手机等设备的AR程序可以对图片或视频进行处理, 在其中添加虚拟物体或信息。例如在一个空白的桌面上叠加一个用于教学的眼球模型, 在患者的角膜缘实时叠加一个轴向标记等。这种方式实现简单, 无需购买额外的设备, 目前最为常见。

1.2.2 基于HMD设备或智能眼镜的AR应用 以微软的Hololens为代表的AR设备可以对现实世界进行3D建模, 并将虚拟物体或信息叠加于其中, 从而实现虚拟世界与现实世界的混合, 因此微软公司又将这种增强型的AR称之为混合现实[3](Mixed reality, MR)。

1.3 两者的区别及联系

应注意的是, VR与AR之间并无完全清晰的界限, 例如通过在VR头盔上添加摄像头并对现实环境实时建模, 将其应用于VR环境中, 则VR设备可以实现AR的功能, 即VR和AR在一定条件下可相互融合[4]

2 虚拟技术在眼视光学的应用现状
2.1 眼科医学教育

Theart等[5]报道了一种利用VR技术来显示微观结构的方法, 即利用其开发的Confocal VR软件, 可以将共焦显微镜获取的切面信息转化为3D结构, 并在VR设备里以任意角度进行观看。这种方式极大地方便了科研人员对细胞超微结构及相关生理功能的理解, 如将类似技术应用于眼科共焦显微镜或光学相干断层扫描(OCT)检查, 有望促进眼组织微观结构及功能的研究。

浙江医科大学第二医院眼科中心的姚克教授、徐雯教授及其团队曾于2016年进行了我国首次眼科VR手术直播, 为一位中年白内障女性进行了飞秒激光辅助白内障摘除术及人工晶状体植入术[6]。相对于传统直播方式, VR可以更真实地模拟患者视角或医师视角, 从而增强现场感。通过全景摄像机记录患者进入手术室到躺在手术台上, 手术中及手术后景象, 并在VR设备上播放, 可用于术前宣教, 帮助患者更好地了解手术流程和进行术中配合。医师视角则突破了传统手术录像仅显示手术区操作的限制, 允许使用者随时转头、转身, 甚至在一定范围内走动来观察手术室内其他细节, 例如助手和护士的配合, 仪器设备的调试等, 这种方式显然更接近于真实的手术观摩体验。此外VR技术还可用于帮助学生或患者更好地理解飞蚊症、视野缺损、视物变形、眩光等视觉症状。

国内已有多家医院利用EYESI等眼科手术模拟系统进行规范化培训[7], 由于眼科手术多在显微镜下操作, 故这些模拟系统一般没有使用HMD设备, 而是通过目镜来模拟手术显微镜下所见, 这使得3D虚拟场景的实时构建仅需集中在相对较小的范围, 且无需跟踪使用者头部或身体的移动, 因此眼科显微手术模拟在进行VR开发时具有一定优势。在此基础上, 还可以开发基于HMD设备的交互式手术教学系统, 以完整地模拟手术室环境, 使其不仅限于显微镜下操作, 从而提供更为完善的手术培训方式。国内较为严峻的医患关系造成医学生在临床实习过程中越来越难以直接参与有创检查及治疗, 这种现状必然导致医学教育质量的下降, VR技术与医学教育的结合, 可以为医学生提供更多身临其境的学习经验, 为目前医学教育的困境指明新的方向。

2.2 眼科手术辅助

2.2.1 术前规划 对于复杂的眼科手术, 例如眼眶或颅底的肿瘤, 可以借助CT、MRI、造影的结果来构建肿瘤与附近组织的3D模型, 通过VR或AR的方式进行术前模拟, 了解其位置关系, 更好地规划手术方案[8, 9]

2.2.2 术中辅助 由于VR技术隔绝了现实环境, 故术中辅助一般采用AR技术。例如在静脉注射时, 可以利用AR技术将超声采集到的血管信息投射到患者体表[10], 当操作者戴上AR眼镜后可以如同透视般得看到患者皮肤下血管的分布及走向, 且血管的形态和位置随着患者体位的改变而实时改变, 精确叠加, 可以大大提高治疗操作的安全性。在屈光手术中, AR技术已有初步应用, 例如某些准分子设备和手术显微镜可以实时跟踪眼球, 并叠加轴位标记或其他信息, 以矫正眼球旋转或实时了解设备参数的变化。AR技术用于手术导航时, 一方面要无缝整合, 叠加的信息不能对手术造成干扰, 另一方面要在停电和故障的情况下仍然可以保证安全。因此, 采用半反射光学穿透技术的Hololens等AR设备较为适合[11]

2.2.3 远程手术 随着技术的进步及网络传输速度的提高, 将来还有望通过VR或AR技术实现远程手术。Preceyes公司关于“ VR手术机器人” 的研究项目在2014年获得了欧洲视网膜专家学会颁发的最优创新成果奖, 美国佐治亚医学院也已尝试使用眼科手术机器人来进行远程手术[12]。相关技术的发展或将为医疗资源的配置及优化带来巨大影响。

2.3 眼视光相关疾病诊治

HMD设备是目前VR或AR的主要实现方式, 主流的HMD设备如Oculus Rift和HTC Vive一般采用双目单焦面的设计, 通过计算机向2个显示屏提供具有一定视差的画面而得到立体感[13]。这种设计结构简单, 适用范围较广, 在使用单焦面HMD设备时, 显示屏的画面通过透镜成像固定于2~5 m处, 当虚拟环境内的物体由远及近移动时, 眼球发生会聚, 但为了保持清晰, 调节水平仍维持在2~5 m处, 这就造成了调节与辐辏的不一致, 即使用HMD设备时人眼正常的调节及辐辏联动会被打破, 这引发了人们对HMD设备可能会促进近视、斜视发展或导致双眼视功能障碍的担心[14], 但同时也为利用这个特点来诊断或治疗一些眼视光学相关疾病提供了可能性。

2.3.1 弱视治疗 Ziak等[15]利用VR设备来治疗成人弱视的初步研究显示, 17名成年弱视患者使用Oculus Rift头盔及配套的弱视治疗软件来实现对双眼不同强度的视觉刺激, 2个月后, 超过90%的患者弱视眼视力有所提高, 且视觉敏锐度增加。孙兴怀教授团队将AR技术与双眼分视训练结合, 用于成人弱视治疗, 经过4周左右的训练, 大部分患者的弱视眼视力和不良的双眼间抑制均有所改善[16]。该研究的初步结果在2017年美国眼科和视觉研究协会年会(Association for Research in Vision and Ophthalmology, ARVO)上发言交流, 并被ARVO评为热点之一。

2.3.2 视功能训练 HMD设备在配合一定软件引导的情况下有望选择性地进行调节或辐辏训练, 例如通过调整HMD设备双侧画面的视差来控制眼球的会聚程度。这种训练方式将视功能的改善与脑知觉、身体行为紧密联系起来, 有可能成为VR或AR眼视光学应用的一个重要方向。

2.3.3 老视及低视力 Konrad等[17]设计了单眼视VR头盔, 左眼焦距在50 cm附近, 右眼焦距在无限远处, Konrad等认为借助这种单眼视设计可以减轻使用VR时的视疲劳, 且可以用于老视矫正。借助于移动式AR设备, 可跟踪使用者头部移动, 放大注视点物体或提供较宽的视野, 从而帮助低视力患者, 例如用于三星Gear VR设备的Iris Vision软件。如结合视网膜投影技术, 还有望将外界信息投射在黄斑病变患者旁中央视网膜区域, 从而避开病变部位, 提高患者视力。随着技术的进步, VR及AR有望在低视力矫正方面发挥重要作用。

此外, VR和AR技术在一些疾病的辅助诊疗, 例如幻视、癔症、伪盲、斜弱视及视功能检查、获得性脑损伤恢复[18]、运动技能提升等方面也有较好的应用前景。

2.4 眼视光学研究

在VR环境下, 移动头部或站在不同的位置会看见物体的不同侧面, 这与观看3D电影明显不同。即VR环境比传统3D显示多了移动视差的信息, 因此VR更完美地模拟了现实情况下人眼的视觉环境, 更逼近于人眼观看三维物理世界的方式, 这使其成为理想的视光学研究工具。

2.4.1 视功能研究 一项研究显示, VR 设备可能给儿童的距离感知能力及平衡感带来一定的影响[19]。这提示我们应关注VR、AR设备对儿童的潜在影响, 还有助于更深入地理解视觉发育过程, 也为将来在VR环境下保持与现实一致的眼手协调, 距离感知能力, 实现精确的手术模拟或远程手术打下了基础。

2.4.2 近视研究 目前认为, 户外活动、角膜塑形镜、调节力训练等对控制儿童近视的发生和发展可能有一定作用[20], 但其机制尚不完全明了。在VR环境下, 光照强度及光谱构成的调整较易实现, 结合眼动跟踪及注视点渲染、多焦面显示等技术则有望维持使用者周边视网膜离焦状态, 并在软件配合下进行调节力训练。这为利用VR技术探究近视发生发展机理, 进行近视防控提供了可能性。例如2017年全国两会期间, 山东省与会代表就介绍了山东省将VR技术应用于青少年近视防控的经验。但应注意的是, 目前近视的病因尚不完全明了, VR或AR采用的HMD设备对视功能的影响也尚缺乏高质量的证据, 因此在近视防控等领域的应用还需谨慎。

2.4.3 脑视觉研究 目前欧盟、美国、日本、中国均启动了人类大脑计划[21], 其目标是为大脑绘制动态示意图, 了解大脑的单个神经元在受到刺激时如何做出一系列的反应, 如和其他神经元互动, 并转变为想法、感情乃至最后的行动。在人类对外界的感知中, 视觉提供了70%以上的信息, 可以想象, VR或AR技术会成为脑视觉研究的重要手段。此外, VR、AR技术在立体视机制、视疲劳等方面的研究也有广泛的应用前景。

3 总结与展望

尽管在2004年国内外就有了VR技术应用于弱视治疗的报道[22, 23, 24], 但这些研究多基于传统的3D显示设备, 与目前主流的HMD设备或智能眼镜有很大差别; 另外在视频应用方面, VR视频与全景视频的概念也常被混淆; 又如已在眼科应用的散光轴位标记等AR技术, 一般不能感知深度信息, 只是现实世界与虚拟信息在二维空间的整合, 尚有很大提升空间。由于复合型人才的缺乏, 目前关于VR或AR技术应用的最新研究报道多来自于计算机行业, 少有眼科医师及视光师参与, 故这些研究的观点及结论尚待更多的临床验证。总体来看, 目前VR、AR在眼科的应用研究已滞后于VR和AR技术的发展。在用户快速增长和相关技术快速发展的背景下, 评价VR和AR技术对视功能的潜在影响, 探索在眼视光学的应用, 具有重要的社会意义及研究价值。

利益冲突申明 本研究无任何利益冲突

作者贡献声明 赵峰:参与选题、设计; 撰写论文; 根据编辑部的修改意见进行修改。任彦新:参与选题、设计; 根据编辑部的修改意见进行核修

The authors have declared that no competing interests exist.

参考文献
[1] Mitrousia V, Giotakos O. Virtual reality therapy in anxiety disorders. Psychiatriki, 2016, 27(4): 276-286. DOI: 10.22365/jpsych.2016.274.276. [本文引用:1]
[2] Grossmann RJ. Virtual reality, augmented reality call it i-Reality. Mhealth, 2015, 1: 13. DOI: 10.3978/j.issn.2306-9740.2015.06.01. [本文引用:1]
[3] Forrest WP, Mackey MA, Shah VM, et al. Mixed reality meets pharmaceutical development. J Pharm Sci, 2017, 106(12): 3438-3441. DOI: 10.1016/j.xphs.2017.08.020. [本文引用:1]
[4] Prätorius M, Burgbacher U, Valkov D, et al. Sensing thumb-to-finger taps for symbolic input in VR/AR environments. IEEE Comput Graph Appl, 2015, 35(5): 42-54. DOI: 10.1109/MCG.2015.106. [本文引用:1]
[5] Theart RP, Loos B, Niesler TR. Virtual reality assisted microscopy data visualization and colocalization analysis. BMC Bioinformatics, 2017, 18(Suppl 2): 64. DOI: 10.1186/s12859-016-1446-2. [本文引用:1]
[6] 黄筱. V R眼科手术添翼医学教育. 经济参考报, 2016-07-08(007). [本文引用:1]
[7] 路承喆, 汤欣, 宋慧, . Eyesi模拟操作系统对白内障超声乳化连续环形撕囊操作培训影响. 中国实用眼科杂志, 2013, 31(7): 912-915. DOI: 10.3760/cma.j.issn.1006-4443.2013.07.029. [本文引用:1]
[8] Khelemsky R, Hill B, Buchbinder D. Validation of a novel cognitive simulator for orbital floor reconstruction. J Oral Maxillofac Surg, 2017, 75(4): 775-785. DOI: 10.1016/j.joms.2016.11.027. [本文引用:1]
[9] Zhu M, Chai G, Lin L, et al. Effectiveness of a novel augmented reality-based navigation system in treatment of orbital hypertelorism. Ann Plast Surg, 2016, 77(6): 662-668. DOI: 10.1097/SAP.0000000000000644. [本文引用:1]
[10] Lee S, Lee J, Lee A, et al. Augmented reality intravenous injection simulator based 3D medical imaging for veterinary medicine. Vet J, 2013, 196(2): 197-202. DOI: 10.1016/j.tvjl.2012.09.015. [本文引用:1]
[11] 李舫, 宋志坚. HMD式光学穿透技术在医学增强现实中的研究进展. 中国数字医学, 2012, 7(1): 14-20. DOI: 10.3969/j.issn.1673-7571.2012.01.005. [本文引用:1]
[12] Yonekawa Y, Wu WC, Kusaka S, et al. Immediate sequential bilateral pediatric vitreoretinal surgery: An international multicenter study. Ophthalmology, 2016, 123(8): 1802-1808. DOI: 10.1016/j.ophtha.2016.04.033. [本文引用:1]
[13] Kot T, Novák P. Utilization of the oculus rift HMD in mobile robot teleoperation. Appl Mech Mater, 2014, 555: 199-208. DOI: 10.4028/www.scientific.net/AMM.555.199. [本文引用:1]
[14] Robert EPPD. Human Factors of Stereoscopic 3D Displays. Springer London, 2015. [本文引用:1]
[15] Ziak P, Holm A, Halicka J, et al. Amblyopia treatment of adults with dichoptic training using the virtual reality oculus rift head mounted display: preliminary results. BMC Ophthalmol, 2017, 17(1): 105. DOI: 10.1186/s12886-017-0501-8. [本文引用:1]
[16] ARVO热点-弱视治疗新进展: 增强现实双眼分视训练. 国际眼科时讯, 2017 (5): 9. [本文引用:1]
[17] Konrad R, Cooper EA, Wetzstein G. Novel optical configurations for virtual reality: Evaluating user preference and performance with focus-tunable and monovision near-eye displays. ACM Special Interest Group on Computer-Human Interaction, New York Acm, 2016, 121(1): 1211-1220. DOI: 10.1145/2858036.2858140. [本文引用:1]
[18] 李雅楠, 左国坤, 崔志琴, . 虚拟现实技术在康复训练中的应用进展. 中国康复医学杂志, 2017(9): 1091-1094. DOI: 10.3969/j.issn.1001-1242.2017.09.028. [本文引用:1]
[19] The Guardian. Virtual reality headsets could put children's health at risk. https://www.theguardian.com/technology/2017/oct/28/virtual-reality-headset-children-cognitive-problems. [本文引用:1]
[20] 夏飞, 吴良成. 儿童近视防控干预方法的研究进展. 国际眼科杂志, 2016, 16(7): 1298-1301. DOI: 10.3980/j.issn.1672-5123.2016.7.23. [本文引用:1]
[21] 王亚, 李永欣, 黄文华. 人类脑计划的研究进展. 中国医学物理学杂志, 2016 (332): 109-112. DOI: 10.3969/j.issn.1005-202X.2016.02.001. [本文引用:1]
[22] 杨素红, 甘晓玲, 庞琳, . 利用视觉虚拟现实训练软件治疗弱视的疗效分析. 中国斜视与小儿眼科杂志, 2004 (1): 7-11. DOI: 10.3969/j.issn.1005-328X.2004.01.003. [本文引用:1]
[23] Waddingham PE, Butler TK, Cobb SV, et al. Preliminary results from the use of the novel Interactive binocular treatment (I-BiT) system, in the treatment of strabismic and anisometropic amblyopia. Eye, 2006, 20(3): 375-378. DOI: 10.1038/sj.eye.6701883. [本文引用:1]
[24] Eastgate RM, Griffiths GD, Waddingham PE, et al. Modified virtual reality technology for treatment of amblyopia. Eye, 2006, 20(3): 370. DOI: 10.1038/sj.eye.6701882. [本文引用:1]