近日,我中心一篇论文“Endo-HDR: Dynamic endoscopic reconstruction with deformable 3D Gaussians and hierarchical depth regularization”被Knowledge-Based Systems(中科院一区、JCR-Q1)期刊录用。论文由我中心博士生谢卫星,硕士生叶颖、吴少琪、周荣洲,厦门大学洪清启副教授、姚俊峰教授,北师港浸大董潇助理教授,德克萨斯大学达拉斯分校郭小虎教授合作完成。

从内窥镜视频中重建动态场景是机器人辅助手术和智能医疗的关键技术。然而,现有方法侧重于快速重建,形变场的设计和全局对齐的深度监督无法对复杂的组织形变和精确的几何形状进行建模,导致重建图像模糊且包含深度噪声,进而造成重建点云表面畸变。为了解决这些问题,我们提出了Endo-HDR,一个基于3D高斯泼溅技术的高质量动态手术视频重建框架。具体而言,我们将手术场景解耦为规范的3D高斯和基于高斯锚点的形变场。我们利用具有一致性约束的时变锚点来建模复杂的组织运动,其中多层感知器预测稀疏锚点的连续运动。然后,我们根据相邻锚点插值每个3D高斯的形变,从而简化形变学习过程。此外,由于离散高斯对微小误差非常敏感,我们采用分层深度正则化方法,从子区域中学习窗口级和图像级的深度信息,使模型能够重建清晰准确的深度。为了进一步提升Endo-HDR的性能,我们引入了一种高效的高斯初始化策略,在场景初始化阶段生成密集的几何先验。我们还设计了一种高斯增长控制策略来限制高斯的数量,从而确保模型的实时渲染能力。在 EndoNeRF、StereoMIS 和 Hamlyn 数据集上的实验结果表明,Endo-HDR 在逼真的渲染和精确的深度重建方面均优于现有的方法。项目页面为https://Endo-HDR.github.io。