动作捕捉论文参考文献

三维人体姿态重建通常是指利用外部设备对人体进行三维姿态还原。相比于稠密的人体几何形状，人体骨架是表示人体姿势的一种紧凑型表达方式。本次主要介绍基于人体骨架的姿态重建。 目前工业界已有相对成熟的三维姿态重建解决方案，即接触式的动作捕捉系统，例如著名的光学动作捕捉系统Vicon（图1）。首先将特制的光学标记点（Marker）贴附在人体的关键部位（如人体的关节处），多个特殊的动作捕捉相机可以从不同角度实时检测Marker点。随后根据三角测量原理精确计算Marker点的空间坐标，再利用反向动力学（Inverse kinematics，IK）算法解算人体骨骼的关节角。由于场景与设备的限制，高昂的价格，接触式运动捕捉难以被普通消费者所使用。因此研究者继而将目光投向了低成本、非接触式的无标记动作重建技术。本次主要介绍近年来利用单目RGB-D相机或者单目RGB相机进行姿态重建的工作。 基于单目RGB-D相机的姿态重建 基于RGB-D的三维姿态重建方法可分为两类[1]：判别式方法与生成式方法。判别式方法通常试图从深度图像中直接推测出三维人体姿态。其中一部分工作尝试从深度图中提取与关节位置相对应的特征。 例如，Plagemann等人[47]利用测地线极值来识别人体中的显著点，然后利用局部形状描述符检测人体三维关节位置。另外一些判别方法则依赖于离线训练的分类器或者回归器。 Shotton等人[48]首先利用大量的样本训练了一个随机森林（Random forest）分类器，从深度图中分割出不同的人体部件区域，随后他们利用均值漂移（Mean shift）算法估计出关节位置。该方法的预测仅需要少量的计算量，可实时运行。该方法随后被Kinect SDK集成，用于实时重建三维姿态。 Taylor等人[49]利用随机森林方法预测属于人体关节的深度像素区域，随后将其用于姿态优化。判别式方法并不依赖于跟踪，可以减少累计误差，并且能够自然的处理快速运动。 与判别式方法不同，生成式方法通过变形参数化或非参数化模板来匹配观测数据。Ganapathi等人[50]使用动态贝叶斯网络（Dynamic Bayesian Network，DBN）来建模运动状态，并利用一个最大后验概率（Maximuma Posterior, MAP）框架推断出三维姿态。该方法需要事先知道人体的身材，并且不能有效地处理快速的人体运动。随后，Ganapathi等人[51]利用扩展的ICP测量模型和自由空间约束对方法[50]进行了改进。新方法可对人体参数化模板的大小进行动态调整，用于适配捕捉到的深度数据。 基于RGB-D的姿态重建方法由于其硬件限制，容易受到深度图噪声干扰，只能在距离较近的场景下适用。 基于单目RGB相机的姿态重建 得益于大规模带有三维人体姿态标注的视频数据集（如Human3.6M[52]，Human-Eva[53]）的出现，基于深度学习的三维姿态重建方法发展迅速。它们直接利用深度学习模型从图像或者视频中提取三维人体关节点位置[54–60]。 Li等人[54]是最早将深度学习引入到三维姿态估计，他们设计了一个包含检测与回归的多任务卷积神经网络，直接从图像中自动学习特征来回归三维关节点的位置，超过了以往通过人为设计特征的方法。 Pavlakos等人[56]提出了一种体素热图来描述人体关节点在三维体素空间不同位置上的可能性，并且使用一种从粗到细的级联策略来逐步细化体素热图的预测，取得了很好的姿态重建准确度。然而，这种体素表示往往需要面对巨大的存储和计算开销，最近[61]利用编码-解码（Encoder-Decoder）思想较好的解决了这个问题。 除了直接预测关节点三维位置，还有一些工作预测骨骼朝向[64,65]，关节角[66]，骨骼向量[67,68]等等。上述工作都采用强监督的方式进行训练，由于训练数据都是在受控环境下采集，因此训练出的模型通常都难以泛化到自然场景中。 为了提高模型的泛化能力，一些工作尝试利用弱监督的方式来监督自然场景中的图像，比如使用域判别器[69]，骨骼长度先验[70]等等。 另一类三维姿态估计方法则将二维人体姿态作为中间表示。首先在图像中利用人工标注或者自动检测[71–74]的二维人体关节，然后通过回归方法[57,62,75]或者模型拟合[76]的方式将其提升到三维空间。 Martinez等人[62]设计了一个简单但是有效的全连接网络结构，它以二维关节点位置作为输入，输出三维关节点位置，如图2。 随后，Zhao等人[75]提出利用语义图卷积层模块捕捉人体关节点之间的拓扑相关性（比如人体对称性），进一步提高了三维姿态的重建准确性。但是从二维姿态映射到三维姿态本身是一个歧义问题，原因在于多个三维姿态可以投影出同一个二维姿态[77]。最近的一些工作尝试加入更多的先验知识来减轻歧义性[78–80]。 上述工作都属于判别式模型，预测得到的三维关节点位置可能不符合人体解剖学约束（比如不满足对称性，骨骼长度比例不合理）或者运动学约束（关节角超过限制）。Mehta等人[63]将一个人体骨架模板拟合预测得到的二维关节点与三维关节点位置，并提出了第一个基于RGB相机的实时三维姿态重建系统VNect，得到了较为准确的姿态重建结果。如图3所示。 参考文献 接上篇参考文献 [47] PLAGEMANN C, GANAPATHI V, KOLLER D, etal. Real-time identification and localization of body parts from depthimages[C]//2010 IEEE International Conference on Robotics and Automation. IEEE,2010: 3108-3113. [48] Shotton J, Fitzgibbon A, Cook M, etal. Real-time human pose recognition in parts from single depth images[C]//CVPR2011. 2011: 1297-1304. [49] TAYLOR J, SHOTTON J, SHARP T, et al.The vitruvian manifold: Inferring dense correspondences for one-shot human pose estimation[C]//2012 IEEE Conference on Computer Vision and Pattern Recognition.IEEE, 2012: 103-110. [50] GANAPATHI V, PLAGEMANN C, KOLLER D, etal. Real time motion capture using a single time-of-flight camera[C]//2010 IEEEComputer Society Conference on Computer Vision and Pattern Recognition. IEEE,2010: 755-762. [51] GANAPATHI V, PLAGEMANN C, KOLLER D, etal. Real-time human pose tracking from range data[C]//European conference oncomputer vision. Springer, 2012: 738-751. [52] IONESCU C, PAPAVA D, OLARUV, et al.Human3. 6m: Large scale datasets and predictive methods for 3D human sensing innatural environments[J]. IEEE Transactions on Pattern Analysis and MachineIntelligence, 2013, 36(7):1325-1339. [53] SIGAL L, BALAN A O, BLACK M J.Humaneva: Synchronized video and motion capture dataset and baseline algorithmfor evaluation of articulated human motion[J]. International journal ofcomputer vision, 2010, 87(1-2):4. [54] LI S, CHANA B. 3d human poseestimation from monocular images with deep convolutional neuralnetwork[C]//Asian Conference on Computer Vision. Springer, 2014: 332-347. [55] POPA A I, ZANFIR M, SMINCHISESCU C.Deep multitask architecture for integrated 2d and 3d humansensing[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2017: 6289-6298. [56] PAVLAKOS G, ZHOU X, DERPANIS K G, etal. Coarse-to-fine volumetric prediction for single-image 3D humanpose[C]//IEEE Conference on Computer Vision and Pattern Recognition. 2017:7025-7034. [57] FANG H S, XU Y, WANG W, et al.Learning pose grammar to encode human body configuration for 3d poseestimation[C]//Proceedings of the AAAI Conference on Artificial Intelligence:volume 32. 2018. [58] SUN X, XIAO B, WEI F, et al. Integralhuman pose regression[C]//Proceedings of the European Conference on ComputerVision (ECCV). 2018: 529-545. [59] LEE K, LEE I, LEE S. Propagating lstm:3d pose estimation based on joint interdependency [C]//Proceedings of theEuropean Conference on Computer Vision (ECCV). 2018: 119-135. [60] HABIBIE I, XU W, MEHTA D, et al. Inthe wild human pose estimation using explicit 2d features and intermediate 3drepresentations[C]//Proceedings of the IEEE/CVF Conference on Computer Visionand Pattern Recognition. 2019: 10905-10914. [61] FABBRI M, LANZI F, CALDERARA S, et al.Compressed volumetric heatmaps for multiperson 3d poseestimation[C]//Proceedings of the IEEE/CVF Conference on Computer Vision andPattern Recognition. 2020: 7204-7213. [62] MARTINEZ J, HOSSAIN R, ROMERO J, etal. A simple yet effective baseline for 3D human poseestimation[C]//Proceedings of the IEEE International Conference on ComputerVision. 2017: 2640-2649. [63] MEHTA D, SRIDHAR S, SOTNYCHENKO O, etal. VNect: Real-time 3D human pose estimation with a single RGB camera[J]. ACMTransactions on Graphics (TOG), 2017, 36 (4):44. [64] LUO C, CHU X, YUILLE A. Orinet: Afully convolutional network for 3d human pose estimation[J]. arXiv preprintarXiv:1811.04989, 2018. [65] JOO H, SIMON T, SHEIKH Y. Totalcapture: A 3D deformation model for tracking faces, hands, and bodies[C]//IEEEConference on Computer Vision and Pattern Recognition. 2018: 8320-8329. [66] HABERMANN M, XU W, ZOLLHOEFER M, etal. Deepcap: Monocular human performance capture using weak supervision[J].arXiv: Computer Vision and Pattern Recognition, 2020. [67] SUN X, SHANG J, LIANG S, et al.Compositional human pose regression[C]//Proceedings of the IEEE InternationalConference on Computer Vision. 2017: 2602-2611. [68] SUN X, LI C, LIN S. Explicitspatiotemporal joint relation learning for tracking human pose [C]//Proceedingsof the IEEE/CVF International Conference onComputerVisionWorkshops.2019: 0-0. [69] YANGW, OUYANGW,WANGX, et al. 3Dhumanpose estimation in the wild by adversarial learning[C]//IEEE Conference onComputer Vision and Pattern Recognition. 2018: 52555264. [70] ZHOU X, HUANG Q, SUN X, et al. Towards3D human pose estimation in the wild: a weakly-supervised approach[C]//IEEEInternational Conference on Computer Vision. 2017: 398-407. [71] WEI S E, RAMAKRISHNA V, KANADE T, etal. Convolutional pose machines[C]// Proceedings of the IEEE Conference onComputer Vision and Pattern Recognition. 2016: 4724-4732. [72] NEWELL A, YANG K, DENG J. Stackedhourglass networks for human pose estimation [C]//European conference oncomputer vision. 2016: 483-499. [73] CHEN Y, WANG Z, PENG Y, et al.Cascaded pyramid network for multi-person pose estimation[C]//IEEE Conferenceon Computer Vision and Pattern Recognition (CVPR). 2018. [74] XIAO B, WU H, WEI Y. Simple baselinesfor human pose estimation and tracking[C]//The European Conference on ComputerVision (ECCV). 2018. [75] ZHAO L, PENG X, TIANY, et al. Semanticgraph convolutional networks for 3d human pose regression[C]//Proceedings ofthe IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2019:3425-3435. [76] CHENC H,RAMANAND. 3D human poseestimation= 2D pose estimation+ matching[C]// Proceedings of the IEEEConference on Computer Vision and Pattern Recognition. 2017: 7035-7043. [77] HOSSAINMR I, LITTLE J J. Exploitingtemporal information for 3d human pose estimation [C]//Proceedings of theEuropean Conference on Computer Vision (ECCV). 2018: 68-84. [78] TEKIN B, MÁRQUEZ-NEILA P, SALZMANN M,et al. Learning to fuse 2d and 3d image cues for monocular body poseestimation[C]//Proceedings of the IEEE International Conference on ComputerVision. 2017: 3941-3950. [79] WANG J, HUANG S, WANG X, et al. Notall parts are created equal: 3d pose estimation by modeling bi-directionaldependencies of body parts[C]//Proceedings of the IEEE/CVF InternationalConference on Computer Vision. 2019: 7771-7780. [80] PAVLAKOS G, ZHOU X, DANIILIDIS K.Ordinal depth supervision for 3D human pose estimation[C]//IEEE Conference onComputer Vision and Pattern Recognition. 2018: 7307-7316.

由动作捕捉摄像头捕捉演员身上反光点的运动轨迹，再把捕捉到的运动轨迹匹配到3d角色模型上，让角色的动作更细腻更逼真。动作捕捉技术，英文Motion capture，简称Mocap。是近年来非常流行的动画制作方法，主要应用于大型游戏制作、动画制作、影视制作等等。本论文主要对动作捕捉技术进行一定的总结与延伸，并发表一定的看法。总之，动作捕捉技术设计技术涉及尺寸测量、物理空间里物体的定位及方位测定等方面可以由计算机直接理解处理的数据。在运动物体的关键部位设置跟踪器，由Motion capture系统捕捉跟踪器位置，再经过计算机处理后向得到三维空间爱你坐标的数据。当数据被计算机识别后，可以应用在动画制作，步态分析，生物力学，人机工程等领域的一种高端技术。典型的光学式运动捕捉系统通常使用6～8个相机环绕表演场地排列，这些相机的视野重叠区域就是表演者的动作范围。为了便于处理，通常要求表演者穿上单色的服装，在身体的关键部位，如关节、髋部、肘、腕等位置贴上一些特制的标志或发光点，称为"Marker"，视觉系统将识别和处理这些标志，如图4所示。系统定标后，相机连续拍摄表演者的动作，并将图像序列保存下来，然后再进行分析和处理，识别其中的标志点，并计算其在每一瞬间的空间位置，进而得到其运动轨迹。为了得到准确的运动轨迹，相机应有较高的拍摄速率，一般要达到每秒60帧以上。如果在表演者的脸部表情关键点贴上Marker，则可以实现表情捕捉。目前大部分表情捕捉都采用光学式。有些光学运动捕捉系统不依靠Marker作为识别标志，例如根据目标的侧影来提取其运动信息，或者利用有网格的背景简化处理过程等。目前研究人员正在研究不依靠Marker，而应用图像识别、分析技术，由视觉系统直接识别表演者身体关键部位并测量其运动轨迹的技术，估计将很快投入实用。光学式运动捕捉的优点是表演者活动范围大，无电缆、机械装置的限制，表演者可以自由地表演，使用很方便。其采样速率较高，可以满足多数高速运动测量的需要。Marker的价格便宜，便于扩充。这种方法的缺点是系统价格昂贵，虽然它可以捕捉实时运动，但后处理（包括Marker的识别、跟踪、空间坐标的计算）的工作量较大，对于表演场地的光照、反射情况有一定的要求，装置定标也较为烦琐。特别是当运动复杂时，不同部位的Marker有可能发生混淆、遮挡，产生错误结果，这时需要人工干预后处理过程。上海天地数码uni-digital