1. 人脸相似性

不同个体之间的区别不大，所有的人脸的结构都相似，甚至人脸器官的结构外形都很相似。这样的特点对于利用人脸进行定位是有利的，但是对于利用人脸区分人类个体是不利的。

以模仿某个明星为目标的化妆、整容等人为因素加大了这个问题的难度。尤其是双胞胎的问题，人脸识别系统究竟能不能正确的识别出来，这个其实在学术界也是有争论的。有专家认为双胞胎根本不应该靠人脸识别技术进行分辨，它是没法用人脸识别技术来准确进行区分的。

2. 人脸防伪

伪造人脸图像进行识别的主流欺骗手段是建立一个三维模型，或者是一些表情的嫁接。随着人脸防伪技术的完善、3D面部识别技术、摄像头等智能计算视觉技术的引入，伪造面部图像进行识别的成功率会大大降低。

3. 动态识别

非配合性人脸识别的情况下，运动导致面部图像模糊或摄像头对焦不正确都会严重影响面部识别的成功率。在地铁、高速公路卡口、车站卡口、超市反扒、边检等安保和监控识别的使用中，这种困难明显突出。

4. 样本缺乏

基于统计学习的人脸识别算法是目前人脸识别领域中的主流算法，但是统计学习方法需要大量的训练。由于人脸图像在高维空间中的分布是一个不规则的流形分布，能得到的样本只是对人脸图像空间中的一个极小部分的采样，如何解决小样本下的统计学习问题有待进一步的研究。此外，现在参与训练的人脸图像库基本都是外国人的图像，有关中国人、亚洲人的人脸图像库少之又少，给训练人脸识别模型增加了难度。

5. 图像质量问题

人脸图像的来源可能多种多样，由于采集设备的不同，得到的人脸图像质量也不一样，特别是对于那些低分辨率、噪声大、质量差的人脸图像（如手机摄像头拍摄的人脸图片、远程监控拍摄的图片等）如何进行有效地人脸识别是个需要关注的问题。同样的，对于高分辨图像对人脸识别算法的影响也需要进一步的研究。现在，我们在人脸识别时，一般采用的都是相同尺寸，清晰度很接近的人脸图片，所以图像质量问题基本可以解决，但是面对现实中更加复杂的问题，还需要继续优化处理。