多家外媒曾报道国外的换脸软件被用来制作名人的色情视频。《卫报》称此类软件为“对未来可怕的一瞥”，显示了对人工智能未来可能造成的伦理问题的担忧。

　　另外，国内也存在利用AI换脸技术制作淫秽视频的产业链。网络安全专家张百川就曾提示，普通人可能不太容易学会“AI换脸技术”，但有人可能利用此项技术制成有类似功能的软件，“那么普通人只要在APP上上传照片即可”。针对个人如何防范的问题，张百川说，“个人很难防范，如果你有照片在互联网上，就会有（被利用的）风险”。（新京）