上热搜的妙鸭相机背后，这些风险不可不防

上传20张以上照片，再支付9.9元，选择喜欢的模板，就能生成自己的“数字分身”，效果以假乱真，堪比市场价几十元甚至几百元的艺术照。最近，一款名叫“妙鸭相机”（以下简称“妙鸭”）的小程序在互联网上流传开来。在使用高峰，用户可能要等上几小时甚至十几小时，才能拿到属于自己的作品。

可妙鸭的走红，也伴随着争议：有网友质疑信息安全——上传那么多个人照片，安全吗？也有媒体和消保组织质疑妙鸭的用户条款，因为其中出现了生成的“数字分身”所有权归企业、充值后不退款等内容。虽然妙鸭及时进行了修改，可仍有网友提出，企业的个人信息保护承诺真能兑现吗？

上海辟谣平台调查发现，妙鸭是生成式人工智能（AIGC）技术的一种应用，随着它的走红，如何预防技术风险和信息安全风险，显得愈发重要。

(资料图)

“数字分身”会反扑“真身”吗？

妙鸭到底妙不妙，消费者有分歧。

“我觉得很不错，虽然是风格模板，但更像我，如果不告诉他人，还以为我新拍了艺术照。”在某热门证件照拍摄机构消费过数次的陈女士觉得，妙鸭的成像效果已经超过了部分机构，“那些机构也是模板拍摄，背景、妆容都是统一的，单次价格至少几十元，只有几张照片，而且并不完全让人满意。”她举例，自己是圆脸，却被机构的修图师流水线作业修成了尖脸；她脖子较长，不适合V字领服装，但在某些风格照中，只能选择V字领。

不过，一次性上传20张照片才能生成“数字分身”的前提劝退了从事技术工作的孟小姐，“我看了同事的成品，发现最后的结果与上传照片质量很有关系——上传的照片越清晰、越正面，最后产生的作品越真实。但是，我把自己的照片交给这样一个小程序，安全吗？我上传的照片，以及生成的图片，企业会妥善处理吗？”她还做了一个实验：使用妙鸭生成的画像，能成功骗过那些采用图片比对进行人脸识别的应用，“如果有人用我的‘数字分身’从事不法行为，我能免责吗？”

妙鸭小程序的自我介绍（截屏）

记者调查发现，妙鸭的原理是基于AIGC技术，通过捕捉用户上传照片包括面部特征等关键信息点，与小程序的风格模板融合，生成不同风格的“数字分身”。但目前妙鸭并没有推出虚拟空间等应用场景，所以产生的“数字分身”只是图片形式，更像是数字画像。

这不算什么创造性的新应用。当下仍有不少网友使用的美图秀秀“AI头像”、此前红过的“小咖秀”“脸萌”“足迹”等产品，都与之类似。只不过基于AIGC技术，妙鸭生成的数字画像在真人相似度、细节精细度、画面质量上可能比此前的产品略胜一筹，所以引发关注。

但随着被用户、媒体、消保组织发现妙鸭的用户条款和隐私政策存在问题后，更多人关注到新应用的数据安全和信息安全话题。虽然妙鸭已经更新了用户条款和隐私政策，但消费者仍有担忧：企业承诺不泄漏用户隐私，真能做到吗？

“针对妙鸭数据安全的关注并非只针对一家企业，而是体现了数据时代的监管新挑战。”某一线执法人员指出，根据相关法规，企业在收集用户信息前都应告信息使用范围和存储情况，这些内容须体现在“用户条款”或“隐私政策”中，得到用户确认。但以上内容是企业的单方面承诺，就消费者而言，缺乏监督工具，“比如，企业说销毁了使用过的用户信息，怎样证明？再比如，现有的摄影机构也会留存用户的数字照片，难道就不存在风险了吗？”

该人士认为，解决这些问题的关键有两点，一是督促企业依法落实隐私政策，保护个人信息；二是加大技术监管力度，用技术力量保护消费者。

“支持包括妙鸭相机在内的创新型企业在消费新模式和新场景的探索与开拓；也希望未序网络科技公司能在今后的经营活动中，不断改进和完善产品功能，提升用户服务质量。”上海市消保委的观点很能代表业内人士对妙鸭等新生事物的态度：欢迎妙鸭等AIGC时代的新产物，但在提供产品和服务时，应当将消费者权益放在第一位，并提供有说服力的举措。

“李逵”还不完善，“李鬼”蠢蠢欲动

值得一提的是，在预防新应用的风险方面，消费者还要当心“蹭热点”中的风险。

以妙鸭相机为例，市场热议的产品由未序网络科技公司运营，目前仅通过微信小程序提供服务。但在苹果手机的AppStore以及安卓应用市场中，以“妙鸭”“妙鸭相机”为关键词搜索后，显示出很多与妙鸭及其开发企业完全无关的应用软件，其中部分产品的名称与logo与妙鸭很是相似。也就是说，刚刚亮相的妙鸭已经遭遇了“李鬼”。

查看这类应用软件，大部分也主打AI绘画、AI头像生成，开发者既有企业也有个人，很难依靠短短的软件介绍来判断其可信度。记者试用这些软件发现，同样得上传大量照片。

在苹果应用软件市场搜索“妙鸭相机”，出现很多与妙鸭名称或logo类似的软件，可它们都与妙鸭无关

那么，这些应用软件的安全性有保障吗？不依靠技术手段和监管力量，无法确认。

可见，AI时代的新产品、新服务伴随着新风险。消费者在尝鲜时，一定要注意保护个人信息：

首先，要必要查看应用软件的开发者、用户评价、慎选那些来历不明或用户评价不高的产品。

其次，认真阅读产品的用户条款、隐私条款等，拒绝那些明显存在“霸王条款”的产品，避免将个人信息、隐私拱手送出。

最后，务必通过正规的应用软件市场下载软件。

从记者实测看，眼下正规应用软件市场尚存在应用软件良莠不齐的情况，更不要提那些非正规下载渠道提供软件的安全风险了。在以往披露的网络诈骗案件中，有不少诈骗软件就来自非正规渠道。公众如果被诈骗分子的误导，或者被所谓的“特别效果”“免费服务”等诱导，绕开正规应用软件市场下载，那么个人隐私遭泄露的风险更大，而且不能排除不法分子直接通过非法软件窃取个人信息。

是消灭行业还是服务行业？

在妙鸭引发的话题中，除了技术安全与信息安全外，还包括“AI是否会消灭某些企业”这一经典之问。很多网友认为，妙鸭诞生后，那些流水线作业的证件照拍摄机构将被取而代之。

“确实对整个行业带来了不小的冲击，但也给了‘人工服务’更大的机会，会让好创意和质感更有机会。”记者联系上初时亲子儿童摄影美学馆主理人孙安琪时，她正和摄影师、化妆师沟通最新的拍摄风格，“流水线拍摄作品会被取代，但是原创的产品不会。”

她也研究了妙鸭，发现就目前的产品看，与人工服务仍有距离，“一是消费者反映的失真问题，比如无法生成戴眼镜的照片、出现细节错误导致‘不像我’等问题；另一个是无法生成多人照，而亲子摄影、全家摄影的市场需求很大。”

孙安琪承认，随着技术的发展，这些问题很可能被开发企业攻克，但“情感沟通”在短期内无法靠技术实现，“我们店在点评网站上是五星好评，原因之一就是很多被拍摄者觉得整个拍摄过程让人愉悦，因为摄影师、引导师等引导拍摄者互动，照相机捕捉的是父母与子女、亲朋好友之间的情感流露，这是技术生成不了的。”

但孙安琪也说，“人工服务”和“AI服务”并不是非此即彼的关系，“我们不排斥AI，相反，我们已经开始利用AI设计产品的背景。同样地，AIGC也可以为行业所运用，只不过‘人’要做的是放大人工情感的部分，让照片记录最美好的真情流露。”

在业内人士看来，妙鸭、ChatGPT等AIGC应用问世后，都引发过“会不会取代某些行业”的话题，可主流结论都是“不”。这既与AIGC技术发展现状有关，也与AI本身与产业的结合有关。“未来所有的企业都会强依赖大模型，而且所有的产品都会基于大模型来开发，这已经是一个共识。”百度智能云事业群总裁沈抖认为，“AI的终极理想是为人类带来更多的自由和可能。”

标签：