今年以来，以ChatGPT为代表的人工智能应用闯入大众生活，使用AI生成文稿、图片等内容越来越容易。但随着使用门槛不断降低，AI带来的生产力变革却逐渐变味：最近，几乎每天都有AI换脸、换装的新闻登上热搜，被AI的对象，不仅有政要和明星，甚至连路人都未能幸免。

AI的生成能力在触发网络狂欢的同时，也引起了社会焦虑：当有人用高科技耍流氓，普通人如何自我防护？本期长江云调查关注AI来袭背后的技术伦理隐忧。

当AI被玩坏 拿什么保护你我的隐私？

几个月来，ChatGPT等AI工具生成文字能力被更多人所关注，不少大学生开始尝试用AI工具降低论文重复率，甚至直接用人工智能生成论文。为此，许多高校将“AI代写论文”定性为学术不端行为，并引入了专门的系统进行辨别。

如果说生成论文只与一小部分人有关，那么用AI工具生成图片，则让这种影响与每个人息息相关：最近，某国前总统被捕及身穿囚服的照片被广泛关注。事后人们发现，无论是前总统被捕的新闻，还是新闻里流传甚广的照片，均为AI生成。

在许多人看来，名人被恶搞是属大概率事件。但几天前，“女子地铁照被AI一键脱衣传播”的话题，让许多人发现，自己很有可能成为下一个被“造谣”的受害人：原本一张普通的女乘客在地铁乘车的照片，经过AI软件“一键脱衣”后，被扣上了故意在地铁上脱衣的“黄谣”。

遭恶意P图的原图，是一张普通的生活照

照片的来源，则是这名用户去年7月在社交平台分享的一张日常照片。当事人表示会进行相关的维权，但随着使用AI技术的门槛越来越低，普通人被侵权的风险也进一步加剧。

长江云新闻记者了解到，目前制作这类图片的工具，大都由Stable Diffusion和Midjourney两个AI模型生成。在分别试用了这两款工具后，记者发现，与之前操作简单的ChatGPT不同，想用AI生成一张“以假乱真”的图片，有一定的操作门槛。但通过各种网上教程，并不难实现。

由于意识到这项功能的争议性，上述两款工具的开发者均对可能涉及色情的用途进行了限制。但由于部分AI工具是开源软件，相关训练数据仍能被用户添加到第三方版本。

不止模仿你的脸 还在盯着你钱包

“用AI工具生成文字、图片的做法产生了很多争议，只是一种表象。需要看到的是，当AI的进化从‘年’加速到‘天’，用户的隐私、资产信息所面临的高风险。”武汉极意网上风险行为研究院相关负责人表示，今年以来，AI大模型的快速迭代升级，让普通用户也能很快上手使用互联网黑灰产的技术门槛大大降低。

随着人们在网上分享的信息越来越多，可被用于AI模型学习的素材也越来越丰富。现在，只需要有你的社交媒体主页，或是30秒声音片段，就能通过AI工具克隆出你的声音信息。在国外，已经发生了多起“使用 AI 模仿人声，并向其家属朋友打电话诈骗的案件”。

AI技术的成熟对人脸识别技术的安全性也提出了更高的要求。武汉极意网络科技有限公司是一家从事网络安全领域的企业，极意科技相关负责人陈国庆表示，从网络安防的角度，解决方案就是回归到AI对抗：通过加大对AI训练的投入，训练出更强的AI防护能力，以抵挡不断升级的AI进攻。毕竟，能防住AI的，只有另一个AI。

但这并不能缓解大众“被AI背刺”的疑虑：如何避免AI技术被滥用，保证AI在正确的方向前进？

许多网友通过AI软件生成的人像图片效果

已经吵作一团的技术界

连日来，一封有关AI技术伦理问题的公开信，引发信息技术界的讨论。由于AI的升级速度过于惊人，但相关的监管手段却难以跟上，多名业界专家联名呼吁，所有的AI实验立即暂停研究比GPT-4 更先进的AI模型，暂停时间至少6个月，把一些可能出现的问题扼杀在摇篮之中。

公开信中呼吁，AI开发者必须与政策制定者合作，大力加速AI治理体系的发展。包括设立专门负责AI的全新、有能力的监管机构；对高能力AI系统和大型计算能力池的监督和跟踪；用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统；健全的审计和认证生态系统；对AI造成的损害承担责任等。

目前，联名支持的人数超过了1000人。其中包括图灵奖得主、Stability AI的CEO、苹果公司联合创始人、特斯拉首席执行官等多位知名人士。

但也有业内人士对这一做法能否解决AI风险持怀疑态度。计算机科学家、纽约大学教授杨立昆认为，所谓“暂停研发”，不过是“秘密研发”罢了，这与一些签名者所希望的恰恰相反。在线教育平台Coursera创始人吴恩达也公开表示，应在AI创造的巨大价值与现实风险之间取得一个平衡。为了提高人工智能的安全性，围绕透明度和审计的法规将更加实用，并产生更大的影响。在推进技术的同时，也要更多地投资于安全，而不是扼杀进步。

由Midjourney生成的“中国情侣”图片，被许多网民认为是以假乱真

普通人如何才能不被AI背刺？

行业观察人士认为，AI工具已经展示了强大的能力和广阔的应用前景，对于已出现的个人隐私保护、知识产权保护等伦理问题，需要政府、平台和个人三方共同参与解决。

个人要形成良好的上网习惯，加强自我防护。网络安全专家建议，在上网习惯上，要尽量避免在社交平台暴露过多的个人信息。“上传的个人照片不一定非要用高清，面部、指纹等信息也可尽量模糊。”同时，建议定期更换网络账号的密码，以及尽量减少使用公共的WiFi网络。更少的个人数据的泄露，有助于降低个人安全风险。

平台应建立符合安全规范的个人用户信息保护制度。目前，许多企业已经意识到AI对个人用户数据安全的挑战。但网络安全防护是一项“没有产出的投入”，企业主动投入的意愿并不强。业内人士表示，国家层面已实施了网络安全等级保护制度，但针对商业平台和个人的数据保护机制仍待建立。应尽快填补这一监管空白地带，让商业平台在享受流量红利的同时，承担起自身的责任。

来源：长江云