What's Next｜科技早知道 314

S7E33 | 3秒克隆声音？我们怎么面对 AI 的黑暗面 (26:11)

发布时间: 2023-11-01 17:00:00

  • 在 AI 深度伪造泛滥的时代，眼见不一定为实，有图不一定有真相。 深度伪造 (Deepfake) 指的是利用 AI 深度学习技术来生成或者操纵多媒体内容，包括合成某个人的图像、视频以及声音。在 ChatGPT 等 AI 大语言模型助力下，我们所面对的已经不再是一个只有假新闻、虚假消息的世界了。最近，国内外陆续出现了利用深度伪造技术进行 AI 换脸、拟声的诈骗案例，被骗金额高达上百万，成功率甚至接近 100%。 身为播客行业的工作者，我不禁思考，制作一个高度逼真的 AI 合成音频究竟有多难或者多容易？其真实程度是否足以骗过我的家人和朋友？需要多长成本、时间和声音样本，才会让 AI 合成更加准确？我们怎么去辨别 AI 深度伪造内容？为了阻止 AIGC 的滥用，AI 科技公司以及相关平台做出了哪些努力呢？在 AI 技术狂奔式的发展的今天我们又应该如何保护自己的隐私？ 这次节目是我的一个不一样的尝试，欢迎大家在评论区告诉我你对这一期节目形式以及对 AI 生成内容滥用的看法。 本期人物 Dr Adrian Kaehler，AI 领域科学家，EDEXAI 的创始人兼 CEO Leander，AI 算法科学家 丁教，声动活泼联合创始人，「科技早知道」主播 时间轴 [01:57] 尝试使用 AI 克隆播客主播的声音，你打多少分？ [02:58] 美国记者的 AI 拟声实验，居然成功骗过家人朋友、Snapchat CEO和银行？ [04:27] 只需 3 秒就能克隆声音，一张照片就能换脸？ [08:21] 用工具检测学生作业是否为 AI 生成的，有必要吗？ [09:47] 如何辨别 AI 深度伪造的内容？现在是道高一尺还是魔高一丈？ [14:38] 社交媒体平台怎么发现并且处理 AI 虚假信息？平台怎么应对战争、大选满天飞的假内容？ [21:58] 个人信息泄露不可避免的 AI 新世界，我们该如何保护自己？ 关联链接 英国能源公司 CEO 被 AI 合成语音骗走 22 万欧元 (https://36kr.com/p/1724307734529) Microsoft 发布 AI 声音生成工具 VALL-E (https://www.microsoft.com/en-us/research/project/vall-e-x/) 10分钟被“好友”骗走430万元！如何警惕AI“深度造假”？ (https://www.chinanews.com.cn/sh/2023/10-30/10103172.shtml) 华尔街日报记者 Joanna Stern 的 AI 克隆实验原视频 (https://www.youtube.com/watch?v=t52Bi-ZUZjA) How to stop AI deepfakes from sinking society — and science (https://www.nature.com/articles/d41586-023-02990-y?utm_medium=social&utm_source=wechat&utm_content=organic&utm_term=null&utm_campaign=CONR_AUTCC_ENGM_CN_CNCM_NPodx_NatPodCN) 关联节目 AI Agent 智能体 真相和未来 | 硅谷徐老师对话英伟达、DeepMind大模型专家（上） (https://www.xiaoyuzhoufm.com/episode/64dd55ea307ade09ca2af40d) 贫穷限制 AI 想象？｜硅谷徐老师对话英伟达、DeepMind 大模型专家（下） (https://www.xiaoyuzhoufm.com/episode/64dea6f74e968615a5202dd8) S7番外｜OpenAI创始人说教育一定会适应ChatGPT，他说对了吗？ (https://www.xiaoyuzhoufm.com/episode/63ee05f79d2938b8a8c0714d) S6E47｜年终总结3：AIGC可能改变人类未来，但它知道自己的未来在哪里吗？ (https://www.xiaoyuzhoufm.com/episode/63bfe8f5128e91008c03da15) 幕后制作 监制：丁教、Jecci 声音设计/配音：迪卡普里鑫 运营：瑞涵 设计：饭团 加入声动胡同会员计划 成为声动活泼会员，支持我们独立而无畏地持续创作，并让更多人听到这些声音。 支付 ¥365/年 (https://sourl.cn/rYXHK9) 成为声动胡同常住民。加入后，你将会在「声动胡同」里体验到专属内容、参与社群活动，和听友们一起「声动活泼」。 在此之前，也欢迎你成为声动胡同闲逛者 (https://sourl.cn/rYXHK9) ，免费体验会员内容、感受社群氛围。了解更多会员计划详情，我们在声动胡同等你。 (https://sourl.cn/seG52h) 商务合作 声动活泼商务合作咨询 (https://sourl.cn/6vdmQT) 加入我们 声动活泼正在招聘全职「节目监制」、「节目营销」、「商业化项目管理」，查看详细讯息请 点击链接 (https://sourl.cn/j8tk2g)。如果你已准备好简历，欢迎发送至 [email protected]， 标题请用：姓名+岗位名称。 关于声动活泼 「用声音碰撞世界」，声动活泼致力于为人们提供源源不断的思考养料。 我们还有这些播客：声动早咖啡 (https://www.xiaoyuzhoufm.com/podcast/60de7c003dd577b40d5a40f3)、What's Next｜科技早知道 (https://guiguzaozhidao.fireside.fm/episodes)、吃喝玩乐了不起 (https://www.xiaoyuzhoufm.com/podcast/644b94c494d78eb3f7ae8640)、反潮流俱乐部 (https://www.xiaoyuzhoufm.com/podcast/5e284c37418a84a0462634a4)、泡腾 VC (https://www.xiaoyuzhoufm.com/podcast/5f445cdb9504bbdb77f092e9)、商业WHY酱 (https://www.xiaoyuzhoufm.com/podcast/61315abc73105e8f15080b8a)、跳进兔子洞 (https://therabbithole.fireside.fm/) 欢迎在即刻 (https://okjk.co/Qd43ia)、微博等社交媒体上与我们互动，搜索 声动活泼 即可找到我们。 期待你给我们写邮件，邮箱地址是：[email protected] 声小音 https://files.fireside.fm/file/fireside-uploads/images/4/4931937e-0184-4c61-a658-6b03c254754d/gK0pledC.png 欢迎扫码添加声小音，在节目之外和我们保持联系。 Special Guests: Dr Adrian Kaehler and Leander.