音频大模型深度伪造语音鉴伪:老刑警手机里那通没打完的电话

中秋家宴的螃蟹还冒着热气,坐在主位的老刑警张叔突然放下酒杯,掏出磨得掉漆的华为手机,翻出存了一年多的录音,推到坐在对面做算法的侄女小苏面前。“你再帮我听听,我到现在都不敢信,这居然不是我儿子的声音。”

老刑警的劫:电话那头是“绑匪”还是代码?

去年夏天的事,张叔退休第二年,在家浇花,手机突然响了,来电显示是儿子,接起来就是哭喊声,“爸!我撞人了!他们要我赔两百万不然卸我胳膊!” 那声音,就是儿子啊。三十多岁的人,从小踢球喊得嗓子哑,那点烟嗓的沙感,着急的时候不自觉带的尾音,错不了。张叔做了三十年刑侦,见过的骗子能排半条街,那一刻脑子直接空白了,手拿着电话抖得连阳台门都扶不住。 那时候小苏刚好在他家住,赶过来的时候张叔已经在输转账验证码了,一把抢过手机,说不对,叔,先测测。
音频大模型深度伪造语音诈骗来电界面截图
音频大模型深度伪造语音诈骗来电界面截图
那时候小苏手机里装着她们实验室刚做的内测版鉴伪工具,导入录音十秒钟,红色警告直接跳了出来:深度伪造音频,置信度99.7%。张叔当时还骂她胡闹,说我自己儿子声音我还听不出来?直到打了视频过去,儿子光着膀子在球场接球,对着镜头一脸懵,问爸你咋了,我周末不跟你说了约了朋友打球吗? 张叔挂了电话,坐在沙发上,半天没说出话。一身冷汗把背心都湿透了。 说实话,我听完这事的时候,后背也凉。换你你能分出来吗?你听到你亲生孩子的声音在那头哭着求救,你能先耐着性子等十分钟鉴伪结果吗?大概率不能对吧。

实验室里的拉锯:追着伪造痕迹跑的人

上个月我去小苏的实验室找她喝咖啡,一推门空调冷得我打寒颤,靠窗的工位上,屏幕摊着一堆歪歪扭扭的波形图,键盘边堆着三个空的功能性饮料罐子,一半的工位都贴着便利贴,写着各种模型版本号。 现在的音频大模型造假,早就不是以前那种剪几段拼起来的活了。你只要给模型几十秒你的声音,它就能学透你所有的习惯,哪怕你说话的时候喜欢在句末清一下嗓子,哪怕你激动的时候会破音,它都能给你一模一样仿出来。以前老的鉴伪方法找拼接缝,现在根本没用,人模型从第一个字到最后一个字都是顺下来的,连缝隙都没有。 那现在鉴伪靠什么?小苏点着屏幕上两条叠在一起的波形,给我指,你看这里,人类发音自带的不规则生理震动,大模型天生就没有。我们说话是声带震、气息撞出来的,每一次振幅都不会完全一样,大模型是概率采样生成的,多多少少会留下人类不会有的周期性高频痕迹,我们做的就是把这个痕迹放大,哪怕语音经过电话线路压缩了好几次,十几秒就能揪出来。
音频大模型深度伪造语音鉴伪真假波形对比图
音频大模型深度伪造语音鉴伪真假波形对比图
但是难啊。昨天刚更了新的鉴伪模型,今天就有骗子用新训练的大模型造出了能绕过检测的语音,相当于你刚锁好门,人家就配出新钥匙了。小苏说她上个月赶项目,连熬了七天,结果测试的时候,被一个刚开源的新大模型打了个正确率不到六十,当时坐在实验室楼下抽烟,差点哭了。 本来就是猫抓老鼠的活,你永远得跑在老鼠后面半步,累是真的,但不能停啊,停下来,外面不知道多少人要遭殃。

当真假变成选择题:谁能替记忆打包票?

当真假变成选择题:谁能替记忆打包票?
当真假变成选择题:谁能替记忆打包票?
从实验室出来我一直在想,我们聊了这么久深度伪造,聊鉴伪,其实很多人都没意识到,语音造假比图像造假可怕一万倍。图像你还能盯着看半天找破绽,声音进耳朵的那一秒,信任就直接升起来了。我们对亲人声音的熟悉,是刻在本能里的,从小听到大,早就是身体记忆的一部分了。 前阵子刷新闻,看到一个公司财务被伪造的老板声音骗了一千二百万,钱转出去才反应过来不对,那财务说,那声音连老板骂我“你能不能干快点”的口气都一模一样,我根本没多想。你说,这事能怪财务粗心吗?怪不到啊。 现在就算有了成熟的音频大模型深度伪造语音鉴伪技术,你能要求每一个人接到老板电话先测一遍再转钱吗?就算能,那十分钟的时间,会不会耽误真的急事? 张叔那次等了十分钟结果,就说那十分钟,他这辈子经历过的所有大案要案都没这么熬人,他说我当了一辈子刑警,相信自己的耳朵,结果自己的耳朵骗了我。这种冲击,不是一句“鉴伪成功了”就能抹平的。 不过话说回来,技术本身从来不是错的,造假的是人,鉴伪就是挡在前面的墙。现在小苏他们团队把鉴伪接口免费开放给了很多手机安全厂商,就是想让普通人打开手机就能测,不用花钱找专业机构。 中秋那天,小苏跟张叔说,现在最新版的,一秒出结果,不耽误事。张叔点点头,没说话,就是把那个录音一直存在手机里,说就当留个教训。 散场的时候,张叔挽着儿子的胳膊走,我在后面看着,就听见他跟儿子说,以后不管去哪,一天至少给我发一条语音,不是不信你,是我得留个底。 我听完心里有点堵。其实我们这代人早就习惯了网络上真真假假,只是没想到,现在连刻在身体里的声音记忆,都要打个问号了。未来会怎么样?没人说得准。只希望跑在前面的鉴伪技术,能永远比骗子的假语音,快那么一步吧。毕竟,我们总不能连自己的耳朵都不信了,对吧?

作者|大讲堂

排版|大讲堂

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:音频大模型深度伪造语音鉴伪:老刑警手机里那通没打完的电话
文章链接:https://lfdjt.com/info_23_22162.html