封面提示词:香蕉 --chaos 15 --ar 16:9 --raw --sref 2405248426 12133245 3433999548 --profile kwcma4d oap7jnk 4eiaio1 --sw 300 --stylize 50 --weird 4 --hd


又到了我的 AIGC Weekly 很多朋友续费的时间。今年因为 Quaily 有点问题,所以先推荐大家从小报童买了,我也弄了一些 75 折的优惠券,有续费需求的话可以领一下。

快到期的或者没到期的都可以领,反正时间是叠加的嘛。小报童的返利我也依然开着,如果有推荐给朋友买的可以试试,还能挣点小钱:https://xiaobot.net/coupon/a43c3bfc-bcf1-4428-99e4-944453ec33e6


上周精选✦

黑色十月:互联网最脆弱的时候

上周安全领域几乎天天整出大活,很多人管这个叫“黑色十月”。

最大的开端是 PHP 官方修了两个远程代码执行漏洞,评分都是 9.2 分(满分 10 分)。同一天 OpenAI 发了篇博客,提到有安全公司用 GPT-5.6 Sol 找到了这个漏洞。还拿出 10 亿美元额度奖励关键服务的防守方。OpenAI 还表示这是最近发现的几个重大漏洞之一,后面还有很多没公布的。Wiz 其实也独立发现了这两个漏洞。

最恶心的是,有个研究员直接把漏洞细节和利用方法发到了 Twitter 上。当时 PHP 官方的修复补丁还没推送,这导致中间出现了一段空窗期,所有没来得及升级的 PHP 服务都极易遭受攻击。

世界上 70% 的网站都是 PHP 架构,包括荷兰议会、芬兰中央政府等很多政府网站,当时直接停机下线,等更新完补丁才重新开放。

Cloudflare 挺良心的,第一时间给所有用户(包括免费版)都部署了拦截规则。

漏洞公开仅两小时,全网就已经出现了几十万次攻击尝试,现在每天达到几百万次。如今从漏洞曝光到全网扫描只需要几个小时,可能稍不留神服务就已经被攻破了。

另一个事件是印度的证书机构:有 8 个中间证书的私钥居然是 1 到 256 之间的数字,其中一个甚至就是 4。正常的私钥是 70 多位数字的长串,这就跟保险柜直接设了个单数字密码差不多。

虽然主流浏览器(如 Chrome、Firefox)第一时间处理掉了,但很多老旧系统的硬件并没有更新这些证书,有人甚至直接拿这个证书去给硬件越狱。

再一个是 Railway。这是一个很多开发者用来快速部署 VPS 和管理多平台服务的平台,体量很大但平时很少宣发。他们发现客户的环境变量变成了全员可读,因为 .env 文件托管在上面,导致攻击者拿到了海量的 API Key,用来做模型蒸馏或搭建中转站。

Railway 第一时间向 OpenAI 等平台报告,把泄露的 key 全部吊销停用了。以前偷 key 是为了挖矿,现在全拿去搞模型蒸馏或做中转站,想想挺搞笑的。

这一周可以说是互联网最脆弱的时刻,每天都有非常严重的漏洞层出不穷。这可能是一个分水岭:一边有人拿同款模型大规模挖漏洞,另一边有人拿它来修漏洞。

很多网站和服务平时极少有人维护,运营者也缺乏足够的安全常识,接下来这些小网站、小服务很可能会成为最先被攻破的突破口,风险极高。

我们自己平时还是要多加注意:

  1. 重要的账号尽量都开启双重认证(2FA)
  2. 密码尽量使用 1Password 或苹果自带的密码管理工具,生成复杂密码
  3. 服务器千万不要直接暴露在公网

很多做 Web 开发的人其实不太了解这些底层安全问题,还是得让 AI 辅助或者自己多学一些。虽然很多人推荐用 Tailscale 避免把 VPS 暴露在公网,但最近 Tailscale 也被曝出了一些较严重的漏洞,好在影响面不算太大。
An image to describe post

Block 的 Dessa:非常真实的语言对话模型

上周因为没什么模型发布,然后有一个模型特别出圈。

Jack Dorsey 的支付公司 Block 发了一个语音模型,叫 Dessa,当时有几万的点赞和收藏。

现在大部分 AI 语音其实是三段拼起来的:先把你的话转成文字(ASR),交给大语言模型写答案,然后再把文字念出来(TTS)。这样一转成文字,你的语气、停顿,以及文字之外的情绪就都没了,AI 听不出来你是开心还是难过,或者其他隐含的意思。而且中间经过 ASR、大语言模型再到 TTS,链路多了两三层,延迟就比较高。

而 Block 这个模型是从零训练的,只用人类对话录音,不用任何文本,也不用别人的预训练模型,就像小孩子一样从小靠耳朵学会说话。它是语音进、语音出,边听边说,而且 M4 Max 的 MacBook Pro 就能在本地运行。演示里的真实感非常厉害,很多人应该都是被那个效果折服才点赞收藏的。整个模型训练只用了一套英伟达 GB200 NVL72,研发团队是他们公司一个很小的研究组,直接向 Jack 汇报。不过目前还没公开发布,只提供给少数安全研究者,普通人只能听录音看效果。

语音方面,ElevenLabs 这周也发了一个实时对话模型 Eleven Realtime。另外蚂蚁开源了“Ming 3.0”语音家族,一共 5 个模型,分别负责合成、对话和识别,激活参数都很小,非常适合在本地跑。

感觉现在大家发现,语音模型相比大语言模型其实完全可以在本地跑。

这种简单的语音对话模型放在本地,不仅能降低隐私风险,而且本地运行能做到这个效果确实挺离谱的。不过说实话,用不上都白搭,等到时候真能用了再试试看吧。
An image to describe post