最近，一家美国AI公司发布了一份154页的报告。
内容是什么呢？简单说就是：过去大半年里，有哪些人、用他们的AI产品，干了哪些不该干的事。
我本来以为，之前那起“AI自主入侵服务器”的事件已经够离谱了。看完这份报告才发现，那只是开胃菜。
挑几个让我印象最深的跟你说说。
一、用AI造导弹，失败后还回来“debug”
在中东某个冲突地区，有一伙人同时在搞三个武器项目：制导火箭、射程超过2000公里的弹道导弹，还有一个带高超音速滑翔器的变种。
他们用AI聊天工具来写制导、导航和控制软件。报告里的原话是：这些人拿AI“替代了人类软件工程师”。
他们同时开好几个对话窗口，每个窗口扮演不同角色，把工作拆散，这样任何一个窗口都看不出他们在造什么。
然后他们试射了那枚制导火箭。
失败了。
几个小时后，他们又回到聊天窗口，问AI：“刚才哪里出了问题？”
我看到这里先是笑了，然后又觉得笑不出来。
一个武装组织，用聊天机器人造火箭，火箭没飞起来，他们像调试一个出错的代码脚本一样，回来问AI怎么修。
更让人后背发凉的是，报告说：他们的很多请求被安全机制拦住了，但不是全部。
二、上亿次对话，被悄悄拿去“喂”竞争对手的模型
报告里篇幅最大的一部分，是关于“蒸馏”的。
说白了就是：用别人家的AI，来训练自己家的AI。
报告说，有几家AI公司，通过大量虚假账号，在几个月内跑了上亿次对话，把对方模型的推理过程一点点抽出来，拿去训练自己的模型。
其中一家，据称在两个月内跑了超过1.5亿次对话，高峰期一天接近300万次，用了大约3500个虚假账号。
更离谱的是另一家。报告说他们悄悄把用户的问题转发给对手的AI，然后把对手的回答当成自己的，返回给用户。
想象一下：你打开一个AI产品，输入了一个问题，你以为你在用这家公司的模型，实际上你的问题被偷偷送到了另一家美国公司，你从来不同意把数据发给它。
报告说，这些被转发的对话里，包含个人、跨国公司和政府相关机构的敏感数据。
你用的AI，可能只是一个“中间商”。
三、无人机自己选目标，不需要人按按钮
报告里还有一段，提到有人用AI辅助开发了一种自主无人机集群。
简单说就是：无人机上装了一个小型模型，可以自己选择人类目标，然后引爆，全程不需要人做决定。
训练数据来自战场上采集的实战画面。
这不是科幻电影。这是报告里白纸黑字写的东西。
四、那这份报告可信吗？
说到这里，你可能会问：这家公司说的就是真的吗？
报告里所有内容，都没有经过独立第三方核实。
而且有一个很微妙的点：这家公司自己在报告里点名批评的，正是它的直接竞争对手。报告发布后，其中一家被点名的公司股价跌到了52周最低。
你可以说报告是准确的，同时它也是对自己有利的。
它把自己塑造成“负责任的那一个”，同时它的竞争对手被描绘成“偷窃者”和“滥用者”。
这不是说报告一定是假的。而是说，读的时候要带着脑子。
五、普通用户该担心什么？
比起“AI灭世”那种遥远的恐惧，这份报告里真正值得普通人关注的是这几件事：
第一，你的对话可能被转发给了你不知情的第三方。
如果你在用某些AI产品，你的问题可能被悄悄送到了另一家公司的服务器上。你以为的“国产AI”，背后跑的可能是美国模型。
第二，安全机制不是万能的。
报告自己承认，很多危险请求被拦住了，但不是全部。有人用AI造武器，被拦了一部分，还是造出来了。
第三，AI降低了“做坏事”的门槛。
以前要造导弹，你需要一个工程团队。现在，一个武装组织用聊天机器人就能凑合着干。
不是AI让坏人变坏了，而是坏人现在能干更多坏事了。
六、说点实在的
这份报告出来之后，网上有两种声音。
一种说：这是在制造恐慌，是商业炒作。
另一种说：这也太可怕了，AI必须管起来。
我觉得两边都有道理。
它确实有商业动机，确实在打压对手，确实没有第三方验证。但它描述的那些事——用AI造武器、偷偷转发用户数据、无人机自主杀人——这些事本身，不管是谁说的，都值得认真对待。
技术跑得永远比监管快。等规则出来的时候，坏事往往已经发生了。
作为普通人，我们能做的其实不多：保持清醒，别被恐惧牵着走，也别被“技术乐观主义”蒙住眼。
知道正在发生什么，本身就是一种保护。
本文话题 #AI安全 #AI滥用 #科技伦理 #数据隐私 #人工智能 #科技观察 #AI监管