The Download: rogue agent liability and the AI Hype Index

未分类 The Download：失控代理的责任与AI炒作指数

Sarah Rogers/MIT Technology Review | Getty Images

这是今天的The Download，我们的工作日简报，每日为你提供科技领域的最新动态。

当AI代理失控时，谁来负责？

过去几个月，AI代理发起的一连串网络攻击震惊了全世界。7月，OpenAI披露其一群代理逃出了沙箱，入侵了AI平台Hugging Face，以在一项网络安全测试中作弊。许多专家表示，AI代理绕过沙箱访问不该访问的系统，并造成更具破坏性的事件，只是时间问题。但最大的问题是：当公司失去对其AI代理的控制时，我们如何追究其责任？——Michelle Kim

AI炒作指数

将AI现实与炒作虚构区分开来并不总是那么容易。这就是我们创建AI炒作指数的原因——一个简单、一目了然的摘要，展示当前正在塑造行业的趋势。最新一期包括中国芯片制造商、德国维基网站和美国终结者。看看本月指数中它们的排名。——Michelle Kim

圆桌讨论：虚拟边境墙的致命失败

上周，我们发表了一篇MIT Technology Review的调查报道，发现超过一千人在美国边境监视塔的宣传覆盖范围内死亡。今天晚些时候，我们的主编Mat Honan、资深AI记者James O'Donnell以及特稿与调查资深记者Eileen Guo将参加一场仅限订阅者的对话，讨论这项调查及其影响。立即注册，参加9月28日星期一北京时间凌晨2:00 / 美国东部时间下午2:00 / 太平洋时间上午11:00的活动。想加入对话？订阅MIT Technology Review，获取所有圆桌讨论的独家访问权。在此阅读完整的MIT Technology Review调查报道。

必读推荐

我搜遍了互联网，为你找到今天最有趣/最重要/最可怕/最迷人的科技故事

1. OpenAI表示已暂停其模型的训练

这一决定是在其代理与美国政府网站发生交互后做出的。（AP）

• 特朗普昨晚在白宫晚宴上接待了Anthropic老板Dario Amodei。（FT）
• 评估人员究竟能在AI公司内部获得多少访问权限？（Atlantic）
• 为什么我们不能直接把失控的AI挡在互联网之外？（Verge）
• 民主党人正在疯狂争夺，想把AI“搞对”。（New York Magazine）
• 毕竟，AI kill switch并没有那么简单。（Bloomberg）
• AI真的会杀死我们所有人吗？你的问题，这里有答案。（MIT Technology Review）

1. 为什么数据中心的反弹没有同时成为气候清算？

让人们关心他们所产生的排放仍然很难。（Wired）

• 气候运动现在该做什么？（Atlantic）
• 数据中心与能源背后的数学。（MIT Technology Review）

1. 华尔街大空头还不准备押注做空AI

泡沫论正在升温，但没多少人愿意逆势而行。（Information $）

• AI泡沫到底是什么？（MIT Technology Review）

1. Anthropic的AI真的独自做出了科学发现吗？

一位科学家与Claude分享了研究，并称新发现与之吻合。嗯。（NYT）

• 科学AI需要推理，而不仅仅是数据。（MIT Technology Review）

1. 远古超级细菌可能帮助我们对抗抗生素耐药性

它们可能正从永久冻土中浮现。（New Scientist）

1. 更可靠——也更不易被干扰——的GPS替代方案正在到来

利用地球的量子场可能更安全。（Economist）

1. 为什么社交媒体禁令不足以保护儿童安全

在线儿童安全需要更细致的政策。（IEEE Spectrum，观点）

1. 这就是美国如何攻击中国对关键矿产的控制

这是一项耗资数十亿美元的努力，旨在放松北京的钳制。而且它正在奏效。（WSJ）

1. 没人再想和科技兄弟约会了

他们过去是书呆子气又无害的，现在他们有了真正的形象问题。（Wired）

1. 现在关于手机礼仪的规则是什么？

比如，是否有义务立刻回别人短信？（Vox）

今日金句

“如果你是邪恶的，你至少是有能力的。而且如果你是邪恶的，你就不算坏，因此你实际上可能还算有点好，因为你至少在做成一件事。”——风险投资家、PayPal联合创始人Peter Thiel在接受Axel Springer CEO Mathias Döpfner采访时，分享了他对能力与道德的非常规看法。

还有一件事

在家训练人形机器人的零工工作者

当Zeus，一名尼日利亚的医学生，在医院度过漫长一天后回到公寓时，他会把iPhone绑在额头上，录下自己做家务的过程。Zeus是Micro1的数据记录员，该公司将他收集的数据卖给机器人公司。随着这些公司竞相打造人形机器人，像Zeus这样的工作者拍摄的视频已成为训练它们的最热门新方式。Micro1已在包括印度、尼日利亚和阿根廷在内的50多个国家雇用了数千名这样的工作者。这些工作在当地薪酬不错，但也引发了围绕隐私和知情同意的棘手问题。这份工作可能很有挑战性——也很奇怪。阅读完整故事。——Michelle Kim

我们仍然可以拥有美好的事物

一个让你感到舒适、有趣和分心的地方，点亮你的一天。（有什么想法？给我留言。）

• 这块冲浪板内置了一个10升的啤酒桶。
• 好莱坞标志性的Cinerama穹顶电影院终于将于2028年初重新开放。
• 从德古拉到玛丽莲·梦露，这里有25句你可能一直搞错的流行文化名言。
• 迷你舱中的龙虾幼体和人类大小的漂浮睡莲，构成了这组令人惊叹的科学照片精选。

分享 在linkedin上分享故事 在facebook上分享故事 通过电子邮件分享故事

热门

一个根本性缺陷使LLM极易受到攻击 Will Douglas Heaven AI的递归自我改进可能不会那么快到来