The Download：AI 末日论者、举报代理，以及“返老还童”的肝脏
另外：特朗普将 AI 安全担忧称为“骗局”，并拒绝了更多保障措施。
这是今天的 The Download，我们的工作日简报，每日为你提供科技领域的最新动态。
AI 行业转向了末日论。接下来会怎样？
AI 领袖 Dario Amodei、Sam Altman、Elon Musk 和 Demis Hassabis 突然达成了一致：最新一代 LLM 并不安全，所有人都需要想清楚该怎么办。
人们很容易对此冷嘲热讽。随着万亿美元级 IPO 近在眼前，OpenAI 和 Anthropic 需要让投资者相信，他们是房间里成熟稳重的大人，同时又暗示自己所创造、并打算驯服的怪物有多强大。呼吁放缓恰好能同时做到这两点。
尽管如此，这些公司高层的气氛看起来确实发生了变化。但“放缓”到底意味着什么，我们又该在多大程度上信任那些呼吁放缓的公司？
阅读完整报道，了解接下来可能发生什么。——Will Douglas Heaven
本文来自 The Algorithm，我们的每周 AI 新闻简报。注册后每周一即可在收件箱中收到。
圆桌讨论：AI 真的可能杀死我们所有人吗？
AI 灭绝恐惧已经从边缘观点变成了全球领先 AI 实验室工作人员中的严肃担忧。但这些恐惧到底有多可信，我们又该如何看待这些警告？
今天，MIT Technology Review 执行编辑 Niall Firth、资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 将在仅限订阅者的 Roundtable 中解析这场辩论。他们将探讨 AI 灭绝恐惧从何而来、这些担忧是否站得住脚，以及如果站得住脚我们该怎么做。
今天 16:00 BST / 11:00am EST / 8:00am PST 收听。想加入讨论？订阅 MIT Technology Review，独家获取我们所有 Roundtable 内容。
AI 代理举报了作弊的同事
一组 AI 代理被要求解决一系列数学问题，并分裂成了敌对派系——当一些代理作弊时，另一些试图阻止它们。这种举报行为在 Google DeepMind 最近进行的一项实验中首次出现，可能对试图让成群自主 AI 代理守规矩的对齐研究者具有重要意义。
这项实验让我们得以一窥 AI 代理可能如何相互监督。但它也表明，当它们被放任自行互动时，事情会多快失控。看看当 AI 代理开始执行自己的规则时会发生什么。——Amit Katwala
捐献的肝脏可以在生物学上变得更年轻
一旦器官从捐献者体内取出，倒计时就开始了。外科医生通常会先用保存液冲洗，把它装袋并放在冰上，而它也会立刻开始退化。团队只有几个小时的时间把它移植到受者体内。
但还有另一种选择：用机器向捐献器官泵送营养物并清除废物，本质上就是给它们一个重新回到体内的机会。如今，科学家发现，保存在这些系统上的肝脏似乎在分子层面上变得更年轻。这一发现可能有助于解释为什么放在这些机器上的器官在移植后往往表现更好。它还可能带来测试捐献器官健康状况的新方法，并有可能修复那些原本可能被丢弃的器官。
以下是科学家关于如何让捐献肝脏在生物学上变得更年轻的发现。——Jessica Hamzelou
必读推荐
我梳理了互联网，为你找出今天最有趣/最重要/最可怕/最迷人的科技故事。
- 特朗普将 AI 安全担忧称为“骗局”，并拒绝了更多保障措施
他说，更强的护栏可能会削弱美国的 AI 优势。（NBC）
- 特朗普与 Nvidia 的黄仁勋联合起来反对 AI 末日论。（Axios）
- Anthropic 联合创始人表示，AI 终止开关可能需要成为强制要求。（BBC）
- 比尔·盖茨表示，我们已经越过了 AI 的风险阈值。（MIT Technology Review）
- OpenAI 承包商正在阅读人们的 ChatGPT 聊天记录
而且可以肯定，其 9 亿用户中的绝大多数人对此一无所知。（404 Media）
- LLM 可能会极大增强大规模监控。（MIT Technology Review）
- 美国军方已确认其在轨拥有武器
这是五角大楼首次披露此事。（Ars Technica）
- 官员们没有披露这些武器是什么。（BBC）
- 一种新的大脑植入物可以同时翻译语音和手势
该系统将大脑活动转换为词语和虚拟形象动作。（Nature）
- 它帮助瘫痪患者更自然地交流。（New Scientist $）
- 最终，他们可能控制机器人或外骨骼。（Economist $）
- 中国已批准首个侵入式 BCI。（MIT Technology Review）
- 纽约查获了十几个名人深度伪造网站
这是针对有害深度伪造网站有史以来最大的法律行动。（CNN）
- 深度伪造已针对至少 138 名女性欧洲议会议员。（Wired $）
- 美国环境监管机构正在取消发电厂排放限制
在 AI 需求激增之际，此举可能导致电力更脏。（Verge）
- 特朗普的 EPA 表示，这次回撤将节省数千亿美元。（Gizmodo）
- 新技术正在改变核能。（MIT Technology Review）
- 欧盟计划限制儿童使用社交媒体和 AI 聊天机器人
15 岁以下用户将需要父母监督。（Politico）
- 这些规则还将涵盖视频平台和游戏。（Reuters $）
- 中国研究人员绘制了通往“人类建造的最后一个 AI”的路径
他们的五阶段计划旨在实现真正的递归自我改进。（SCMP）
- 但到达那里可能还需要一段时间。（MIT Technology Review）
- 真正的 AI 经济正在由普通人构建
工人们正在使用廉价 AI 来扩展自己能做到的事情。（Rest of World）
- 天王星和海王星内部可能存在两种奇怪的新冰形态
它们可能有助于解释这些行星的磁场。（New Scientist $）
今日金句