← 返回日报
🌐 机器翻译 · DeepSeek · MIT TR

The Download: AI’s refusal problem and weight-loss drug side effects


The Download:AI 的拒绝问题与减肥药副作用

另外:美国已冻结微软及其他 IT 公司的绿卡。

这是今天的 The Download,我们的工作日简报,每日为你提供科技领域的最新动态。

我们过于相信 AI 说“不”的能力

当今的 AI 模型被训练来拒绝大量提示。如果你问聊天机器人如何毒害同事或如何打绞索结,它很可能会拒绝你。但拒绝会失败,有时甚至后果骇人。有些人正试图利用 AI 来改良生物病原体并构建自主无人机蜂群。迟早,失败的拒绝可能导致全球性灾难。更重要的是,依赖拒绝意味着要在模型应该服从什么和必须不服从什么之间划清界限。各国政府也将划定自己的界限,这可能限制言论自由。与此同时,让 AI 有用的能力也可能让它变得危险。如果我们想让它帮助治愈癌症,AI 需要遗传学专业知识,而这些知识也可能被用来制造生物武器。阅读完整报道,了解 AI 拒绝所涉及的艰巨权衡。——Arthur Holland Michel

本文来自我们印刷杂志的下一期。现在就订阅,以便在 10 月 21 日星期三出版时第一时间拿到!

我们仍在弄清 GLP-1 减肥药的副作用

本周,我的同事 Antonio Regalado 报道了一项新研究,表明 GLP-1 药物可能延缓生物衰老。这是与这些药物相关的一系列潜在益处中的最新一项。但也有一些奇怪的副作用。最常见的是胃肠道反应,但研究人员也在调查其与脱发、指甲疾病以及眼后神经损伤之间可能存在的联系。以下是我们目前对减肥药副作用的了解。——Jessica Hamzelou

本文来自 The Checkup,我们的每周生物技术简报。注册后每周四即可在收件箱中收到。

10 家值得关注的气候科技公司:远景能源及其全球风电雄心

远景能源是《麻省理工科技评论》2026 年 10 家值得关注的气候科技公司之一,仅向订阅者开放。

中国安装风力涡轮机的速度超过任何其他国家。其领先制造商之一远景能源正在将可再生能源整合进数据中心,利用风力涡轮机发电,并用电池在现场储能。最近,它成为第一家完全用可再生能源直接为数据中心供电的公司。一个 AI 驱动的系统会优化电力输出,使设施无论风是否在吹,都能获得稳定供电。现在,它希望将这种方法推广到世界各地沙漠中的数据中。了解远景计划如何用可再生能源为全球 AI 热潮供电。——Cici Zhang

必读内容

我梳理了互联网,为你找出今天最有趣/最重要/最可怕/最迷人的科技故事。

  1. 美国已冻结微软及其他 IT 公司的绿卡

它指控这些公司利用签证欺诈来取代美国工人。(CNBC)

  1. 俄罗斯的一次无人机袭击摧毁了第二个 Yandex 数据中心

乌克兰袭击并部分瘫痪了位于卡卢加的该设施。(Reuters $)

  1. Anthropic 已禁止对 Claude 的“辱骂或残忍行为”

如果反复辱骂,Claude 也可以结束对话。(Verge)

  1. OpenAI 已将收入预测下调 200 亿美元

此举引发了人们对 AI 投资的担忧。(Guardian)

  1. 基因编辑揭示了小鼠胚胎如何发育

这些方法可能帮助我们理解发育障碍。(Nature)

  1. SpaceX 公布了成为主要移动运营商的计划

它正以 80 亿美元从一家投资公司购买无线频谱。(WSJ $)

  1. ICE 已探索使用 Palantir 工具调查选民欺诈

它想追踪涉嫌非法投票的人。(Wired $)

  1. Peter Thiel 正利用圣经预言来反对 AI 监管

他的新“敌基督”演讲将 AI 安全描绘为对自由的威胁。(Politico)

  1. MIT 的 Margaret Hamilton 去世,她的软件帮助阿波罗 11 号登月

她领导了为阿波罗机载计算机编程的团队。(BBC)

  1. 今年的诺贝尔科学奖是现实版科幻

它们横跨宇宙、人脑和生命起源。(Economist $)

今日语录

“白宫认为,任何使用‘Artificial Intelligence’一词,而不是使用被高度接受的更新、更准确的术语‘Super Intelligence’的人,都是敌人!”——据 Axios 报道,美国总统 Donald Trump 在 Truth Social 的一篇帖子中,为其 AI 品牌重塑策略加上了不祥的威胁。

还有一件事

这个未来主义太空栖息地设计为在轨道上自组装

越来越多的人正在前往地球之外旅行,但国际空间站一次只能容纳 11 人。位于马萨诸塞州剑桥的建筑研发实验室 Aurelia Institute 正在构建一个解决方案:一种以扁平瓷砖的紧凑堆叠方式发射、并在轨道上自组装的栖息地。这个概念听起来可能很牵强,但 i

📖 阅读原文 →