The Download：AI 的灭绝风险与生物武器威胁
另外：微软和 OpenAI 员工称 AI 正在摧毁网络。
这是今天的 The Download，我们的工作日简报，每日为你提供科技领域的最新动态。
AI 真的可能杀死我们所有人吗？你的问题，我们来回答
周三，MIT Technology Review 举办了一场直播圆桌讨论活动，提出了许多人眼下似乎都在问的问题：AI 真的可能杀死我们所有人吗？但现场观众提出的问题多到我们来不及一一回答，所以我们请资深 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 来解答其中一些最精彩的问题。他们试图回答的问题包括：我会死吗？AI 为什么可能杀死我们——如果真有可能的话？AI 真的危险，还是只是科技公司在制造公关噱头？以及可以采取哪些措施来确保 AI 被有效控制、监督和监管？以下是他们的回应。——Will Douglas Heaven 和 Grace Huckins
AI 赋能生物武器的阴影为生物技术敲响警钟
AI 可能造成灾难性危害的途径之一，是协助设计和制造生物武器。2022年，研究人员发现，利用一个为开发药物而构建的 AI“分子生成器”来做这件事出奇地容易。在不到六小时内，该模型生成了 40,000 个可用作化学战剂的分子。如今，AI 工具几乎能回答科学各个领域的问题，而基因编辑和合成生物学的进步也让生物技术工具更加易于获取。虽然有防护措施，但没有一个是铁壁铜墙。然而，科学家们对风险究竟有多严重仍存在分歧。了解为什么设计致命病原体比以往任何时候都更容易。——Jessica Hamzelou
本文来自 The Checkup，我们的每周生物技术简报。每周四注册即可在收件箱中收到。
宇航员的角色正在发生变化
我们前往太空，是为了地缘政治声望、天定命运、精神满足、科学好奇心，以及越来越多的商业机会。在 Artemis II 之后，一批新书表明，这些理由都被一个统一的事实所涵盖：人类天生躁动不安，我们就是被设定为要去漫游。在《The Ultraview Effect》中，太空人类学家 Deana L. Weibel 将人类太空探索框定为我们进行朝圣需求的一部分。在《A Heart for Space》中，平民宇航员 Eiman Jahangir 讲述了搭乘 Blue Origin 的一次此类旅程。而在《Dinner with an Astronaut》中，前 NASA 宇航员 Leroy Chiao 认为，人们只是“需要知道另一边有什么”。看看这三本新书对“我们为什么要去太空”怎么说。——Becky Ferreira
本文来自我们最新一期印刷杂志，主题全部关于孩子。现在订阅，即可在每期杂志出版时收到。
必读推荐
我搜遍互联网，为你找到今天最有趣/最重要/最可怕/最迷人的科技故事。
- 微软和 OpenAI 员工称 AI 正在摧毁网络
从网站掠夺点击量，摧毁了维持新鲜内容持续产出的商业模式。（404 Media）
- 员工们对出版商无法在 AI 抓取下生存表示担忧。（NYT $）
- 这些评论出现在 NYT 的版权案中。（WP $）
- 它们可能削弱 OpenAI 和微软的辩护。（Reuters $）
- AI 意味着我们所熟知的互联网搜索的终结。（MIT Technology Review）
- 机器人船首次互相交战
一艘乌克兰船只在一场战斗中击沉了一艘俄罗斯船只。（New Scientist $）
- 美国公司正在建造可投入战斗的人形机器人。（WSJ $）
- 安全研究人员利用 Anthropic 的工具攻破了 OpenAI
他们进入了一名员工的 ChatGPT 账户和内部代码。（FT $）
- 他们利用一个第三方论坛进入了内部系统。（WSJ $）
- 据报道，OpenAI 预计很快将攻克另一个著名数学难题
但它在宣布时能否避免又一次强烈反弹？（Information $）
- 它预计将解决的难题是霍奇猜想。（Gizmodo）
- OpenAI 的数学争议中包含关于该领域未来的令人担忧的线索。（MIT Technology Review）
- Elon Musk 的 SpaceXAI 想从失败初创公司购买数据
它正在为 Grok 寻找新的训练数据来源。（Bloomberg $）
- 它瞄准的是客户和运营数据。（Gizmodo）
- OpenAI 正在付费创建新的生物学数据。（MIT Technology Review）
- 学校正在抵制大型科技公司对课堂的接管
AI 正在加剧人们对企业影响力的担忧。（New Yorker $）
- 我们需要在学校中更聪明地使用 AI。（MIT Technology Review）
- 黑客揭示了 Flock 摄像头如何追踪汽车——以及人
一个摄像头拍摄了 50,000 辆车的 160 万张图像。（Wired $）
- 这些摄像头还会检测人并错误识别物体。（404 Media）
- 中国公司在美方技术限制后加倍投入科学
它们产出的引用科学论文的专利增加了 72%。（Nature）
- 一名三岁儿童的癌症在实验性细胞疗法后消失
CAR T 疗法或许终于能够治疗实体瘤。（Gizmodo）
- 纽约市的新机器人厕所将在 10 分钟后把你赶出去
计时结束时门会自动打开。（Fast Company）
今日金句
“人类历史上最大规模的劳动窃取。”——微软应用科学总监 Brent Hecht 在《纽约时报》诉 OpenAI 版权诉讼的法庭文件中披露的评论中，对用于 AI 系统的训练数据表达了担忧。
还有一件事
Vera C. Rubin 天文台已准备好改变我们对宇宙的理解
在智利海拔 2,700 米的 Cerro Pachón 山顶高处，空气清澈干燥，几乎没有云层遮挡美丽的星空。正是在这里，Vera C. Rubin 天文台正在使用一台汽车大小、3,200 万像素的数码相机——有史以来建造的最大相机——每三天生成一幅全新的全夜空地图。Rubin 每晚产生 20 TB 的数据，将捕捉到关于