🗞️ AI 日报 · 9月18日

当AI编码助手以惊人速度生成代码时，一个致命问题被忽视了：这些代码安全吗？Cloudflare发布了一款名为security-audit-skill的开源工具，专为编码智能体设计，能够执行多阶段安全审计并输出经过独立验证的机器可读发现。这意味着AI不仅能在写代码时考虑安全，还能在写完后自动进行系统性安全审查——从依赖漏洞扫描到逻辑缺陷检测，再到权限边界验证，覆盖了传统安全审计的核心环节。所有审计结果都经过独立验证机制确认，避免了AI"自说自话"式的误报。在AI生成代码占比越来越高的今天，这款工具可能成为开发流程中不可或缺的安全守门人。

AI智能体操作浏览器这件事一直很尴尬：要么需要独立的无头浏览器（登录态全无），要么会抢占你的鼠标和键盘。腾讯开源的BrowserSkill给出了一个新答案——通过CLI加浏览器扩展的组合，让AI智能体直接使用你已登录的真实浏览器，在后台完成自动化操作，完全不打断你的正常工作。这意味着AI可以帮你处理需要登录态的任务：查收邮件、填写表单、抓取需要认证的数据、甚至操作企业内部系统。扩展负责与浏览器通信，CLI负责编排任务流程，两者配合实现了"AI用你的浏览器，但你感觉不到它的存在"。对于需要浏览器自动化的企业场景和个人用户，这可能是目前最优雅的解决方案。

当前AI智能体框架大多只关注"能做什么"，却忽视了一个关键问题：如何让智能体越用越强？ECC（Agent Harness Performance Optimization System）提出了一套完整的智能体性能优化方案，涵盖技能积累、直觉反应、长期记忆、安全边界和研究优先的开发范式。所谓"技能"是指智能体可以将成功完成的任务模式固化为可复用能力；"直觉"则让智能体在面对熟悉场景时跳过冗长推理直接行动；"记忆"系统确保跨会话的经验不会丢失。这套系统的核心理念是：好的智能体不应该每次都从零开始思考，而应该像人类专家一样，通过经验积累变得越来越高效。对于正在构建生产级AI智能体的团队来说，ECC提供了一套值得参考的架构范式。

Anthropic正式发布Claude Code，一款运行在终端中的智能编码工具。它不只是补全代码那么简单——它能理解你的整个代码库结构，自主执行多步骤编程任务，从修复bug、重构模块到编写测试，全程在命令行中完成。与IDE插件不同，Claude Code以agent模式运行，可以自主规划任务、调用工具、验证结果。它支持自然语言指令，你只需描述想要什么，它就能定位相关文件、理解上下文、生成修改方案并执行。对于习惯终端工作流的开发者来说，这可能是迄今为止最接近"AI结对编程"体验的产品。Anthropic此举也标志着大模型公司正从提供API转向直接占领开发者工作入口。

MIT科技评论最新一期的The Download聚焦两个令人不安的话题：AI的灭绝风险与生物武器威胁。随着AI能力快速提升，越来越多的专家开始认真讨论一个曾经被视为科幻的问题——AI是否可能对人类生存构成根本性威胁？与此同时，AI在生物领域的应用也引发了严重担忧：降低生物武器开发门槛的可能性正在从理论走向现实。本期还涵盖了其他重要科技动态，包括最新AI监管进展和前沿研究突破。这不是危言耸听，而是科学界和policy圈正在严肃对待的议题。

面对"AI灭世论"的喧嚣，MIT科技评论做了一件务实的事：收集读者最关心的问题，逐一给出基于现有科学证据的回答。AI真的会主动消灭人类吗？还是说风险来自人类滥用？超级智能的定义是什么？我们离它还有多远？现有AI安全研究能解决这些问题吗？文章不回避争议，也不制造恐慌，而是清晰区分了"已被证实的风险"、"合理推测的风险"和"纯属猜测的风险"。对于被各种AI末日论和乐观论搞得无所适从的读者来说，这是一份难得的理性指南。

当ChatGPT、Perplexity等对话式AI越来越依赖网页搜索来回答问题，我们对它们"怎么搜、为什么这么搜、搜完怎么用"几乎一无所知。一篇新论文首次系统性地刻画了对话式LLM智能体执行网络搜索的完整生命周期——从何时决定搜索、选择什么搜索策略、如何筛选结果，到最终如何将搜索结果整合进回答。研究发现，智能体的搜索决策并非总是理性的：它们有时会在明知知识不足时仍不搜索，有时又会过度搜索浪费算力。更关键的是，搜索策略的质量直接决定了最终回答的准确性，而当前主流智能体在策略选择上存在系统性偏差。这项工作为理解AI搜索的"中间过程"提供了第一个系统性框架，也为改进智能体搜索效率指明了方向。