🗞️ AI 日报 · 10月11日

当所有人都在讨论千亿参数模型需要多少张H100时，AirLLM用一个反直觉的方案证明：70B推理只需要单张4GB显卡。其核心思路是分层推理——每次只加载模型的一部分到显存中，算完即释放，配合4bit量化与IO优化，把显存需求压缩到了极限。这意味着消费级硬件重新获得了运行顶级开源模型的入场券。对于个人开发者和边缘部署场景，这不只是省钱，而是让原本不可能的事情变得可能。当然，速度换空间的代价是否可接受，原文给出了实测数据。

用AI生成图表的最大痛点是丑和千篇一律。这个项目为Claude Code、Codex、Copilot、Cursor等主流AI编程工具注入了一套编辑级图表设计系统，覆盖44种图表类型，从流程图到架构图到数据可视化，全部按照专业媒体的视觉标准输出。它不是简单的模板库，而是一套让AI理解「什么是一张好图」的设计规范。对于每天用AI写文档、做汇报的人来说，这可能是提升输出质量最直接的一步。

PyTorch早已是深度学习框架的默认选择，但动态计算图的性能开销始终是隐形成本。这个官方仓库的最新进展显示，团队正在张量计算和动态神经网络之间寻找更优解——在保持Pythonic灵活性的同时，通过编译优化和GPU加速把动态图的性能推到接近静态图的水平。对于每一个在训练循环里等过GPU利用率的人来说，这比任何新框架发布都更值得关注。

逆向工程长期依赖专家经验和昂贵工具，但Agent正在改写这套规则。morluto rea项目展示了如何用AI Agent自动化逆向分析流程——从观察应用行为入手，逐步深入到原生二进制层面的拆解与理解。这不只是效率提升，而是让逆向工程从少数人的手艺变成可规模化复用的能力。安全研究、竞品分析、遗留系统迁移，都可能因此改变工作方式。原文展示了完整的Agent工作流和实际案例。