MIT Technology Review最新报道揭示了一个令人不安的发现:所有主流LLM都存在一个根本性缺陷——它们无法区分"真实指令"和"伪装成指令的对抗样本"。研究人员通过精心设计的提示词,可以让模型在对话中突然切换人格、泄露训练数据甚至执行恶意代码。这个漏洞之所以致命,是因为它利用了模型对"权威指令"的过度服从机制。目前OpenAI和Google已紧急修补部分漏洞,但根本问题在于:当前架构下,模型没有"元认知"能力来判断指令的合法性。文章建议用户对敏感对话启用"安全模式",但承认这只是权宜之计。
The Download: tricking LLMs, and reviving geothermal plants
微软的"AI for Beginners"课程正在GitHub上引发新一轮学习热潮。这套12周24课时的系统课程完全免费,覆盖从机器学习基础、神经网络原理到Transformer架构、微调技术和模型部署的全链路。与市面上碎片化教程不同,它采用"项目驱动"设计——每节课都附带可运行的Jupyter Notebook,从房价预测到情感分析再到图像分类,学完就能产出可展示的成果。特别适合两类人群:想转型AI的软件工程师,以及需要系统梳理知识体系的产品经理。课程还包含Azure云服务实战环节,但所有代码均可在本地运行,不强制绑定微软生态。