以下是您要求的英文文章的中文翻译,已按照要求保留原文结构、技术术语和代码块,并输出为 Markdown 格式。
HenryNdubuaku maths-cs-ai-compendium
数学、计算机科学与人工智能纲要
在线阅读:henryndubuaku.github.io/maths-cs-ai-compendium
概述
大多数教科书将好的思想埋藏在密集的符号之下,跳过直觉,假设你已经掌握了一半的材料,并且在人工智能等快速发展的领域中很快就会过时。这是一本开放、非传统的教科书,从头开始涵盖数学、计算和人工智能。本书专为那些渴望深入理解知识、而不仅仅是为了应付考试或面试的好奇实践者而编写。
背景
在过去几年从事 AI/ML 工作的过程中,我填满了笔记本,内容以直觉优先、结合真实世界背景,对数学、计算和 AI 概念进行不含糊的解释。2025 年,几位朋友用这些笔记准备 DeepMind、OpenAI、Nvidia 等公司的面试。他们全部被录用,并且目前在工作中表现出色。与此同时,我去年也进入了 Y Combinator。因此,我将这些内容分享给所有人。
MCP 服务器
本仓库包含一个 MCP 服务器,允许任何 AI 助手(Claude Code、Cursor、VS Code 等)将本纲要作为知识库使用。它需要本地克隆该仓库。附带用于教育目的的工具和示例实现。
大纲
| # | 章节 | 摘要 | 状态 | |---|------|------|------| | 01 | 向量空间 | 向量、大小、方向、范数、度量、点积/叉积/外积、基、对偶性 | 可用 | | 02 | 矩阵 | 性质、特殊类型、运算、线性变换、分解(LU、QR、SVD) | 可用 | | 03 | 微积分 | 导数、积分、多元微积分、泰勒近似、优化与梯度下降 | 可用 | | 04 | 统计学 | 描述性度量、抽样、中心极限定理、假设检验、置信区间 | 可用 | | 05 | 概率论 | 计数、条件概率、分布、贝叶斯方法、信息论 | 可用 | | 06 | 机器学习 | 经典 ML、梯度方法、深度学习、强化学习、分布式训练 | 可用 | | 07 | 计算语言学 | 句法、语义、语用、NLP、语言模型、RNN、CNN、注意力机制、Transformer、文本扩散、文本 OCR、MoE、SSM、现代 LLM 架构、NLP 评估 | 可用 | | 08 | 计算机视觉 | 图像处理、目标检测、分割、视频处理、SLAM、CNN、视觉 Transformer、扩散、流匹配、VR/AR | 可用 | | 09 | 音频与语音 | DSP、ASR、TTS、语音与声学活动检测、说话人分离、源分离、主动降噪、WaveNet、Conformer | 可用 | | 10 | 多模态学习 | 融合策略、对比学习、CLIP、VLM、图像/视频分词、跨模态生成、统一架构、世界模型 | 可用 | | 11 | 自主系统 | 感知、机器人学习、VLA、自动驾驶、太空机器人 | 可用 | | 12 | 图神经网络 | 几何深度学习、图论、GNN、图注意力、图 Transformer、3D 等变网络 | 可用 | | 13 | 计算与操作系统 | 离散数学、计算机体系结构、操作系统、并发、并行、编程语言 | 可用 | | 14 | 数据结构与算法 | 大 O、递归、回溯、动态规划、数组、哈希、链表、栈、树、图、排序、二分查找 | 可用 | | 15 | 生产级软件工程 | Linux、Git、代码库设计、测试、CI/CD、Docker、模型服务、MLOps、监控、使用编码代理的最佳实践 | 可用 | | 16 | SIMD 与 GPU 编程 | 面向 ML 的 C++、框架工作原理、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPU、RISC-V、Vulkan、WebGPU | 可用 | | 17 | AI 推理 | 量化、高效架构、服务与批处理、边缘推理、推测解码、成本优化 | 可用 | | 18 | ML 系统设计 | 系统基础、云计算、分布式系统、ML 生命周期、特征存储、A/B 测试、推荐/搜索/广告/欺诈设计示例 | 可用 |
前言
新生儿的大脑是一个新初始化的神经网络,它从现实世界的数据和体验中训练,直至成年……并持续终生。对法语有卓越的理解并带有完美的口音,意味着接触到了卓越的法语和完美的口音。同样,优秀的 AI 研究人员和工程师具备出色的问题解决能力,意味着他们吸收了优质的知识并拥有丰富的经验。
Kvashchev 的实验是一项长期的塞尔维亚研究,表明为期三年的密集创造性问题解决训练可以显著提升智力,尤其是流体智力,增加 10-15 个 IQ 点。确实存在天生高 IQ 的情况,类似于优质权重初始化能带来更好的训练效果,这一点已被先天与后天的实验证据所证实。然而,高 IQ 个体真正的唯一优势是能够更快地学习或识别模式。但通过重复使用模式,任何概念都是绝对可以学会的。
查尔斯·达尔文被他的老师和父亲认为是一个非常普通、甚至低于平均水平的学生。他形容自己并不机智,感觉自己像一个“慢处理器”,需要时间来吸收数据。
在 3 到 10 岁之间,我的学业表现很好,自然而然地掌握概念,从不记笔记或复习。11 到 13 岁时我有点自大,用这种方法在一个 80 人的班级中掉到了下半部分。14 到 15 岁时,我开始像普通学生一样阅读,在中学最后一个学期取得了第一名。
早期的学校课程与自然 IQ 配合良好,但现实世界中的才能是由优质的知识吸收和执行强度驱动的。事实上,大多数学业表现良好的学生只是更勤奋,但学术体系是为快速学习者设计的。本纲要提供了一个全面且联系紧密的知识流,以促进世界上那些“达尔文们”更好地学习。你只需要初等数学和基本的 Python 编程,其他一切都可以逐步掌握,只需阅读并相信这个过程!
如何更好地学习
在大学的第一学期,我同时修了 17 门课程,成绩并不理想,因此我采用了一种技巧:
第一阶段:累积