自我介绍

刚毕业的老博士, 但参与教学的时间比读研究生还长(一些) 😂

• 大二蹭了jyy老师的OS实验课, 学会了RTFM/RTFSC
• 大三大四带了两年的OS实验课
• 本科毕业的暑假, 袁春风老师推动《计算机系统基础》的教学改革
  • 给这门课设计大实验, 于是有了PA和NEMU
• 2017年, jyy提出AM, 第一版Project-N系列实验正式诞生
  • 作为co-founder之一参与维护
• 2019年, 包老师发起第一期 “一生一芯”
  • 作为技术指导带学生, Project-N作为基础设施发挥重要作用

博士方向研究指令集模拟器和二进制翻译

• 卷不过各位大佬, 所以跑来折磨大家了 😈

到第五期了

尝试课堂教学, 大家应该会有更好的学习体验

• 有个像样的课程主页了, 请大家不定期关注其中发布的消息
  • 例如节假日🕊不🕊

B站直播时间: 每周六19:00~21:00

• 约26周, 每周2小时
• 可能会🕊1~x天
• 会上传录播, 尽量保证不翻车

• 当然不要指望有手把手的教学
  • 不过就算不来上课, 只要独立完成学习, 就能变强

第一期

大家都没流过片, 也没设计过完整的RISC-V处理器

和学生一起边做边学, 师生比例3:1😂

第二期

尝试小范围推广, 学生从零开始设计

项目组认识到不少问题, 尤其是学生欠缺独立解决问题的意识和能力

第三期

构建大规模人才培养流程

• 原计划招50~100人, 包老师低调发知乎, 第一周报名人数直奔500
  • 项目组非常害怕 😱
• 很多零基础, 非CS专业的同学报名, 调整了教学方案

并不是讲义内容不完善, 而是为了培养独立解决问题的意识和能力 🙃

第四期

根据第三期的情况改进

• 为了强化系统能力和独立解决问题能力的培养, 加入PA
  • 好日子到头啦 😈
• 学习阶段取消了组队, 大家都懂的
  • 学完变强进入项目, 自然能和大佬组队
• 培养/流片分离
  • 不用赶固定的DDL, 鼓励大家坚持学习

不过迫于毕业压力, 我三月底就🕊了

• 不然我人就没了😂
• 感谢前端助教在讲义和答疑方面的大力支持

第四期(续)

加入PA, 学习内容 “丰富”多了

学习计划(部分)

S阶段学习成果(部分)

当然, 还有很多人在支撑 “一生一芯”

这一期尝试课堂教学, 我的出镜率变高了

但请不要忘记在后面支撑 “一生一芯”的老师和同学:

• 教学团队: 助教们指导并跟踪大家的学习
• 支撑团队
  • 后端团队: SoC集成和后端物理设计, 为流片成功提供技术保障
  • 开源EDA团队: 为早日让大家用上开源EDA工具而日夜奋斗
• 组织团队: 组织各种答辩和例会, 保障 “一生一芯”流程顺利推进
• 社区团队: SIG小组, 高校合作, 企业对接
• 包老师和解老师: 为 “一生一芯”实施过程中遇到的困难出谋划策

欢迎加入实习或工作(投简历至opensource-talents@pcl.ac.cn)

• 实习有不错的补贴 💰

Intel 4004(1971)

• 4位寄存器和数据总线
• 12位地址总线, 最多寻址4KB内存
• 最高主频740KHz

一般作为MCU使用, 无需配备操作系统(放不下 😂)

• 例如Busicom公司生产的计算器141-PF

Intel 4004指令集

46条指令, 每条8位(指令集手册)

Intel 4004微结构

是个多周期处理器

• 每条基本指令执行8个周期
• 复杂指令执行时间更长

Intel 8086(1978)

• 16位寄存器和16位数据总线
• 20位地址总线, 可寻址1MB内存
• 主频5~10MHz

1981年, IBM PC机发售, 搭载Intel 8088处理器(8位数据总线版本的8086)以及微软的MS-DOS操作系统

Intel 8086指令集

约256条指令, 指令长度1~6字节(指令集手册)

Intel 8086微结构

通过指令队列实现总线接口单元和执行单元的并发工作(流水)

• 今天的x86处理器也保留了类似的设计

Intel 8086微结构

并发工作的时序图(8086参考手册)

MS-DOS上的应用程序

Intel 80186(1982)和Intel 80286(1982)

80186: 面向嵌入式系统, 主频6MHz~25MHz

• 优化了微结构(如地址计算, 乘除法和移位操作可在更少周期内完成)
• 添加了一些指令
• 集成了中断控制器(8259), 时钟(8253), DMA控制器等设备
  • 但和IBM PC机不兼容, 所以IBM没有使用它来集成PC机

80286: 面向多用户多任务场景, 主频4MHz~25MHz

• 24位地址线, 可寻址16MB内存
  • 当时内存太贵了, 应用程序也很少用那么多内存
• 第一款支持虚存管理(分段)的x86 CPU
• 支持保护模式(避免多个任务之间相互破坏)
  • 支持越界检查和越权检查

Intel 80286微结构

80286的IPC(instruction per cycle, 同频性能)是8086的两倍以上

• 四个独立的单元并发工作: 地址单元, 总线单元, 指令单元, 执行单元
• 专用的地址和数据总线(不再分时复用, 共68个引脚)
• 地址计算, 乘除法和移位操作可在更少周期内完成(80186的优化)
• 指令预取, 缓冲

Intel 80286微结构

并发工作的时序图(80286硬件手册)

Windows 1.x(1985)

初代Microsoft Windows(2021年的一篇纪念博客)

• 基于MS-DOS内核, 本质是一个MS-DOS的Shell可执行程序
• Windows自带应用初代: 计算器, 画图(只支持黑白), 记事本, 写字板
  • Windows自带的第一个游戏是黑白棋
• 支持协同多任务(后台程序需要挂起)
  • 为了兼容主流PC, 没有使用80286的保护模式
    • 程序有bug可能会导致系统崩溃
  • 而且窗口不能重叠 😂
• 支持鼠标, 可点击和拖拽

可以在浏览器中借助IBM PC全系统模拟器体验

Intel 80386(1985)

PC史上的一大里程碑: 第一款32位的(高端)x86 CPU

• 主频12MHz~40MHz
• 32位寄存器, 32位数据总线和地址总线
  • 芯片引脚数量达到了132个
  • 可寻址4GB内存(当时是个天文数字 😂)
• 第一款支持分页虚存管理的x86 CPU
• 新增调试寄存器, 支持硬件断点和监视点
• 兼容8086指令集(实模式)
• 支持虚拟8086模式, 可在保护模式中运行8086程序
  • 硬件辅助虚拟化

新功能太高端了, 当时的主流操作系统(16位DOS)几乎用不上

Intel 80386微结构

6级流水线, 配备TLB(硬件手册)

Intel 80386的片外缓存

当年的旗舰级主板

• DRAM访问延迟70ns, 缓存访问延迟25ns

Windows 2.x(1987)

• 窗口可以重叠了, 大小还可以缩放
  • Apple公司因此起诉Microsoft侵权, 但败诉
• 加入了桌面图标, 快捷键, 控制面板等功能
• 自带Word和Excel(更多应用)
• 有两个版本, 其中一个名为Windows/386, 支持80368
  • 内核运行在保护模式, GUI和应用运行在虚拟8086模式
  • 支持抢占多任务(后台程序可以一直运行)

Intel 80486(1989)

主频16~100MHz, 但与80386相比, IPC提升了一倍(硬件手册)

• 紧耦合流水线: 简单指令可以背靠背连续执行(80386需要隔一周期)
• 8KB片上联合缓存, 4路组相联
• 优化MMU的性能
• 片上FPU, 优化浮点计算的算法
• 总线接口支持burst传输

搭配Windows 3.x, Wintel联盟进入了成长期

• 国内的第一批爱好者从80486开始接触PC机

Windows 3.x(1990)

Windows 3.0新增功能:

• 支持进程间通信(Dynamic Data Exchange协议)
• 支持虚拟内存的交换技术
• 新GUI(文件关联图标, 双击运行)

Windows 3.1新增功能:

• TrueType字体
• 添加警报声效
• 支持Ctrl+C/Ctrl+V
• 支持屏幕保护程序
• 添加扫雷和纸牌游戏
• ……

Intel Pentium(奔腾)(1993)

Intel发现数字不能注册商标, 于是换了名字

• 主频60MHz~300MHz
• 新架构P5, IPC比80486提升将近一倍
  • 首次引入超标量架构: 双发射5级流水
  • 优化FPU, 浮点乘法的效率甚至是80486的15倍
  • 地址生成器采用4输入加法器, 一周期算出有效地址
    • 段基地+基址寄存器+变址寄存器+偏移量
    • 80486采用3输入加法器, 需要花费两个周期计算
  • 优化微码和乘法器, 提升常用指令(call, ret, mul等)的IPC
  • 添加分支预测器
  • 2路组相联独立缓存(分指令缓存和数据缓存), 减少冲突
  • 64位数据总线, 提升访存带宽

Intel Pentium(奔腾)微结构

1996年加入了MMX多媒体指令集, 流水线增加为6级(硬件手册)

• SIMD: 单指令多数据

Intel Pentium(奔腾)微结构

双发射流水线时空图

Windows 95(1995)

• 支持本地32位程序
• 支持设备热插拔
• 文件系统支持长文件名
• 添加开始菜单, 任务栏, 文件管理器
• 第一代IE浏览器, 空当接龙
• 蓝屏也走进了千家万户

仙剑奇侠传(1995)

经典RPG游戏

在PA中后期, 你将会在自己的模拟器上运行仙剑

• 当然也可以在自己设计的处理器上运行
• 至于在芯片上运行…
  • 受疫情影响, VGA模块未经充分的流片验证

Intel Pentium Pro(奔腾Pro)(1995)

• 主频150MHz~200MHz
• 新架构P6(硬件手册)
  • 14级乱序超标量, 支持寄存器重命名
  • 3个译码单元, 将x86指令翻译成RISC风格的uop, 最多翻译出6条uop/周期
  • 可向6个执行单元发射5条uop/周期
  • 片外同封装的256KB L2缓存(1997年升级到1MB), 与CPU同频
    • 可同时访问L2和内存, 减少延迟
    • 非阻塞缓存, 可同时处理4个请求

Pentium Pro取得了巨大的商业成功, P6架构及其变种延续了十多年

今天的计算机(工艺)

单核性能挤牙膏, 主频和功耗上不去

• 摩尔定律还在继续 -> 暗硅(受限于功耗而需要关闭的晶体管)
• 多核通常跑不了满频

今天的计算机(微结构)

处理器空前复杂

• 每个新功能都要与很多旧功能交互
• 各种漏洞: 2018年的熔断和幽灵
  • Intel一开始发布的补丁会导致死机, 被Linus喷是垃圾 😂
  • Intel资深工程师也没法一下子想明白处理器的所有细节

今天的计算机(操作系统)

Linux 4.17(2018年4月发布)删除了过时处理器的代码

• 减少了50万行代码
• 但还有2030万行 😂

今天的计算机(操作系统)

Linux内核包含海量的模块, 交互关系非常复杂

推荐: A New Golden Age for Computer Architecture

译文: 计算机架构的新黄金时代

• 介绍了芯片的发展历程, 以及计算机体系结构的未来发展趋势
• 作者是2017年的两位图灵奖得主
  • David Patterson & John Hennessy

启发

有很多新名词?

• 不用担心, 学习完 “一生一芯”之后, 你将有能力理解它们

更重要的两个观念:

1. 硬件需要软件的支持才能发挥作用(80386发布时没有32位OS)

• 狭义的处理器芯片设计: RTL开发
• 广义的处理器芯片设计: 计算机系统软硬件协同设计
  • “一生一芯”讨论的范畴

2. 复杂系统是迭代演进的(多周期->流水线->超标量->乱序执行)

• 做事规律 - 从易到难, 逐步推进
• 推荐阅读: 《系统设计黄金法则：简单之美》, 包云岗
  • KISS法则 - Keep It Simple, Stupid

学习 “一生一芯”的目的

“一生一芯”的两种诠释

• 每一位学生带着自己设计的芯片毕业
• 拿到自己一生中的第一颗芯片

不过这些是次要的

• 重要的是通过我们设置的训练让你变强
  • 全方位, 全身心, 肉眼可见地变强
  • 锻炼专业人士所需的专业素质

学习 “一生一芯”的目的(2)

你也许设计过处理器, 但却不一定知道以下问题的答案

某RTL工程师编写了若干设备寄存器供CPU访问

• 代码通过了模块级单元测试
• 应该如何编写C程序来测试?
• 测试可能会遇到什么问题?

always @(posedge clk) begin
  case (raddr[1:0])
    2’b00: rdata <= reg0[31:0];
    2’b01: rdata <= reg1[31:0];
    2’b10: rdata <= reg2[31:0];
    2’b11: rdata <= reg3[31:0];
  endcase
end

如果你只会写RTL, 大概率会觉得没问题

学习 “一生一芯”的目的(3)

你也许设计过处理器, 但却不一定知道以下问题的答案

1. 如何编写一个打印Hello的C程序放到你的CPU上运行?
2. 你写的流水线CPU具体在哪里地方比单周期CPU快多少?
3. CPU仿真过了100000000周期后出错, 如何快速调试?

“一生一芯”将用全新的方法和流程, 按计算机发展史的顺序设计处理器

• 树立全面的软硬件全系统认识
• 理解科学的安排规划和优化方法
• 掌握正确的工具技能高效解决实际的工程问题

熟练工 vs. 专业人士

熟练工: 可以很好地完成指定任务, 保证项目流程往前推进

专业人士: 具备独立解决未知问题的专业素质

• 专业技能: 正确理解专业知识点, 并具备全局系统观
• 专业方法: 知道如何找到相关的代码/资料/工具
• 专业世界观: 明白做什么事情是正确/高效/科学的, 如何分解复杂任务

专业训练

把知识包装成 “新问题”呈现给大家

• 通过试错深入理解问题:
  • 我想要x, 那么就需要做y, 这是因为z
  • 而做u是不行的, 它会因为v而导致w
• 解决上百个 “新问题”, 锻炼出专业世界观

我当年做的处理器设计实验(2012年)

实验课老师没有正经的处理器设计经验

• 过分强调信号层次的电路图, 做实验就是看图写代码
  • 谭浩强: 写C代码之前要画流程图
• 忽悠学生设计自定义指令集, 连微结构是什么都不理解
• 把指令数量作为处理器复杂度唯一指标, 不知道中断异常如何处理
• 没有任何后端概念, 对HDL代码如何映射到工艺原语完全没有认识
• 调试全靠波形和瞪眼调试法, 说是锻炼耐心
• 没有任何软件和工具链的意识
  • 连hello程序都跑不起来, 更别说像样的程序

据说这个实验曾经是计算机系最难的实验 😂

做这样的实验, 怎么解决国家卡脖子危机?

“一生一芯”(或者好课)的真正意义

树立正确的专业世界观, 吸收过去数十年构建的知识体系, 接触领域前沿的真正研究

这期的S阶段又要🕊了, 但不管怎样:

如果你的回答是肯定的, 那就来参加 “一生一芯”

真正的处理器是一个复杂的系统

• 教科书上的处理器
  • 6条指令(MIPS)
• 课程大作业的处理器
  • ~40条指令
• “一生一芯”中的处理器
  • 果壳 = ~100条指令+流水线+中断异常+cache+MMU+AXI总线
• 科研原型系统的高性能处理器
  • 香山 = ~250条指令+8取指+6译码+17个FU+192项ROB+…
• 量产的工业级高性能处理器
  • M1 = ARMv8指令集+8译码+17个FU+~630项ROB+黑科技+…

仅仅会看波形是不够的

如果在你设计的处理器上

• 跑超级玛丽, 100,000周期后assert失败
• 跑仙剑, 10,000,000周期后图形不正确
• 启动Linux Debian跑gcc, 1,000,000,000周期后段错误

你愿意从1,000,000,000个周期的波形中寻找错误的信号吗?

• 就算你愿意, 波形文件也已经大得磁盘存不下了 😂

教科书/大作业并不会教你如何应对这些问题

• 做小玩具, 方法再怎么简陋, 也能做出来

复杂系统需要用科学的方法来构建和维护

1. 了解软硬件全系统的每一处细节, 为调bug提供大方向
2. 先完成后完美, 体会每一项技术对系统带来的性能提升
3. 构建正确的工具, 提升开发和验证效率

2012年一篇总结七大互联网公司经验教训的博文

(对应2) Keep it simple - complexity will come naturally over time.
(对应3) Automate everything, including failure recovery.
(对应2) Iterate your solutions - be prepared to throw away a working component when
  you want to scale it up to the next level.
(对应3) Use the right tool for the job, but don't be afraid to roll your own
  solution.
(对应1) Use caching, where appropriate.
(对应1) Know when to favor data consistency over data availability, and vice versa.

这些做事的观念和方法, 就是工业界所需要的

所以 “一生一芯”不仅仅是写RTL

用盖楼比喻, 完整的处理器芯片设计包含

• 体系结构设计 -> 画图纸
• RTL设计 -> 施工
• 辅助工具搭建 -> 打磨施工工具
• 测试 -> 建筑验收
• 程序和系统软件开发 -> 建筑投入使用
• SoC设计 -> 外围设施
• 后端物理设计

“一生一芯”希望培养的是建筑专家

• 游戏如何在软硬件的协同支持下运行? (先完成)
• 要提升游戏体验, 应该如何进行全系统的优化? (后完美)

如果你只是想写RTL, 网上已经有很多教程和MOOC

“一生一芯”对绝大部分同学来说并不轻松

不仅需要学习很多新知识, 在新环境中使用新工具

还需要锻炼出独立解决问题的意识和能力

更重要的是, 完成观念和心态上的转变

• “一生一芯”不是传统意义上的课程大作业
  • 课堂和讲义不会告诉你所有细节
  • 你需要主动从相关资料/代码中找到重要的信息
• 你遇到的所有问题(除了框架代码自身错误), 都是在锻炼你的能力
  • 老师助教不会手把手帮你解决所有问题
  • 独立解决这些问题, 是对你最大的训练

能否完成 “一生一芯”与学校/年级/专业没有直接关系

取决于你是否已经完成观念和心态上的转变, 锻炼出独立解决问题的意识和能力

• 若否, 即使是985高校计算机方向的博士生, 也会感到困难
• 若是, 即使是双非高校低年级非相关专业的零基础同学, 也能完成学习
  • 第四期有不少这样的同学坚持学习
  • 甚至有高中生未被 “劝退”, 希望投入更多时间学习

另一个角度: 大家都有潜力完成 “一生一芯”的学习

• 拿 “自己是xxx专业/零基础”来当借口是没有用的
  • 这除了让你降低对自己的要求之外, 没有实际的帮助
  • 还不如想想是不是自己哪里没做好, 导致接受的训练没到位

专业世界观1 - 学术诚信

MIT对学术诚信的诠释, 尤其是关于写代码的学术诚信

• 独立完成学习任务
• 在允许的范围内参考相关资料
• 不参考别人的代码, 不分享自己的代码

意义: 让你接受预期的训练, 锻炼出预期的能力

这是需要大家发自内心去认可和执行的: 我们很难约束大家

“凭什么不能参考别人的代码? 我都看懂了啊!”/“能抄对也是本事”

• “看懂”和 “自己独立完成”的效果是天差地别的
  • 你表面上看到了做y能得到x, 但不知道原因z, 更不知道试错的uvw
  • 你收获了肤浅的理解, 让你重做一遍, 很可能还是搞不定

专业世界观2 - 大佬三连

STFW - Search The Friendly Web

• 只要我用的工具是大众的, 我几乎不可能是世界上第一个遇到问题的人
• 网上一定有人遇到过相同/类似问题, 我应该搜一下看看他们怎么解决

RTFM - Read The Friendly Manual

• 只要我用的工具是大众的, 应该有手册记录这个工具的所有细节
• 如果我想了解它的某个问题, 我应该去搜索手册的描述

RTFSC - Read The Friendly Source Code

• 只要我获得了项目代码, 理论上我就可以知晓它的一切行为
• 如果我想了解它具体是如何工作的, 我应该去读一下(关键)代码

如果你在提问时收到了这些回复, 其背后的含义是:

1. 你想要的答案很容易找到, 你很应该自己去获取
2. 相比于我直接告诉你答案, 你自己获取答案能学到更多

专业世界观3 - 科学提问

《提问的智慧》/《别像弱智一样提问》

• 提问能反映出你的学习态度: 主动尝试 vs. 被动依赖

不是所有问题都值得问

• 你以为自己热爱学习? 不, 别人只觉得你是伸手党

开源社区中的一个真实案例:

• 新手的提问: 两个不同的安装包有什么区别? 我是新手.
• 开发者的回答: 自己上网找答案. 在开源社区中不应该随便问这种配置问题, 除非你有明确的证据证明代码或者文档有缺陷.

鼓励的提问 vs. 不应该的提问

• 鼓励的提问
  • 心理辅导, 学习困惑等非具体技术问题
    • 可以私戳老师助教, 时间充裕的话还可以线上聊聊
  • bug report: 要有证据, 当一名专业的社区contributor
  • 经过思考的高质量问题
  • 属于训练环节, 但经历过合理尝试还无法解决的问题: 提问模板
• 不应该的提问 (背后含义: 你应该接受训练)
  • 没有看出合理尝试和思考的提问
    • 可以不知道怎么尝试和思考, 但不代表可以跳过训练获得答案
    • 接受训练: 方法 -> 看讲义总结归纳, 细节 -> RTFM/RTFSC
  • 自己动手试试就能得到答案的提问

一篇参考文章: 什么样的问题我不太想回答？

虚假的帮助 vs. 真实的帮助

虚假的帮助: 面向结果, 解决当下问题优先

真实的帮助: 面向能力, 领悟学习方法优先

本质区别: 如果将来不再提供帮助, 学生能否独立解决类似的问题?

真实案例: 学生A询问某报错信息

• 分析: 根据提问内容, 学生A只进行了很少的尝试, 没有其他想法
• 虚假的帮助: 学生B指出可能是klib模块有bug, 提示学生A去看看
  • 学生A的收获是 “报错信息->klib模块有bug”的表面因果关系, 难以深入理解和记忆, 并未学会真正思路和方法, 同时也错过一次锻炼机会
• 真实的帮助: 引导学生A学会对bug进行深入的分析和定位
  • 这比虚假的帮助困难得多, 大部分学生并不知道如何引导

任何直接获得答案的做法都是在放弃训练的机会

• 遇到一个总线的bug, 希望同学提供点思路
  • 正确做法: RTFM(AXI手册), 确认自己正确理解细节; RTFSC, 梳理这个bug是如何出现的
• 不知道CSR应该放在哪里, 希望助教告知一个好的设计方案
  • 正确做法: 自己尝试不同的方案, 然后总结它们的优劣
• 希望助教/大佬能整理一本攻略手册
  • 正确做法: 自己整理(作为学习成果), 但不要分享出去
    • 这些攻略并不能真正帮助你学习, 而是在剥夺你接受训练的机会
• 阅读开源项目(如果壳, 香山等)
  • 正确做法: 先尽力完成一个满意的设计, 再对比开源项目
    • 缺少试错, 你无法理解 “为什么好, 为什么不好”

躺平容易坚持难, 但如果你能坚持下来, 你就可以得到脱胎换骨的提升

我们也知道大家不爱听这些大道理

这些做法和大家在课堂上接受的观念差别很大, 甚至是矛盾的

• 我不是学计算机的, 这些跟我没关系
• 我不懂还不能问吗

大家也处于血气方刚的年纪, 有自己的想法

• 让我STFW/RTFM, 明摆着是敷衍我
• 我借鉴开源代码是顺应时代的潮流

为躺平找理由也很容易

• 我喜欢和大家共同学习
• 我看英文手册很慢, 想找个大佬给我讲讲
• 反正助教老师也管不着

所以

我们来玩真的: 在线调试考核, 通过才能获得流片机会

• 助教在你提交的项目中随机注入3个bug 😈
  • 涵盖硬件, 软件和环境
• 你需要在30分钟内排除bug 😈
  • 强迫大家理所有细节, 吸收科学的调试方法
    • 参考代码, 抱大腿, “看波形就够”都没戏 😈
  • 抓紧每一次调试锻炼的机会
    • 突击是没用的, 考的就是真本事 😈
    • 抱一次大腿 = 少一次训练

这和大家将来遇到的实际问题非常接近

• 如果你能解决实际问题, 你就是专家

总结

“一生一芯”不仅仅是训练大家编写RTL

• 而是用全新的方法和流程, 按计算机发展史的顺序设计处理器
  • 树立全面的软硬件全系统认识
  • 理解科学的安排规划和优化方法
  • 掌握正确的工具技能解决实际的工程问题

大部分同学并不会感到舒适

• 但如果能坚持下来, 你就可以得到脱胎换骨的提升