课程简介
「TensorFlow内核剖析」是一个理论与实践相结合的课程，阐述TensorFlow的系统架构，诠释内核的工作原理。
目标收益
a) 深度了解TensorFlow的系统架构，组件交互，及其内核工作与运行机制；
b) 深度了解TensorFlow的编程模型，及其灵活运用深度学习的基本算法原理，并使用TensorFlow实现。
培训对象
a) 具有1年及以上工作经验，并期望掌握深度学习算法，TensorFlow系统架构，及其运行机制的研发工程师，算法工程师，及其架构师。
课程大纲
|
第一单元： 系统架构 |
前世今生 - 前世：DistBelief - 今生：TensorFlow - 设计原则 - 原子操作 - 延迟执行 - 异构抽象 - 总体架构 - 图构造 - 子图划分 - 子图注册 - 子图执行 - 工作流：机器学习 - 输入管道 - 训练模型 |
|
第二单元 编程模型 |
### 基本概念 - 计算图 - OP与节点 - Tensor与边 - 两阶段 - 会话 - 设备 - 变量 - 队列 ### 会话 - 生命周期 - 非交互式 - 交互式 ### 设备 - 设备约束 - 同位关系 ### 变量 - 初始化模型 - 初始化依赖 - 变量类别 ### 输入管道 - 数据供给 - 队列 ### 模型训练 - 会话模型 - 协助协议 - 监听器 - 协调器 - 断点恢复 ### 优化算法 - 梯度计算 - 优化器 |
|
第三单元 编程模型 |
### 执行机制 - 部分执行 - 并发执行 - 分布式执行 ### C API：前后端边界 - Swig：幕后英雄 - 实战：会话创建 ### OP本质论 - OP注册 - 内核实现 - OP构造 - OP执行 ### Tensor本质论 - 领域模型 - 形状推演 - 内存管理 ### 本地模式 - 会话生命周期 - 并发执行 ### 分布式模式 - 分布式模型 - 会话生命周期 ### 图操作 - 子图剪枝 - 子图分裂 - 子图注册 - 子图执行 ### 设备通信 - Send与Recv - 信箱机制 ### 设备分配 - 设备约束 - 开销模型 ### Kernel实现 - 多态选择 |
|
第一单元： 系统架构 前世今生 - 前世：DistBelief - 今生：TensorFlow - 设计原则 - 原子操作 - 延迟执行 - 异构抽象 - 总体架构 - 图构造 - 子图划分 - 子图注册 - 子图执行 - 工作流：机器学习 - 输入管道 - 训练模型 |
|
第二单元 编程模型 ### 基本概念 - 计算图 - OP与节点 - Tensor与边 - 两阶段 - 会话 - 设备 - 变量 - 队列 ### 会话 - 生命周期 - 非交互式 - 交互式 ### 设备 - 设备约束 - 同位关系 ### 变量 - 初始化模型 - 初始化依赖 - 变量类别 ### 输入管道 - 数据供给 - 队列 ### 模型训练 - 会话模型 - 协助协议 - 监听器 - 协调器 - 断点恢复 ### 优化算法 - 梯度计算 - 优化器 |
|
第三单元 编程模型 ### 执行机制 - 部分执行 - 并发执行 - 分布式执行 ### C API：前后端边界 - Swig：幕后英雄 - 实战：会话创建 ### OP本质论 - OP注册 - 内核实现 - OP构造 - OP执行 ### Tensor本质论 - 领域模型 - 形状推演 - 内存管理 ### 本地模式 - 会话生命周期 - 并发执行 ### 分布式模式 - 分布式模型 - 会话生命周期 ### 图操作 - 子图剪枝 - 子图分裂 - 子图注册 - 子图执行 ### 设备通信 - Send与Recv - 信箱机制 ### 设备分配 - 设备约束 - 开销模型 ### Kernel实现 - 多态选择 |
近期公开课推荐
