附录

主流深度学习框架

深度学习框架是构建和训练神经网络模型的工具集，提供了高效的数值计算、自动微分和硬件加速支持。以下是当前主流的深度学习框架：

TensorFlow

概述
由Google Brain团队开发的开源框架，支持端到端机器学习工作流，具有强大的生产部署能力和跨平台兼容性。

核心特性

• 计算图模型：静态图（TF1.x）与动态图（TF2.x的Eager Execution模式）
• Keras API集成：高层API简化模型开发
• TensorFlow Lite：轻量化移动端和嵌入式设备部署
• TFX（TensorFlow Extended）：完整的生产级ML管道工具
• TPU原生支持：专为Google张量处理单元优化

典型应用场景

• 大规模工业级模型训练
• 移动端AI应用（如手机图像处理）
• 研究原型快速落地

示例代码片段

import tensorflow as tf
model = tf.keras.Sequential([
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy')

PyTorch

概述
由Facebook（现Meta）AI研究院主导的开源框架，以动态计算图和Python优先设计著称，深受学术界欢迎。

核心特性

• 动态计算图：实时调试更直观（Autograd机制）
• TorchScript：模型序列化支持生产部署
• 原生混合精度训练：NVIDIA GPU自动加速
• 丰富的生态库：
  • TorchVision（CV）
  • TorchText（NLP）
  • PyTorch Lightning（轻量级封装）

优势领域

• 研究实验与快速迭代
• 自定义网络结构开发
• 小批量数据场景调试

示例代码片段

import torch
import torch.nn as nn
model = nn.Sequential(
    nn.Linear(784, 128),
    nn.ReLU(),
    nn.Linear(128, 10)
)
loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters())

框架对比指南

选择建议

• 选择TensorFlow若需：生产环境稳定性、TPU加速、成熟部署工具链
• 选择PyTorch若需：灵活的研究实验、直观的调试体验、最新论文复现

注：其他值得关注的框架包括JAX（Google科研向）、MXNet（Apache开源项目）和PaddlePaddle（百度国产框架）。