Skip to content

Latest commit

 

History

History
153 lines (110 loc) · 6 KB

3.3_linear-regression-tensorflow2.0.md

File metadata and controls

153 lines (110 loc) · 6 KB
Raw

3.3 线性回归的简洁实现

随着深度学习框架的发展，开发深度学习应用变得越来越便利。实践中，我们通常可以用比上一节更简洁的代码来实现同样的模型。在本节中，我们将介绍如何使用tensorflow2.0推荐的keras接口更方便地实现线性回归的训练。

3.3.1 生成数据集

我们生成与上一节中相同的数据集。其中features是训练数据特征，labels是标签。

import tensorflow as tf

num_inputs = 2
num_examples = 1000
true_w = [2, -3.4]
true_b = 4.2
features = tf.random.normal(shape=(num_examples, num_inputs), stddev=1)
labels = true_w[0] * features[:, 0] + true_w[1] * features[:, 1] + true_b
labels += tf.random.normal(labels.shape, stddev=0.01)

3.3.2 读取数据

虽然tensorflow2.0对于线性回归可以直接拟合，不用再划分数据集，但我们仍学习一下读取数据的方法

from tensorflow import data as tfdata

batch_size = 10
# 将训练数据的特征和标签组合
dataset = tfdata.Dataset.from_tensor_slices((features, labels))
# 随机读取小批量
dataset = dataset.shuffle(buffer_size=num_examples) 
dataset = dataset.batch(batch_size)
data_iter = iter(dataset)

shuffle 的 buffer_size 参数应大于等于样本数，batch 可以指定 batch_size 的分割大小。

for X, y in data_iter:
    print(X, y)
    break
tf.Tensor(
[[ 1.2856768   1.3815335 ]
 [ 1.1151928  -1.3777982 ]
 [ 0.6097271   1.3478378 ]
 [ 2.1615875   1.52963   ]
 [-1.3143488  -0.79531455]
 [-2.495006    0.3701927 ]
 [-0.07739297 -0.8636043 ]
 [-0.18479416 -1.5275241 ]
 [-0.3426277  -0.01935842]
 [ 0.25231913  1.4940815 ]], shape=(10, 2), dtype=float32) tf.Tensor(
[ 2.0673854  11.10116     0.8320709   3.3300133   4.272185   -2.062947
  6.981174    9.027803    3.5848885  -0.39152586], shape=(10,),     dtype=float32)

使用iter(dataset)的方式，只能遍历数据集一次，是一种比较 tricky 的写法，为了复刻原书表达才这样写。这里也给出一种在官方文档中推荐的写法：

for (batch, (X, y)) in enumerate(dataset):
    print(X, y)
    break

3.3.3 定义模型和初始化参数

Tensorflow 2.0推荐使用Keras定义网络，故使用Keras定义网络 我们先定义一个模型变量model，它是一个Sequential实例。 在Keras中，Sequential实例可以看作是一个串联各个层的容器。

在构造模型时，我们在该容器中依次添加层。 当给定输入数据时，容器中的每一层将依次推断下一层的输入尺寸。 重要的一点是，在Keras中我们无须指定每一层输入的形状。 线性回归，输入层与输出层等效为一层全连接层keras.layers.Dense()。

Keras 中初始化参数由 kernel_initializer 和 bias_initializer 选项分别设置权重和偏置的初始化方式。我们从 tensorflow 导入 initializers 模块，指定权重参数每个元素将在初始化时随机采样于均值为0、标准差为0.01的正态分布。偏差参数默认会初始化为零。RandomNormal(stddev=0.01)指定权重参数每个元素将在初始化时随机采样于均值为0、标准差为0.01的正态分布。偏差参数默认会初始化为零。

from tensorflow import keras
from tensorflow.keras import layers
from tensorflow import initializers as init
model = keras.Sequential()
model.add(layers.Dense(1, kernel_initializer=init.RandomNormal(stddev=0.01)))

3.3.4 定义损失函数

Tensoflow在losses模块中提供了各种损失函数和自定义损失函数的基类，并直接使用它的均方误差损失作为模型的损失函数。

from tensorflow import losses
loss = losses.MeanSquaredError()

3.3.5 定义优化算法

同样，我们也无须自己实现小批量随机梯度下降算法。tensorflow.keras.optimizers 模块提供了很多常用的优化算法比如SGD、Adam和RMSProp等。下面我们创建一个用于优化model 所有参数的优化器实例，并指定学习率为0.03的小批量随机梯度下降（SGD）为优化算法。

from tensorflow.keras import optimizers
trainer = optimizers.SGD(learning_rate=0.03)

3.3.6 训练模型

在使用Tensorflow训练模型时，我们通过调用tensorflow.GradientTape记录动态图梯度，执行tape.gradient获得动态图中各变量梯度。通过 model.trainable_variables 找到需要更新的变量，并用 trainer.apply_gradients 更新权重，完成一步训练。

num_epochs = 3
for epoch in range(1, num_epochs + 1):
    for (batch, (X, y)) in enumerate(dataset):
        with tf.GradientTape() as tape:
            l = loss(model(X, training=True), y)
        
        grads = tape.gradient(l, model.trainable_variables)
        trainer.apply_gradients(zip(grads, model.trainable_variables))
    
    l = loss(model(features), labels)
    print('epoch %d, loss: %f' % (epoch, l))
epoch 1, loss: 0.519287
epoch 2, loss: 0.008997
epoch 3, loss: 0.000261

下面我们分别比较学到的模型参数和真实的模型参数。我们可以通过model的get_weights()来获得其权重（weight）和偏差（bias）。学到的参数和真实的参数很接近。

true_w, model.get_weights()[0]
([2, -3.4], array([[ 1.9930198],
    [-3.3977082]], dtype=float32))

true_b, model.get_weights()[1]
(4.2, array([4.1895046], dtype=float32))

小结

  • 使用Tensorflow可以更简洁地实现模型。
  • tensorflow.data模块提供了有关数据处理的工具，tensorflow.keras.layers模块定义了大量神经网络的层，tensorflow.initializers模块定义了各种初始化方法，tensorflow.optimizers模块提供了模型的各种优化算法。

注：本节除了代码之外与原书基本相同，原书传送门