实现简单线性函数拟合

作者:杨奕    编辑:吕明赋

Linux Windows Ascend GPU CPU 全流程 初级 中级 高级

        

概述

回归问题算法通常是利用一系列属性来预测一个值,预测的值是连续的。例如给出一套房子的一些特征数据,如面积、卧室数等等来预测房价,利用最近一周的气温变化和卫星云图来预测未来的气温情况等。如果一套房子实际价格为500万元,通过回归分析的预测值为499万元,则认为这是一个比较好的回归分析。在机器学习问题中,常见的回归分析有线性回归、多项式回归、逻辑回归等。本例子介绍线性回归算法,并通过MindSpore进行线性回归AI训练体验。

整体流程如下:

  1. 生成数据集

  2. 定义训练网络

  3. 定义前向传播网络与反向传播网络并关联

  4. 拟合过程可视化准备

  5. 执行训练

本例的源代码地址:https://gitee.com/mindspore/docs/blob/r1.1/tutorials/tutorial_code/linear_regression.py

环境准备

设置MindSpore运行配置

from mindspore import context

context.set_context(mode=context.GRAPH_MODE, device_target="CPU")

GRAPH_MODE:图模式。

device_target:设置MindSpore的训练硬件为CPU。

本教程代码依赖matplotlib第三方支持包,可使用命令pip install matplotlib安装。

生成数据集

定义数据集生成函数

get_data用于生成训练数据集和测试数据集。由于拟合的是线性数据,假定要拟合的目标函数为:$f(x)=2x+3$,那么我们需要的训练数据集应随机分布于函数周边,这里采用了$f(x)=2x+3+noise$的方式生成,其中noise为遵循标准正态分布规律的随机数值。

import numpy as np

def get_data(num, w=2.0, b=3.0):
    for _ in range(num):
        x = np.random.uniform(-10.0, 10.0)
        noise = np.random.normal(0, 1)
        y = x * w + b + noise
        yield np.array([x]).astype(np.float32), np.array([y]).astype(np.float32)

使用get_data生成50组测试数据,可视化展示。

import matplotlib.pyplot as plt

eval_data = list(get_data(50))
x_target_label = np.array([-10, 10, 0.1])
y_target_label = x_target_label * 2 + 3
x_eval_label,y_eval_label = zip(*eval_data)

plt.scatter(x_eval_label, y_eval_label, color="red", s=5)
plt.plot(x_target_label, y_target_label, color="green")
plt.title("Eval data")
plt.show()

输出结果:

png

上图中绿色线条部分为目标函数,红点部分为验证数据eval_data

定义数据增强函数

先使用MindSpore的数据转换函数GeneratorDataset转换成适应MindSpore训练的数据类型,然后再使用batchrepeat对数据进行增强操作,操作解释如下:

  • ds.GeneratorDataset:将生成的数据转换为MindSpore的数据集,并且将生成的数据的x,y值存入到datalabel的数组中。

  • batch:将batch_size个数据组合成一个batch。

  • repeat:将数据集数量倍增。

from mindspore import dataset as ds

def create_dataset(num_data, batch_size=16, repeat_size=1):
    input_data = ds.GeneratorDataset(list(get_data(num_data)), column_names=['data', 'label'])
    input_data = input_data.batch(batch_size)
    input_data = input_data.repeat(repeat_size)
    return input_data

使用数据集增强函数生成训练数据,并查看训练数据的格式。

data_number = 1600
batch_number = 16
repeat_number = 1

ds_train = create_dataset(data_number, batch_size=batch_number, repeat_size=repeat_number)
print("The dataset size of ds_train:", ds_train.get_dataset_size())
dict_datasets = next(ds_train.create_dict_iterator())

print(dict_datasets.keys())
print("The x label value shape:", dict_datasets["data"].shape)
print("The y label value shape:", dict_datasets["label"].shape)

输出结果:

The dataset size of ds_train: 100
dict_keys(['data', 'label'])
The x label value shape: (16, 1)
The y label value shape: (16, 1)

通过定义的create_dataset将生成的1600个数据增强为了100组shape为16x1的数据集。

定义训练网络

在MindSpore中使用nn.Dense生成单个数据输入,单个数据输出的线性函数模型:

$$f(x)=wx+b\tag{1}$$

并使用Normal算子随机初始化权重$w$和$b$。

from mindspore.common.initializer import Normal
from mindspore import nn

class LinearNet(nn.Cell):
    def __init__(self):
        super(LinearNet, self).__init__()
        self.fc = nn.Dense(1, 1, Normal(0.02), Normal(0.02))

    def construct(self, x):
        x = self.fc(x)
        return x

调用网络查看初始化的模型参数。

net = LinearNet()
model_params = net.trainable_params()
for param in model_params:
    print(param, param.asnumpy())

输出结果:

Parameter (name=fc.weight) [[-0.02289871]]
Parameter (name=fc.bias) [0.01492652]

初始化网络模型后,接下来将初始化的网络函数和训练数据集进行可视化,了解拟合前的模型函数情况。

from mindspore import Tensor

x_model_label = np.array([-10, 10, 0.1])
y_model_label = (x_model_label * Tensor(model_params[0]).asnumpy()[0][0] +
                 Tensor(model_params[1]).asnumpy()[0])

plt.scatter(x_eval_label, y_eval_label, color="red", s=5)
plt.plot(x_model_label, y_model_label, color="blue")
plt.plot(x_target_label, y_target_label, color="green")
plt.show()

输出结果:

png

从上图中可以看出,蓝色线条的初始化模型函数与绿色线条的目标函数还是有较大的差别的。

定义前向传播网络与反向传播网络并关联

接下来需要定义模型的损失函数,这里采用均方误差(MSE,Mean Squared Error)的方法用于判断拟合的效果如何,即均方误差值越小,拟合的效果越好,其损失函数公式为:

$$J(w)=\frac{1}{2m}\sum_{i=1}^m(h(x_i)-y^{(i)})^2\tag{2}$$

假设训练数据第$i$个数据为$(x_i,y^{(i)})$,公式2中的参数解释如下:

  • $J(w)$为损失值。

  • $m$为样本数据的数量,本例中$m$的值为batch_number

  • $h(x_i)$为第$i$个数据的$x_i$值代入模型网络(公式1)后的预测值。

  • $y^{(i)}$为第$i$个数据中的$y^{(i)}$值(label值)。

定义前向传播网络

前向传播网络包含两个部分,其中:

  1. 将参数带入到模型网络中得出预测值。

  2. 使用预测值和训练数据计算出loss值。

在MindSpore中使用如下方式实现。

net = LinearNet()
net_loss = nn.loss.MSELoss()

定义反向传播网络

反向传播网络的目标是不断变换权重值,使得loss值取得最小值,一般的在线性网络中采用权重更新公式:

$$w_{t}=w_{t-1}-\alpha\frac{\partial{J(w_{t-1})}}{\partial{w}}\tag{3}$$

公式3参数解释:

  • $w_{t}$为迭代后的权重值。

  • $w_{t-1}$为迭代前的权重值。

  • $\alpha$为学习率。

  • $\frac{\partial{J(w_{t-1}\ )}}{\partial{w}}$为损失函数对权重$w_{t-1}$的微分。

函数中所有的权重值更新完成后,将值传入到模型函数中,这个过程就是反向传播过程,实现此过程需要使用MindSpore中的优化器函数,如下:

opt = nn.Momentum(net.trainable_params(), learning_rate=0.005, momentum=0.9)

关联前向和反向传播网络

定义完成前向传播和反向传播后,在MindSpore中需要调用Model函数,将前面定义的网络,损失函数,优化器函数关联起来,使之变成完整的计算网络。

from mindspore import Model

model = Model(net, net_loss, opt)

拟合过程可视化准备

定义绘图函数

为了使得整个训练过程更容易理解,需要将训练过程的测试数据、目标函数和模型网络进行可视化,这里定义了可视化函数,将在每个step训练结束后调用,展示模型网络的拟合过程。

import matplotlib.pyplot as plt
import time

def plot_model_and_datasets(net, eval_data):
    weight = net.trainable_params()[0]
    bias = net.trainable_params()[1]
    x = np.arange(-10, 10, 0.1)
    y = x * Tensor(weight).asnumpy()[0][0] + Tensor(bias).asnumpy()[0]
    x1, y1 = zip(*eval_data)
    x_target = x
    y_target = x_target * 2 + 3

    plt.axis([-11, 11, -20, 25])
    plt.scatter(x1, y1, color="red", s=5)
    plt.plot(x, y, color="blue")
    plt.plot(x_target, y_target, color="green")
    plt.show()
    time.sleep(0.02)

定义回调函数

MindSpore提供的工具,可对模型训练过程进行自定义控制,这里在step_end中调用可视化函数,展示拟合过程。更多的使用可参考官网说明

from IPython import display
from mindspore.train.callback import Callback

class ImageShowCallback(Callback):
    def __init__(self, net, eval_data):
        self.net = net
        self.eval_data = eval_data

    def step_end(self, run_context):
        plot_model_and_datasets(self.net, self.eval_data)
        display.clear_output(wait=True)

执行训练

完成以上过程后,可以使用训练数ds_train对模型训练,这里调用model.train进行,其中参数解释:

  • epoch:训练迭代的整个数据集的次数。

  • ds_train:训练数据集。

  • callbacks:训练过程中需要调用的回调函数。

  • dataset_sink_mode:数据集下沉模式,支持Ascend、GPU计算平台,本例为CPU计算平台设置为False。


from mindspore.train.callback import LossMonitor

epoch = 1
imageshow_cb = ImageShowCallback(net, eval_data)
model.train(epoch, ds_train, callbacks=[imageshow_cb], dataset_sink_mode=False)

plot_model_and_datasets(net, eval_data)
for param in net.trainable_params():
    print(param, param.asnumpy())

输出结果:

gif

Parameter (name=fc.weight) [[2.0064354]]
Parameter (name=fc.bias) [2.9529438]

训练完成后打印出最终模型的权重参数,其中weight接近于2.0,bias接近于3.0,模型训练完成,符合预期。

总结

本次体验我们了解了线性拟合的算法原理,并在MindSpore框架下实现了相应的算法定义,了解了线性拟合这类的线性回归模型在MindSpore中的训练过程,并最终拟合出了一条接近目标函数的模型函数。另外有兴趣的可以调整数据集的生成区间从(-10,10)扩展到(-100,100),看看权重值是否更接近目标函数;调整学习率大小,看看拟合的效率是否有变化;当然也可以探索如何使用MindSpore拟合$f(x)=ax^2+bx+c$这类的二次函数或者更高次的函数。