深度学习学习记录（三.分类问题）

69 阅读 0 评论 46 点赞

我是靠谱客的博主执着高跟鞋，最近开发中收集的这篇文章主要介绍深度学习学习记录（三.分类问题），觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

本博客记录学习龙书的学习历程:

gtitub :https://github.com/dragen1860/Deep-Learning-with-TensorFlow-book

向开源大神致敬！

1.手写数字图片数据集的介绍：

2.图片的表示

3.数据集下载

我们下载数据集，并且打印第一张图片。

import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'
import cv2
from tensorflow.keras import datasets  # 导入 TF 子库等
(x_train, y_train), (x_test, y_test) = datasets.mnist.load_data()  # 加载 MNIST 数据集
print(x_train.shape, y_train.shape)
cv2.imshow("img",x_train[1])
cv2.waitKey(0)

显示结果：

可见第一张图片为手写的0。

4.模型构建

这一节的知识点较为重要：

3输入2输出的模型：

对于图片，要归纳为特征，需要将图片进行打平操作：

对于标签，让第i ∈ [1, d _out]个输出节点的值表示当前样本属于类别i的概率P(P属于类别i|x)，哪个概率值大，就是代表属于哪一类。这种方式称为one_hat 编码方式。

代码示例：

import tensorflow as tf
y= [0,1,2,3,4]
y = tf.constant(y)
y_one_hat = tf.one_hot(y,depth=5)
print(y_one_hat)

运行结果：

线性模型的表达能力：

线性模型无法拟合非线性模型。无论添加多少层网络，都还是线性模型。为了处理非线性模型，可以添加激活函数。

更多的激活函数知识，书本后面会介绍。

一个三层神经网络可以归纳为：

他的图像示意为：

5.代码实现

代码有些地方讲的不是特别清楚，先往后看，后期回来梳理。

import  os
os.environ['TF_CPP_MIN_LOG_LEVEL']='2'

import  tensorflow as tf
from    tensorflow import keras
from    tensorflow.keras import layers, optimizers, datasets

(x, y), (x_val, y_val) = datasets.mnist.load_data()
# x 数字缩放到0和1之间
x = tf.convert_to_tensor(x, dtype=tf.float32) / 255.
y = tf.convert_to_tensor(y, dtype=tf.int32)
# 转换成onehat
y = tf.one_hot(y, depth=10)
print(x.shape, y.shape)
# 转载数据
train_dataset = tf.data.Dataset.from_tensor_slices((x, y))
# 批量训练
train_dataset = train_dataset.batch(200)

# 创建模型
model = keras.Sequential([
    layers.Dense(512, activation='relu'),
    layers.Dense(256, activation='relu'),
    layers.Dense(10)])


#SGD 随机梯度下降
optimizer = optimizers.SGD(learning_rate=0.001)


def train_epoch(epoch):

    # Step4.loop
    for step, (x, y) in enumerate(train_dataset):
        with tf.GradientTape() as tape:
            # [b, 28, 28] => [b, 784]
            x = tf.reshape(x, (-1, 28*28))
            # Step1. compute output
            # [b, 784] => [b, 10]
            out = model(x)
            # Step2. compute loss
            loss = tf.reduce_sum(tf.square(out - y)) / x.shape[0]

        # Step3. optimize and update w1, w2, w3, b1, b2, b3
        grads = tape.gradient(loss, model.trainable_variables)
        # w' = w - lr * grad
        optimizer.apply_gradients(zip(grads, model.trainable_variables))

        if step % 100 == 0:
            print(epoch, step, 'loss:', loss.numpy())

def train():

    for epoch in range(30):
        train_epoch(epoch)

if __name__ == '__main__':
    train()