案头见蠹鱼,犹胜凡俦侣。这篇文章主要讲述Keras中模型的编译相关的知识,希望能为你提供帮助。
本文介绍如何编译模型。 编译是创建模型的最后一步。 编译完成后,我们可以进入训练阶段。让我们学习一些所需的概念,以更好地理解编译过程。
1 损失函数
在机器学习中,损失函数用于发现学习过程中的错误或偏差。 Keras 在模型编译过程中需要损失函数。Keras 在损失模块中提供了相当多的损失函数,它们如下:
- mean_squared_error
- mean_absolute_error
- mean_absolute_percentage_error
- mean_squared_logarithmic_error
- squared_hinge
- hinge
- categorical_hinge
- logcosh
- huber_loss
- categorical_crossentropy
- sparse_categorical_crossentropy
- binary_crossentropy
- kullback_leibler_divergence
- poisson
- cosine_proximity
- is_categorical_crossentropy
- y_true - 作为张量的真实标签。
- y_pred - 与 y_true 形状相同的预测。
from keras import losses
2 优化器
在机器学习中,优化是一个重要的过程,它通过比较预测和损失函数来优化输入权重。 Keras 提供了相当多的优化器作为一个模块,优化器如下:
- SGD - 随机梯度下降优化器。
- RMSprop - RMSProp 优化器。
- Adagrad - Adagrad 优化器。
- Adadelta - Adadelta 优化器。
- Adam - Adam 优化器。
- Adamax - Adam 的 Adamax 优化器。
- Nadam - Nesterov Adam 优化器。
from keras import optimizers
3 指标
在机器学习中,Metrics 用于评估模型的性能。 它类似于损失函数,但不用于训练过程。 Keras 提供了相当多的指标作为指标,它们如下:
- accuracy
- binary_accuracy
- categorical_accuracy
- sparse_categorical_accuracy
- top_k_categorical_accuracy
- sparse_top_k_categorical_accuracy
- cosine_proximity
- clone_metric
- y_true - 作为张量的真实标签。
- y_pred - 与 y_true 形状相同的预测。
from keras import metrics
4 编译模型
Keras 模型提供了一个方法,compile() 来编译模型。 compile() 方法的参数和默认值如下:
compile(
optimizer,
loss = None,
metrics = None,
loss_weights = None,
sample_weight_mode = None,
weighted_metrics = None,
target_tensors = None
)
重要参数如下:
- loss function
- Optimizer
- metrics
from keras import losses
from keras import optimizers
from keras import metrics
model.compile(loss = mean_squared_error, optimizer = sgd, metrics = [metrics.categorical_accuracy])
- 损失函数设置为 mean_squared_error
- 优化器设置为 sgd
- 指标设置为 metrics.categorical_accuracy
模型由 NumPy 数组使用 fit() 进行训练。 此拟合函数的主要目的是用于评估您的训练模型。 这也可以用于绘制模型性能。 它具有以下语法:
model.fit(X, y, epochs = , batch_size = )
- X, y - 这是一个评估数据的元组。
- epochs - 在训练期间不需要评估模型的次数。
- batch_size - 训练实例。
6 创建数据
让我们在下面提到的命令的帮助下使用 numpy 为 x 和 y 创建一个随机数据:
import numpy as np
x_train = np.random.random((100,4,8))
y_train = np.random.random((100,10))
现在,创建随机验证数据:
x_val = np.random.random((100,4,8))
y_val = np.random.random((100,10))
7 创建模型
让我们创建简单的顺序模型:
from keras.models import Sequential model = Sequential()
8 添加层
创建层以添加到模型中:
from keras.layers import LSTM, Dense
# add a sequence of vectors of dimension 16
model.add(LSTM(16, return_sequences = True))
model.add(Dense(10, activation = softmax))
9 编译模型
【Keras中模型的编译】 现在模型已定义。 您可以使用以下命令进行编译:
model.compile(loss = categorical_crossentropy, optimizer = sgd, metrics = [accuracy])
10 进行拟合
现在我们应用 fit() 函数来训练我们的数据:
model.fit(x_train, y_train, batch_size = 32, epochs = 5, validation_data = https://www.songbingjia.com/android/(x_val, y_val))
11 创建多层感知器 ANN
我们已经学会了创建、编译和训练 Keras 模型。让我们应用我们的学习并创建一个简单的基于 MPL 的 ANN。
11.1 数据集模块
在创建模型之前,我们需要选择一个问题,需要收集所需的数据并将数据转换为 NumPy 数组。 收集数据后,我们可以准备模型并使用收集的数据对其进行训练。 数据收集是机器学习中最困难的阶段之一。 Keras 提供了一个特殊的模块,即数据集,用于下载用于训练目的的在线机器学习数据。 它从在线服务器获取数据,处理数据并将数据作为训练和测试集返回。 让我们检查一下 Keras 数据集模块提供的数据。 模块中可用的数据如下:
- CIFAR100小图像分类
- IMDB电影评论情感分类
- 路透社新闻专线主题分类
- MNIST 手写数字数据库
- Fashion-MNIST 时尚文章数据库
- 波士顿房价回归数据集
from keras.datasets import mnist
(x_train, y_train), (x_test, y_test) = mnist.load_data()
- 第一行:从 keras 数据集模块导入 minst。
- 第三行:调用 load_data 函数,该函数将从在线服务器获取数据并将数据作为 2 个元组返回,第一个元组 (x_train, y_train) 表示具有形状的训练数据 (number_sample, 28, 28) 及其带有形状的数字标签, (number_samples, )。 第二个元组 (x_test, y_test) 表示具有相同形状的测试数据。
11.2 创建模型
让我们选择一个简单的多层感知器 (MLP),如下所示,并尝试使用 Keras 创建模型。
该模型的核心特点如下:
- 输入层由 784 个值(28 x 28 = 784)组成。
- 第一个隐藏层,Dense 由 512 个神经元和“relu”激活函数组成。
- 第二个隐藏层,Dropout 的值为 0.2。
- 第三个隐藏层,同样 Dense 由 512 个神经元和“relu”激活函数组成。
- 第四个隐藏层,Dropout 的值为 0.2。
- 第五层和最后一层由 10 个神经元和“softmax”激活函数组成。
- 使用 categorical_crossentropy 作为损失函数。
- 使用 RMSprop() 作为优化器。
- 使用准确性作为指标。
- 使用 128 作为批量大小。
- 使用 20 作为 epoch。
让我们导入必要的模块。
import keras
from keras.datasets import mnist
from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.optimizers import RMSprop
import numpy as np
2)第二步:加载数据
让我们导入 mnist 数据集。
(x_train, y_train), (x_test, y_test) = mnist.load_data()
3)第三步:处理数据
让我们根据我们的模型更改数据集,以便将其输入到我们的模型中。
x_train = x_train.reshape(60000, 784)
x_test = x_test.reshape(10000, 784)
x_train = x_train.astype(float32)
x_test = x_test.astype(float32)
x_train /= 255
x_test /= 255
y_train = keras.utils.to_categorical(y_train, 10)
y_test = keras.utils.to_categorical(y_test, 10)
- reshape 用于将输入从 (28, 28) 元组重塑为 (784, )
- to_categorical 用于将向量转换为二进制矩阵
让我们创建实际模型。
model = Sequential()
model.add(Dense(512, activation = relu, input_shape = (784,)))
model.add(Dropout(0.2))
model.add(Dense(512, activation = relu))
model.add(Dropout(0.2))
model.add(Dense(10, activation = softmax))
5)编译模型
让我们使用选定的损失函数、优化器和指标来编译模型。
model.compile(loss = categorical_crossentropy, optimizer = RMSprop(), metrics = [accuracy])
6)训练模型
让我们使用 fit() 方法训练模型。
history = model.fit(
x_train, y_train,
batch_size = 128,
epochs = 20,
verbose = 1,
validation_data = https://www.songbingjia.com/android/(x_test, y_test)
)
12 最后的思考
我们已经创建了模型,加载了数据并将数据训练到模型中。 我们仍然需要评估模型并预测未知输入的输出,我们将在以后的文章中介绍。
import keras
from keras.datasets import mnist
from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.optimizers import RMSprop
import numpy as np
(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train = x_train.reshape(60000, 784)
x_test = x_test.reshape(10000, 784)
x_train = x_train.astype(float32)
x_test = x_test.astype(float32)
x_train /= 255
x_test /= 255
y_train = keras.utils.to_categorical(y_train, 10)
y_test = keras.utils.to_categorical(y_test, 10)
model = Sequential()
model.add(Dense(512, activation=relu, input_shape = (784,)))
model.add(Dropout(0.2))
model.add(Dense(512, activation = relu)) model.add(Dropout(0.2))
model.add(Dense(10, activation = softmax))
model.compile(loss = categorical_crossentropy,
optimizer = RMSprop(),
metrics = [accuracy])
history = model.fit(x_train, y_train,
batch_size = 128, epochs = 20, verbose = 1, validation_data = https://www.songbingjia.com/android/(x_test, y_test))
推荐阅读
- [OpenCV实战]23 使用OpenCV获取高动态范围成像HDR
- linux硬核知识点
- ansible搭建k8s
- Gitlab其他用户登录返回500错误解决
- 私有仓库Gitlab的安装与汉化
- Gitlab配置webhook报错(Urlis blocked: Requests to the local network are not allowed解决)
- 基于Maven编译的JDK环境安装配置
- Jenkins配置项目集成钉钉通知
- Docker容器实战五(镜像与容器)