Keras loss函数

'''
Created on 2018-4-16'''def compile(
self,
optimizer, #优化器
loss, #损失函数,可以为已经定义好的loss函数名称，也可以为自己写的loss函数
metrics=None, #
sample_weight_mode=None, #如果你需要按时间步为样本赋权（2D权矩阵），将该值设为“temporal”。默认为“None”，代表按样本赋权（1D权），和fit中sample_weight在赋值样本权重中配合使用
weighted_metrics=None,
target_tensors=None,
**kwargs #这里的设定的参数可以和后端交互。
)实质调用的是Keras\engine\training.py 中的class Model中的def compile
一般使用model.compile(loss='categorical_crossentropy',optimizer='sgd',metrics=['accuracy'])# keras所有定义好的损失函数loss:
# keras\losses.py
# 有些loss函数可以使用简称:
# mse = MSE = mean_squared_error
# mae = MAE = mean_absolute_error
# mape = MAPE = mean_absolute_percentage_error
# msle = MSLE = mean_squared_logarithmic_error
# kld = KLD = kullback_leibler_divergence
# cosine = cosine_proximity
# 使用到的数学方法:
# mean:求均值
# sum:求和
# square:平方
# abs:绝对值
# clip:[裁剪替换](https://blog.csdn.net/qq1483661204/article/details)
# epsilon:1e-7
# log:以e为底
# maximum(x,y):x与 y逐位比较取其大者
# reduce_sum(x,axis):沿着某个维度求和
# l2_normalize：l2正则化
# softplus:softplus函数
#
# import cntk as C
# 1.mean_squared_error:
#     return K.mean(K.square(y_pred - y_true), axis=-1)
# 2.mean_absolute_error:
#     return K.mean(K.abs(y_pred - y_true), axis=-1)
# 3.mean_absolute_percentage_error:
#     diff = K.abs((y_true - y_pred) / K.clip(K.abs(y_true),K.epsilon(),None))
#     return 100. * K.mean(diff, axis=-1)
# 4.mean_squared_logarithmic_error:
#     first_log = K.log(K.clip(y_pred, K.epsilon(), None) + 1.)
#     second_log = K.log(K.clip(y_true, K.epsilon(), None) + 1.)
#     return K.mean(K.square(first_log - second_log), axis=-1)
# 5.squared_hinge:
#     return K.mean(K.square(K.maximum(1. - y_true * y_pred, 0.)), axis=-1)
# 6.hinge(SVM损失函数):
#     return K.mean(K.maximum(1. - y_true * y_pred, 0.), axis=-1)
# 7.categorical_hinge:
#     pos = K.sum(y_true * y_pred, axis=-1)
#     neg = K.max((1. - y_true) * y_pred, axis=-1)
#     return K.maximum(0., neg - pos + 1.)
# 8.logcosh:
#     def _logcosh(x):
#         return x + K.softplus(-2. * x) - K.log(2.)
#     return K.mean(_logcosh(y_pred - y_true), axis=-1)
# 9.categorical_crossentropy:
#     output /= C.reduce_sum(output, axis=-1)
#     output = C.clip(output, epsilon(), 1.0 - epsilon())
#     return -sum(target * C.log(output), axis=-1)
# 10.sparse_categorical_crossentropy:
#     target = C.one_hot(target, output.shape[-1])
#     target = C.reshape(target, output.shape)
#     return categorical_crossentropy(target, output, from_logits)
# 11.binary_crossentropy:
#     return K.mean(K.binary_crossentropy(y_true, y_pred), axis=-1)
# 12.kullback_leibler_divergence:
#     y_true = K.clip(y_true, K.epsilon(), 1)
#     y_pred = K.clip(y_pred, K.epsilon(), 1)
#     return K.sum(y_true * K.log(y_true / y_pred), axis=-1)
# 13.poisson:
#     return K.mean(y_pred - y_true * K.log(y_pred + K.epsilon()), axis=-1)
# 14.cosine_proximity:
#     y_true = K.l2_normalize(y_true, axis=-1)
#     y_pred = K.l2_normalize(y_pred, axis=-1)
#     return -K.sum(y_true * y_pred, axis=-1)

Keras loss函数相关推荐

Keras自定义Loss函数
Keras作为一个深度学习库,非常适合新手.在做神经网络时,它自带了许多常用的目标函数,优化方法等等,基本能满足新手学习时的一些需求.具体包含目标函数和优化方法.但它也支持用户自定义目标函数,下边介绍 ...
tensorflow分类的loss函数_Tensorflow Keras的loss函数总结
一.二分类与多分类交叉熵损失函数的理解交叉熵是分类任务中的常用损失函数,在不同的分类任务情况下,交叉熵形式上有很大的差别, 二分类任务交叉熵损失函数: 多分类任务交叉熵损失函数: 这两个交叉熵损失函 ...
一文总结Keras的loss函数和metrics函数
Loss函数定义: keras.losses.mean_squared_error(y_true, y_pred) 用法很简单,就是计算均方误差平均值,例如 loss_fn = keras.loss ...
深度学习中的损失函数总结以及Center Loss函数笔记
北京上海巡回站 | NVIDIA DLI深度学习培训 2018年1月26/1月12日 NVIDIA 深度学习学院带你快速进入火热的DL领域阅读全文 ...
聊一聊CNN中的感受野、优化函数、激活函数、Loss函数等
目录: 1.感受野 2.优化函数 3.激活函数 4.loss 函数. 前言文章有点长,内容有点丰富,基本涵盖整个深度卷积神经网络,涉及网络中的感受野.激活函数.loss函数以及各种相关知识. Pa ...
tensorflow2中自定义损失、传递loss函数字典/compile(optimizer=Adam(lr = lr), loss= lambda y_true, y_pred: y_pred)理解
在阅读yolov3代码的时候有下面这样一样代码: model.compile(optimizer=Adam(lr = lr), loss={'yolo_loss': lambda y_true, y_ ...
【Dual-Path-RNN-Pytorch源码分析】loss函数:SI-SNR
DPRNN使用的loss函数是 SI-SNR SI-SNR 是scale-invariant source-to-noise ratio的缩写,中文翻译为尺度不变的信噪比,意思是不受信号变化影响的信噪 ...
tensorflow学习（4.loss函数以及正则化的使用）
本文还是以MNIST的CNN分析为例 loss函数一般有MSE均方差函数.交叉熵损失函数,说明见 https://blog.csdn.net/John_xyz/article/details/6121 ...
多分类loss函数本质理解
一.面对一个多分类问题,如何设计合理的损失函数呢? 1.损失函数的本质在数学上称为目标函数:这个目标函数的目标值符合最完美的需求:损失函数的目标值肯定是0,完美分类的损失必然为0 : 2.损失函数分为 ...

Keras loss函数

Keras loss函数相关推荐

最新文章

热门文章