【Python】交差エントロピー誤差関数の実装【目的関数】

スポンサーリンク

【Python】交差エントロピー誤差関数の実装【目的関数】

学習モデルの実装では誤差を求める目的関数を実装する必要がある。

そこで、今回は2クラス交差エントロピー誤差関数多クラス交差エントロピー誤差関数の実装をまとめて紹介する。

2クラス交差エントロピー誤差関数の実装

2クラス交差エントロピー誤差関数は以下の式で表される。

式の中にlogがあり、中身が0になるのを防ぐために以下のようにnp_log関数を定義しておく。

# logの中身が0になるのを防ぐ
def np_log(x):
    return np.log(np.clip(a=x, a_min=1e-10, a_max=1e+10))

そして、2クラス交差エントロピー誤差関数は以下のように実装することができる。

# y    : 教師ラベル, shape=(batch_size, 出力の次元数)
# y_hat: 予測ラベル
E = (- y * np_log(y_hat) - (1 - y) * np_log(1 - y_hat)).mean()

多クラス交差エントロピー誤差関数の実装

多クラス交差エントロピー誤差関数は以下の式で表される。

そして、多クラス交差エントロピー誤差関数は以下のように実装することができる。

# y    : 教師ラベル, shape=(batch_size, 出力の次元数)
# y_hat: 予測ラベル
E = (- y * np_log(y_hat)).sum(axis=1).mean()

人気記事

人気記事はこちら。

CUDA、cuDNNのバージョンをターミナルで調べるコマンド
【Pytorch】テンソルを連結する方法(cat・stack)
【Pytorch】テンソルの次元を追加・削除する方法【dim】
【Protobuf】"TypeError: Descriptors cannot not be created directly."を解決する【solved】
【Python】Tensorflowをダウングレード・アップグレードするコマンド

最新記事

最新記事はこちら。

【Ubuntu】マウスカーソル速度を上げる方法【xinput】
【Ubuntu22】Brave Browserで「公開鍵を利用できないため、以下の署名は検証できませんでした」が出た場合の対応
【インド】バンガロールから日本へ帰国。機内食は豪華
【インド】帰国後の寿司が美味い【羽田空港】
寿司打記録更新
タイトルとURLをコピーしました