使用带有 Keras 的 TensorBoard 创建日志文件时出错

Posted

技术标签:

【中文标题】使用带有 Keras 的 TensorBoard 创建日志文件时出错【英文标题】:Error while creating a log file using TensorBoard with Keras 【发布时间】:2018-12-25 03:39:56 【问题描述】:

我在使用带有 Keras 的 TensorBoard 创建日志文件时遇到错误。

代码

import pandas as pd
from keras.callbacks import TensorBoard
from keras.models import Sequential
from keras.layers import *

training_data_df = pd.read_csv("sales_data_training_scaled.csv")

X = training_data_df.drop('total_earnings', axis=1).values
Y = training_data_df[['total_earnings']].values

# Define the model
model = Sequential()
model.add(Dense(50, input_dim=9, activation='relu', name='layer_1'))
model.add(Dense(100, activation='relu', name='layer_2'))
model.add(Dense(50, activation='relu', name='layer_3'))
model.add(Dense(1, activation='linear', name='output_layer'))
model.compile(loss='mean_squared_error', optimizer='adam')

# Create a TensorBoard logger
logger = TensorBoard(
    log_dir='logs',
    histogram_freq=5,
    write_graph=True
)

# Train the model
model.fit(
    X,
    Y,
    epochs=50,
    shuffle=True,
    verbose=2,
    callbacks=[logger]
)

# Load the separate test data set

test_data_df = pd.read_csv("sales_data_test_scaled.csv")
X_test = test_data_df.drop('total_earnings', axis=1).values
Y_test = test_data_df[['total_earnings']].values
test_error_rate = model.evaluate(X_test, Y_test, verbose=0)
print(test_error_rate)

然后我得到这个错误:

Traceback(最近一次调用最后一次):

文件“E:/Building.Deep.Learning.Applications.with.Keras.2.0/Exercise Files/06/model_logging final.py”,第 34 行,在 回调=[记录器]

文件 "C:\Python3.6.4\lib\site-packages\keras\engine\training.py", 第 1041 行,适合 steps_per_epoch=steps_per_epoch)

文件 "C:\Python3.6.4\lib\site-packages\keras\engine\training_arrays.py", 第 219 行,在 fit_loop callbacks.on_epoch_end(epoch, epoch_logs)

文件“C:\Python3.6.4\lib\site-packages\keras\callbacks.py”,第 77 行, 在 on_epoch_end callback.on_epoch_end(epoch, logs)

文件“C:\Python3.6.4\lib\site-packages\keras\callbacks.py”,行 865,在on_epoch_end

raise ValueError("如果打印直方图,validation_data 必须是" ValueError: 如果打印直方图,validation_data 必须是 提供,并且不能是生成器。

【问题讨论】:

【参考方案1】:

将您的验证移动到您的 .fit 函数中,如下所示:

# Train the model
model.fit(
X,
Y,
epochs=50,
shuffle=True,
verbose=2,
validation_data=(X_test, Y_test),
callbacks=[logger]
)

当您像您一样在 .fit 函数之后执行此操作时,记录器无法看到验证数据。

如果这不起作用,您也可以设置 histogram_freq=0。但是,您的直方图将不起作用。

【讨论】:

【参考方案2】:

首先加载 X_test、Y_test 数据并将它们与 model.fit 中的 validation_data arg 一起使用。工作代码如下。

import pandas as pd
from keras.callbacks import TensorBoard
from keras.models import Sequential
from keras.layers import *

training_data_df = pd.read_csv("sales_data_training_scaled.csv")

X = training_data_df.drop('total_earnings', axis=1).values
Y = training_data_df[['total_earnings']].values

# Define the model
model = Sequential()
model.add(Dense(50, input_dim=9, activation='relu', name='layer_1'))
model.add(Dense(100, activation='relu', name='layer_2'))
model.add(Dense(50, activation='relu', name='layer_3'))
model.add(Dense(1, activation='linear', name='output_layer'))
model.compile(loss='mean_squared_error', optimizer='adam')

# Create a TensorBoard logger
logger = TensorBoard(
    log_dir='logs',
    histogram_freq=5,
    write_graph=True
)

# Load the separate test data set.
# >>> Setup X_test, Y_test before using in model.fit below. <<<
test_data_df = pd.read_csv("sales_data_test_scaled.csv")
X_test = test_data_df.drop('total_earnings', axis=1).values
Y_test = test_data_df[['total_earnings']].values

# Train the model
model.fit(
    X,
    Y,
    epochs=50,
    shuffle=True,
    verbose=2,
    callbacks=[logger],
    validation_data=(X_test, Y_test)   # <<< Add this.
)

# Evaluate
test_error_rate = model.evaluate(X_test, Y_test, verbose=0)
print(test_error_rate)

【讨论】:

【参考方案3】:

一种解决方案是使用 histogram_freq=0 关闭直方图:

记录器 = TensorBoard( log_dir='日志', histogram_freq=0, write_graph=真 )

另一种解决方案是指定不生成验证数据

另一种解决方案是为张量板创建一个包装器,如下所示: https://github.com/keras-team/keras/issues/3358

在此处查看答案: Keras autoencoder with Tensorflow Dataset API and logging to Tensorboard

【讨论】:

以上是关于使用带有 Keras 的 TensorBoard 创建日志文件时出错的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 Keras 的 Tensorboard 回调?

使用 keras 在 tensorboard 中显示分类图像

keras与tensorboard结合使用

keras与tensorboard结合使用

在Keras中使用tensorboard可视化acc等曲线

如何使用 Keras 在 TensorBoard 中显示自定义图像?