[python] Keras, 각 레이어의 출력을 얻는 방법?

CNN을 사용하여 이진 분류 모델을 훈련했으며 여기에 내 코드가 있습니다.

model = Sequential()
model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1],
                        border_mode='valid',
                        input_shape=input_shape))
model.add(Activation('relu'))
model.add(Convolution2D(nb_filters, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=pool_size))
# (16, 16, 32)
model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(Convolution2D(nb_filters*2, kernel_size[0], kernel_size[1]))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=pool_size))
# (8, 8, 64) = (2048)
model.add(Flatten())
model.add(Dense(1024))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(2))  # define a binary classification problem
model.add(Activation('softmax'))

model.compile(loss='categorical_crossentropy',
              optimizer='adadelta',
              metrics=['accuracy'])
model.fit(x_train, y_train,
          batch_size=batch_size,
          nb_epoch=nb_epoch,
          verbose=1,
          validation_data=(x_test, y_test))

그리고 여기에서는 TensorFlow와 같이 각 레이어의 출력을 얻고 싶습니다. 어떻게 할 수 있습니까?



답변

다음을 사용하여 모든 레이어의 출력을 쉽게 얻을 수 있습니다. model.layers[index].output

모든 레이어에 다음을 사용하십시오.

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functors = [K.function([inp, K.learning_phase()], [out]) for out in outputs]    # evaluation functions

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = [func([test, 1.]) for func in functors]
print layer_outs

참고 : 드롭 아웃의 사용을 시뮬레이션 learning_phase으로 1.layer_outs다른 사용0.

편집 : (주석에 따라)

K.function ano / tensorflow 텐서 함수를 생성하여 나중에 입력이 주어진 기호 그래프에서 출력을 얻는 데 사용됩니다.

이제 K.learning_phase()교육 및 테스트 시간 동안 동작을 변경하기 위해 Dropout / Batchnomalization과 같은 많은 Keras 레이어가 입력으로 필요합니다.

따라서 코드에서 드롭 아웃 레이어를 제거하면 간단하게 사용할 수 있습니다.

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functors = [K.function([inp], [out]) for out in outputs]    # evaluation functions

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = [func([test]) for func in functors]
print layer_outs

편집 2 : 더 최적화

방금 이전의 대답이 각 기능 평가에서 데이터가 CPU-> GPU 메모리로 전송되고 텐서 계산이 하위 계층 오버 오버에 대해 수행되어야하므로 최적화되지 않았다는 것을 깨달았습니다.

대신 여러 기능이 필요하지 않고 단일 출력으로 모든 출력 목록을 제공하므로 훨씬 더 나은 방법입니다.

from keras import backend as K

inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers]          # all layer outputs
functor = K.function([inp, K.learning_phase()], outputs )   # evaluation function

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = functor([test, 1.])
print layer_outs


답변

에서 https://keras.io/getting-started/faq/#how-can-i-obtain-the-output-of-an-intermediate-layer

간단한 방법 중 하나는 원하는 레이어를 출력하는 새 모델을 만드는 것입니다.

from keras.models import Model

model = ...  # include here your original model

layer_name = 'my_layer'
intermediate_layer_model = Model(inputs=model.input,
                                 outputs=model.get_layer(layer_name).output)
intermediate_output = intermediate_layer_model.predict(data)

또는 특정 입력이 주어지면 특정 레이어의 출력을 반환하는 Keras 함수를 빌드 할 수 있습니다. 예를 들면 다음과 같습니다.

from keras import backend as K

# with a Sequential model
get_3rd_layer_output = K.function([model.layers[0].input],
                                  [model.layers[3].output])
layer_output = get_3rd_layer_output([x])[0]


답변

이 스레드의 모든 좋은 대답을 바탕으로 각 레이어의 출력을 가져 오기 위해 라이브러리를 작성했습니다. 모든 복잡성을 추상화하고 가능한 한 사용자 친화적으로 설계되었습니다.

https://github.com/philipperemy/keract

거의 모든 에지 케이스를 처리합니다.

그것이 도움이되기를 바랍니다!


답변

다음은 나에게 매우 단순 해 보입니다.

model.layers[idx].output

위는 텐서 객체이므로 텐서 객체에 적용 할 수있는 작업을 사용하여 수정할 수 있습니다.

예를 들어, 모양을 얻으려면 model.layers[idx].output.get_shape()

idx 레이어의 색인이며 다음에서 찾을 수 있습니다. model.summary()


답변

나는 (Jpypyter에서) 나 자신을 위해이 기능을 작성했으며 영감을 얻었습니다. indraforyou 의 답변 . 모든 레이어 출력을 자동으로 플로팅합니다. 이미지는 1 개의 채널을 나타내는 (x, y, 1) 모양이어야합니다. plot_layer_outputs (…)를 호출하여 플로팅합니다.

%matplotlib inline
import matplotlib.pyplot as plt
from keras import backend as K

def get_layer_outputs():
    test_image = YOUR IMAGE GOES HERE!!!
    outputs    = [layer.output for layer in model.layers]          # all layer outputs
    comp_graph = [K.function([model.input]+ [K.learning_phase()], [output]) for output in outputs]  # evaluation functions

    # Testing
    layer_outputs_list = [op([test_image, 1.]) for op in comp_graph]
    layer_outputs = []

    for layer_output in layer_outputs_list:
        print(layer_output[0][0].shape, end='\n-------------------\n')
        layer_outputs.append(layer_output[0][0])

    return layer_outputs

def plot_layer_outputs(layer_number):
    layer_outputs = get_layer_outputs()

    x_max = layer_outputs[layer_number].shape[0]
    y_max = layer_outputs[layer_number].shape[1]
    n     = layer_outputs[layer_number].shape[2]

    L = []
    for i in range(n):
        L.append(np.zeros((x_max, y_max)))

    for i in range(n):
        for x in range(x_max):
            for y in range(y_max):
                L[i][x][y] = layer_outputs[layer_number][x][y][i]


    for img in L:
        plt.figure()
        plt.imshow(img, interpolation='nearest')


답변

보낸 사람 : https://github.com/philipperemy/keras-visualize-activations/blob/master/read_activations.py

import keras.backend as K

def get_activations(model, model_inputs, print_shape_only=False, layer_name=None):
    print('----- activations -----')
    activations = []
    inp = model.input

    model_multi_inputs_cond = True
    if not isinstance(inp, list):
        # only one input! let's wrap it in a list.
        inp = [inp]
        model_multi_inputs_cond = False

    outputs = [layer.output for layer in model.layers if
               layer.name == layer_name or layer_name is None]  # all layer outputs

    funcs = [K.function(inp + [K.learning_phase()], [out]) for out in outputs]  # evaluation functions

    if model_multi_inputs_cond:
        list_inputs = []
        list_inputs.extend(model_inputs)
        list_inputs.append(0.)
    else:
        list_inputs = [model_inputs, 0.]

    # Learning phase. 0 = Test mode (no dropout or batch normalization)
    # layer_outputs = [func([model_inputs, 0.])[0] for func in funcs]
    layer_outputs = [func(list_inputs)[0] for func in funcs]
    for layer_activations in layer_outputs:
        activations.append(layer_activations)
        if print_shape_only:
            print(layer_activations.shape)
        else:
            print(layer_activations)
    return activations


답변

@mathtick의 의견에 언급 된 문제를 해결하기 위해 @indraforyou의 답변에 이것을 의견으로 추가하고 싶었지만 (응답이 충분하지는 않습니다.) 방지하기 위해 InvalidArgumentError: input_X:Y is both fed and fetched.예외를 간단히 라인 교체 outputs = [layer.output for layer in model.layers]outputs = [layer.output for layer in model.layers][1:], 즉

indraforyou의 최소 작업 예를 조정하십시오.

from keras import backend as K
inp = model.input                                           # input placeholder
outputs = [layer.output for layer in model.layers][1:]        # all layer outputs except first (input) layer
functor = K.function([inp, K.learning_phase()], outputs )   # evaluation function

# Testing
test = np.random.random(input_shape)[np.newaxis,...]
layer_outs = functor([test, 1.])
print layer_outs

추신 시도 outputs = [layer.output for layer in model.layers[1:]]가 작동하지 않는 등의 시도 .