IBM/pytorchpipe

# This file defines the default values for the Self_Attention model.

####################################################################
# 1. CONFIGURATION PARAMETERS that will be LOADED by the component.
####################################################################

# Dropout rate (LOADED)
# Default: 0 (means that it is turned off)
dropout_rate: 0

# Size of the latent space (LOADED)
latent_size: 256

# Number of attention heads (LOADED)
num_attention_heads: 4


streams:
  ####################################################################
  # 2. Keymappings associated with INPUT and OUTPUT streams.
  ####################################################################

  # Stream containing batch of encoded questions (INPUT)
  question_encodings: question_encodings

  # Stream containing outputs (OUTPUT)
  outputs: outputs

globals:
  ####################################################################
  # 3. Keymappings of variables that will be RETRIEVED from GLOBALS.
  ####################################################################

  # Size of the question encodings input (RETRIEVED)
  question_encoding_size: question_encoding_size

  # Size of the output (RETRIEVED)
  output_size: output_size

  ####################################################################
  # 4. Keymappings associated with GLOBAL variables that will be SET.
  ####################################################################

  ####################################################################
  # 5. Keymappings associated with statistics that will be ADDED.
  ####################################################################