Um algoritmo que decide a função de ativação a ser usada em cada camada.

Um algoritmo usado para ajustar os pesos das redes neurais, calculando gradientes e propagando-os para as camadas anteriores.

Um algoritmo usado para calcular a saída da rede neural.

Um método para dividir os dados em subconjuntos de treinamento e teste.

Um tipo de regularização utilizado para evitar overfitting.