The class
Topic
O MNIST, um conjunto de 70 mil dígitos escritos à mão. Um MLP com 784 entradas, uma camada oculta com a tanh e 10 saídas com a softmax, treinado com a entropia cruzada em lotes. Separar os dados em três partes: treino, para ajustar os pesos; validação, para escolher o tamanho da rede e a hora de parar; teste, para medir uma única vez no fim. O sobreajuste, quando a rede decora o treino e erra no dado novo. A acurácia, a fração de acertos. Na história, de onde vêm os dígitos do MNIST, escritos por funcionários do censo dos Estados Unidos e por estudantes do ensino médio, e a rede LeNet-5, de LeCun e colegas, de 1998.
Practice in class
Um MLP no MNIST em NumPy, escrito a partir de um esqueleto, com os dados já carregados.
Assignment
- O esqueleto com as três funções escritas, softmax, para_a_frente e retropropagacao; a acurácia no teste, com a semente e a versão dos dados registradas, e as curvas de erro de treino e de validação.
- Uma pergunta sobre o estudo da semana.
