SIENA, NIPS-CERN, UFJF

Limiar

Redes neurais, do neurônio ao fractal

Aula 5: retropropagação

13/11/2026. C∴ Chrysthofer A. A. Afonso

Vinte quadros do plano do XOR, um por semente: em dezesseis, uma região azul cobre os dois círculos e deixa os quadrados de fora; quatro, de moldura laranja, ficam com um azul pela metade

O XOR como 20 redes iguais o aprenderam, uma por semente: azul onde a rede responde 1. Nas 4 de moldura laranja, o treino parou no patamar.

Limiar, aula 5: retropropagação

A aula 5 trata da retropropagação: a regra da cadeia aplicada à rede inteira, de trás para a frente, que dá a derivada da perda em relação a cada peso numa passada só. Com ela, o gradiente descendente da aula 2 acha sozinho os nove pesos da rede do XOR, que na aula 3 foram escolhidos à mão.

A imagem da capa é o plano do XOR como cada uma de 20 redes iguais o deixou, uma por semente, da 0 à 19, depois de 2.000 épocas com a taxa 2: do fundo claro, saída 0, ao azul, saída 1. Os círculos cheios marcam as entradas em que a resposta certa é 1, e os quadrados vazados, as de resposta 0. Em 16 quadros, o azul cobre os dois círculos e deixa os quadrados de fora, numa faixa diagonal ou em dois cantos opostos. Nos 4 de moldura laranja, as sementes 0, 10, 11 e 19, o treino parou no patamar, com a saída perto de 0,5 em parte do plano. É o resultado do slide das sementes, visto no plano das entradas. A foto de Paul Werbos está no slide da história, com as de Rumelhart e Hinton.

1 · Revisão

O que ficou das aulas 3 e 4, de memória

O que uma camada calcula, escrita como matriz?

Por que a camada oculta precisa de uma ativação que não seja linear?

O que diz a regra da cadeia?

Que pesos à mão calculam o XOR?

Limiar, aula 5: retropropagação

A revisão é de memória: quatro perguntas sobre as aulas 3 e 4, e a turma responde falando.

O que uma camada calcula, escrita como matriz? $\vec{h}$ = ativação(W $\vec{x}$ + $\vec{b}$ ): cada linha de W guarda os pesos de um neurônio e faz o produto escalar com as entradas, e a ativação vale para cada posição.

Por que a camada oculta precisa de uma ativação que não seja linear? Sem ela, duas camadas seguidas valem uma, com a matriz W₂ W₁, e uma camada só desenha de novo uma reta por neurônio: o XOR volta a não ter solução.

O que diz a regra da cadeia? A derivada de uma função dentro de outra é o produto das derivadas: as taxas de variação se multiplicam.

Que pesos à mão calculam o XOR? Na camada oculta, um neurônio que calcula o OU e outro que calcula o E, os dois com pesos (1; 1) e vieses −0,5 e −1,5; na saída, pesos (1; −1) e viés −0,5, que dispara com o OU sem o E.

1 · Revisão

O fio do curso, da aula 1 à 10

O neurônio e o perceptron

um neurônio desenha uma reta, e nenhuma reta separa o XOR

25/09, presencial

Derivada e gradiente

o passo contra a derivada; a taxa grande demais faz o treino divergir

02/10, presencial

Matrizes e camadas

duas camadas separam o XOR, com pesos escolhidos à mão

13/11, on-line

O Jacobiano

a regra da cadeia com vetores, uma camada de cada vez

13/11, on-line

Retropropagação

a regra da cadeia, de trás para a frente, acha os pesos do XOR

13/11, on-line

O MNIST em NumPy

um MLP em 70 mil dígitos escritos à mão, com treino, validação e teste

27/11, on-line

PyTorch

a biblioteca faz a retropropagação; o erro final contra a taxa

27/11, on-line

Os dados do CERN

um MLP estima a massa dos dois múons, conferida pela fórmula

04/12, on-line

O fractal e o projeto

a fronteira entre a taxa que converge e a que diverge

04/12, on-line

A apresentação

a apresentação do projeto e a revisão do curso inteiro

11/12, on-line

Limiar, aula 5: retropropagação

O curso segue um fio, e este slide aparece em todas as aulas, com a aula do dia em destaque.

Na aula 1, um neurônio desenha uma reta, e nenhuma reta separa o XOR. Na aula 2, o gradiente descendente acha os pesos de um neurônio sem o degrau, e a taxa de aprendizado tem um limiar. Na aula 3, duas camadas separam o XOR, com pesos escolhidos à mão. Na aula 4, a regra da cadeia ganha vetores, uma camada de cada vez. Nesta aula, a 5, a retropropagação junta as duas coisas: calcula as derivadas da perda em relação a todos os pesos, e o gradiente descendente acha os pesos do XOR sozinho.

A seguir, a mesma conta treina um MLP no MNIST, na aula 6; o PyTorch, na 7, faz a retropropagação sozinho; e os dados do CERN, na 8, levam ao projeto da aula 9, em que o limiar da taxa da aula 2 volta, com uma taxa por camada.

2 · A regra da cadeia na rede

Como achar os nove números da rede sem escolher à mão?

A pergunta que fechou a aula 3.

Limiar, aula 5: retropropagação

2 · A regra da cadeia na rede

A regra da cadeia: as taxas se multiplicam

Um exemplo

conferido sem a regra: L = 9w², e a derivada é 18w

Um neurônio com a sigmoide, um exemplo

Limiar, aula 5: retropropagação

A regra da cadeia deriva uma função dentro de outra. Se L depende de z, e z depende de w, a derivada de L em relação a w é o produto das duas derivadas: ∂L/∂w = ∂L/∂z · ∂z/∂w. Em palavras, as taxas de variação se multiplicam: se z anda 3 vezes mais depressa que w, e L anda 2z vezes mais depressa que z, então L anda 2z · 3 vezes mais depressa que w.

O exemplo: z = 3w e L = z². A derivada de L em relação a z é 2z, pela regra de w² da aula 2; a de z em relação a w é 3. A regra da cadeia dá 2z · 3 = 6z = 18w. Sem ela, substituindo, L = 9w², e a derivada é 18w: o mesmo.

Para um neurônio com a sigmoide e um exemplo, L = (y − t)², y = σ(z) e z = w x + b. A cadeia tem três elos: ∂L/∂y = 2(y − t), ∂y/∂z = σ′(z) e ∂z/∂w = x. O produto é ∂L/∂w = 2(y − t) σ′(z) x: o erro, vezes a inclinação da sigmoide, vezes a entrada. Sem a sigmoide, o elo do meio vale 1, e sobra a derivada da aula 2 para um exemplo, 2(y − t) x. A sigmoide, σ(z) = 1/(1 + e⁻ᶻ), e a inclinação dela, σ′(z) = σ(z)(1 − σ(z)), são as da aula 3.

A versão com vetores, em que cada elo é uma matriz de derivadas, o Jacobiano, é a da aula 4. Aqui bastam as derivadas de um número em relação a outro.

2 · A regra da cadeia na rede

As taxas se multiplicam

Três retas com a mesma escala, para w, z = 3w e L = z², com o ponto em 1, 3 e 9. Um passo de 0,1 em w vira 0,3 em z e 1,89 em L; à direita, as razões 3, 6,3 e 18,9. Com o passo menor, elas chegam a 3, 6 e 18

Limiar, aula 5: retropropagação

O vídeo mostra a regra da cadeia com o exemplo do slide anterior, z = 3w e L = z², em três retas com a mesma escala: uma marca vale uma unidade nas três. O ponto começa em w = 1, z = 3 e L = 9.

Um passo Δw = 0,1, em laranja, vira Δz = 0,3, três vezes maior, e ΔL = 1,89, perto de seis vezes Δz. As razões ficam à direita: Δz/Δw = 3, ΔL/Δz = 6,3 e ΔL/Δw = 18,9. A razão total é o produto das duas: 3 vezes 6,3 dá 18,9. Δ, delta maiúsculo, é a variação: o quanto o número andou.

Com o passo menor, 0,03 e depois 0,01, a razão de L para z chega a 6,03, perto de 2z = 6, a derivada de z² em z = 3; e a razão total, a 18,09, perto de 18. No limite, com o passo indo a zero, as razões viram as derivadas, e a regra da cadeia diz que elas se multiplicam: ∂L/∂w = 2z · 3 = 18w, que em w = 1 dá 18.

Na rede, a cadeia é mais comprida: peso, soma, saída do neurônio, soma do neurônio seguinte, saída da rede, perda. Cada elo tem a sua taxa, e a derivada da perda pelo peso é o produto delas.

2 · A regra da cadeia na rede

Para a frente, os valores; para trás, as derivadas

A rede 2-2-1 com a perda L no fim: em cima, uma seta azul para a direita, a passada para a frente; embaixo, uma seta laranja para a esquerda, a passada para trás; δ junto de cada neurônio

O delta: a derivada da perda pela soma do neurônio

δ, delta; o da saída, para um exemplo

cada peso: o δ do neurônio aonde ele chega vezes a entrada que ele multiplica

Limiar, aula 5: retropropagação

A retropropagação aplica a regra da cadeia à rede inteira, de trás para a frente, e reaproveita as contas. Primeiro, a passada para a frente: das entradas às somas z₁ e z₂ e às saídas h₁ e h₂ da camada oculta, daí à soma z e à saída y do neurônio de saída, e à perda L. Cada valor fica guardado.

Depois, a passada para trás. O δ, delta minúsculo, de um neurônio é a derivada da perda em relação à soma z dele: quanto a perda muda quando a soma daquele neurônio muda um pouco. Para um exemplo, com L = (y − t)², o δ da saída sai da cadeia de dois elos: δ = 2(y − t) σ′(z).

Com o δ de um neurônio, a derivada de cada peso que chega nele é uma conta só: o δ vezes a entrada que o peso multiplica. Na saída, ∂L/∂vₖ = δ hₖ, e ∂L/∂c = δ, porque c multiplica a entrada fixa 1. É o padrão do slide da regra da cadeia, com hₖ no lugar de x.

O δ de um neurônio oculto vem do δ da saída, pelo peso que liga os dois: δₖ = δ vₖ σ′(zₖ). A soma da saída depende de hₖ através de vₖ, e hₖ depende de zₖ através da sigmoide: dois elos a mais na cadeia. Com δₖ, ∂L/∂wₖⱼ = δₖ xⱼ e ∂L/∂bₖ = δₖ.

O que faz a conta ser barata é a ordem. As derivadas dos pesos da camada oculta começam todas pelo mesmo pedaço da cadeia, o δ da saída; de trás para a frente, esse pedaço se calcula uma vez e se reaproveita. Com mais camadas, cada δ sai do δ da camada seguinte, e uma passada para trás dá as derivadas de todos os pesos.

Com N exemplos e a perda média, cada derivada é a média das derivadas de cada exemplo; o código calcula o δ dos quatro exemplos de uma vez, com o 2/N dentro dele, e soma. A mesma conta em matrizes é a da aula 4.

2 · A regra da cadeia na rede

A retropropagação, com números

A rede do XOR com os pesos à mão da aula 3 e a sigmoide, na entrada (0; 1). Para a frente, em azul, as somas e as saídas de cada neurônio e a perda, 0,317. Para trás, em laranja, o delta da saída, −0,277, os deltas dos neurônios ocultos, −0,065 e 0,065, e a derivada de cada peso no lugar dele

Limiar, aula 5: retropropagação

O vídeo faz a retropropagação com números, na rede do XOR. Os pesos são os da aula 3, escolhidos à mão para o degrau: todos os pesos da camada oculta valem 1, os vieses −0,5 e −1,5, os pesos da saída 1 e −1 e o viés da saída −0,5. Aqui, com a sigmoide no lugar do degrau, a mesma rede erra: no slide da aula 3 com k = 1, a saída fica abaixo de 0,5 nas quatro entradas.

A entrada é (0; 1), de resposta certa t = 1, e a perda é a de um exemplo, L = (y − t)².

Para a frente, em azul: z₁ = 0,5 e h₁ = σ(0,5) = 0,622; z₂ = −0,5 e h₂ = 0,378; z = 0,622 − 0,378 − 0,5 = −0,255 e y = 0,437; L = (0,437 − 1)² = 0,317. Cada valor fica guardado, porque a volta usa todos.

Para trás, em laranja. O δ da saída: 2(y − t) σ′(z) = 2(0,437 − 1) · 0,246 = −0,277, com σ′(z) = y(1 − y). Os pesos da saída: δ vezes a entrada que cada um multiplica, −0,277 · 0,622 = −0,173 para v₁ e −0,105 para v₂; o viés c, que multiplica 1, fica com −0,277. O δ volta pelo peso: δ₁ = v₁ δ σ′(z₁) = 1 · (−0,277) · 0,235 = −0,065, e δ₂ = (−1) · (−0,277) · 0,235 = +0,065. Por fim, a primeira camada: δₖ vezes xⱼ. Como x₁ = 0, as derivadas dos pesos que saem de x₁ são zero: mexer nesses pesos não muda nada para esta entrada.

Os sinais dizem o que fazer. A derivada de v₁ é negativa: aumentar v₁ diminui a perda, e o passo do gradiente, contra a derivada, aumenta v₁. O código confere as nove derivadas com a derivada numérica.

2 · A regra da cadeia na rede

Um passo com um exemplo só

à mão

derivada

depois

1,000

−0,065

1,130

1,000

0,065

0,870

−0,5

−0,065

−0,370

−1,5

0,065

−1,630

−0,173

1,345

−1

−0,105

−0,791

−0,5

−0,277

0,054

O exemplo (0; 1), sozinho; o passo é novo = velho − η · derivada, com η = 2.

entrada

certa

antes

depois

(0; 0)

0,424

0,616

(0; 1)

0,437

0,672

(1; 0)

0,437

0,659

(1; 1)

0,424

0,681

A saída sobe nas quatro entradas, também onde a certa é 0. A perda dos quatro piora: de 0,249 para 0,267.

Limiar, aula 5: retropropagação

3 · Conferir e treinar

Os quatro exemplos de uma vez

a perda dos quatro é a média; a derivada também

(0; 0)

(0; 1)

(1; 0)

(1; 1)

perda

resposta certa

antes

0,424

0,437

0,424

0,2488

um passo, só (0; 1)

0,616

0,672

0,659

0,681

0,2670

um passo, os quatro

0,449

0,468

0,459

0,2448

200 passos, os quatro

0,188

0,816

0,202

0,0359

Os pesos da aula 3, que erravam com a sigmoide, acertam o XOR em 200 passos com os quatro exemplos.

Limiar, aula 5: retropropagação

Com os quatro exemplos, a perda é a média, L = (1/4) Σ (yᵢ − tᵢ)², e a derivada de cada parâmetro é a média das derivadas dos quatro: cada exemplo puxa para o seu lado, e o passo segue a soma dos puxões.

Partindo dos mesmos pesos à mão, um passo com os quatro muda pouco a saída, de (0,424; 0,437; 0,437; 0,424) para (0,449; 0,468; 0,468; 0,459), mas a perda cai, de 0,2488 para 0,2448. As entradas de resposta 1 sobem um pouco mais que as de resposta 0.

Com 200 passos, a saída fica (0,188; 0,816; 0,816; 0,202), e a perda, 0,0359: a rede acerta as quatro entradas, lendo y ≥ 0,5 como resposta 1. Os pesos da aula 3, que erravam com a sigmoide, aprenderam o XOR.

Usar os exemplos todos de uma vez é o que o código da aula faz em cada época. Na aula 6, com 50 mil imagens, o passo usa um lote de 64 de cada vez, um meio-termo entre um exemplo e todos.

Os números saem das funções de retropropagacao.py, com estes pesos no lugar dos sorteados.

3 · Conferir e treinar

A retropropagação confere com a derivada numérica

derivada

retropropagação

numérica

0,001178

0,000624

0,002585

0,001618

−0,002508

0,005113

0,018787

0,015281

0,026299

semente 1, nos pesos iniciais

Derivada numérica

duas passadas para a frente por parâmetro: 18 nesta rede

Retropropagação

uma passada para a frente e uma para trás, para os nove de uma vez

Limiar, aula 5: retropropagação

Antes de treinar, a retropropagação se confere: cada uma das nove derivadas, calculada de trás para a frente, tem de bater com a derivada numérica da aula 2, que mexe um parâmetro de cada vez, h = 10⁻⁶ para cima e para baixo, e divide a variação da perda por 2h.

A tabela sai do retropropagacao.py, nos pesos iniciais da semente 1, sorteados da distribuição normal com média 0 e desvio 1. As duas colunas são iguais até a sexta casa; a maior diferença entre as nove é 2,8 · 10⁻¹¹. Um erro de conta, como um sinal trocado ou um índice errado, aparece aqui como números diferentes, antes de o treino falhar sem dizer por quê.

A comparação de custo é a razão de a retropropagação existir. A derivada numérica pede duas passadas para a frente por parâmetro: 18 nesta rede. A retropropagação dá as nove derivadas com uma passada para a frente e uma para trás. Com um milhão de pesos, seriam dois milhões de passadas contra duas. Que a passada para trás custe da mesma ordem que a da frente é dedução da conta: ela faz multiplicações do mesmo tamanho, na ordem contrária.

Por isso a derivada numérica serve para conferir, num ponto, e a retropropagação, para treinar.

3 · Conferir e treinar

A retropropagação acha os pesos do XOR

À esquerda, o plano das entradas com a região em que a rede responde 1 e a fronteira, que se formam durante o treino; à direita, a perda a cada época, em escala logarítmica, parada perto de 0,25 e depois caindo até 0,0021; em cima, a época e a perda

Limiar, aula 5: retropropagação

O vídeo é o treino do retropropagacao.py: semente 1, η = 2, 2.000 épocas, cada época um passo do gradiente descendente com os quatro exemplos de uma vez. À esquerda, o plano das entradas: em azul claro, onde a rede responde 1, isto é, y ≥ 0,5; a linha escura é a fronteira, y = 0,5. À direita, a perda a cada época, em escala logarítmica, em que cada marca vale dez vezes a de baixo.

Com os pesos sorteados, a rede responde 1 em quase todo o plano, e a perda começa em 0,2547. Nas primeiras 400 épocas, a perda fica perto de 0,25, e o vídeo passa depressa; a fronteira se inclina e atravessa o plano. Entre as épocas 600 e 900, a perda cai mais de dez vezes, e uma segunda fronteira aparece. No fim, a perda é 0,0021, e a saída nas quatro entradas, (0; 0), (0; 1), (1; 0) e (1; 1), é 0,044; 0,950; 0,951 e 0,040: perto de 0, 1, 1 e 0.

A solução achada não é a dos pesos à mão da aula 3. Lá, a rede dispara na faixa do meio, entre as duas retas; aqui, responde 1 fora da faixa, nos dois cantos, e 0 dentro dela, onde ficam (0; 0) e (1; 1). As duas resolvem o XOR, e a retropropagação acha uma delas, a que o sorteio inicial e o caminho do gradiente levarem.

O patamar do começo fica perto de 0,25, que é a perda de responder 0,5 em tudo, porque (0,5)² = 0,25: a rede ainda não separa nada.

3 · Conferir e treinar

Nem toda semente chega

A perda a cada época em 20 treinos: 16 caem abaixo de 0,01, e 4 ficam num patamar perto de 0,126

Vinte sementes, vinte sorteios dos pesos iniciais, com η = 2 e 2.000 épocas: 16 acertam o XOR, e 4 param com a perda perto de 0,126, respondendo 0,5 em duas entradas.

Limiar, aula 5: retropropagação

Semente é o número que fixa o sorteio dos pesos iniciais: vinte sementes, vinte sorteios. A figura treina a mesma rede, com a mesma taxa, η = 2, e as mesmas 2.000 épocas, a partir de 20 sorteios, as sementes de 0 a 19, e desenha a perda de cada treino, em escala logarítmica.

Dezesseis acertam o XOR. As outras quatro, as sementes 0, 10, 11 e 19, param num patamar, com a perda perto de 0,126: a rede acerta duas entradas e responde 0,5 nas outras duas, e mais épocas não mudam isso; o teste foi até 20 mil. Várias das que chegam passam um tempo no mesmo patamar antes de cair, como a que só cai perto da época 1.150.

Duas lições. O resultado de um treino depende do sorteio inicial, e um experimento só se refaz com a semente registrada: por isso o código guarda a semente, e a entrega também. E o gradiente descendente acha um caminho que desce, não necessariamente o fundo: numa perda com camadas, há regiões quase planas em que ele quase para.

Se o patamar é um mínimo local, um vale de onde não se sai descendo, é assunto com resultados diferentes na literatura. Hamey, em 1998, provou que a perda do XOR não tem mínimos locais. Sprinkhuizen-Kuyper e Boers, em 1999, mostraram que a perda da rede 2-2-1 do XOR tem regiões de mínimos locais com pontos de sela nas bordas, e que de todo ponto existe um caminho que desce até perda zero. A figura não decide a questão: mostra o que o gradiente descendente faz com esta rede, esta taxa e estas épocas.

4 · De onde vem

1986: Rumelhart, Hinton e Williams

“Em consequência dos ajustes dos pesos, unidades internas, ‘ocultas’, que não fazem parte da entrada nem da saída, passam a representar características importantes do domínio da tarefa.”

Rumelhart, Hinton e Williams, Nature, 9 de outubro de 1986, tradução livre

a retropropagação, em quatro páginas da Nature
a conta de trás para a frente é mais antiga: Linnainmaa, 1970; Werbos, 1974
Hinton dividiu o Nobel de Física de 2024 com John Hopfield

Paul Werbos fala ao microfone, atrás de uma tribuna, numa conferência em 1991

David Rumelhart fala ao microfone numa conferência, em 1991

Geoffrey Hinton, de perfil, numa palestra, em 2013

Da esquerda para a direita: Paul Werbos e David Rumelhart, em 1991, fotos de Rolf Kickuth, CC BY-SA 4.0; Geoffrey Hinton, em 2013, foto de Eviatar Bach, CC BY-SA 3.0. Wikimedia Commons.

Limiar, aula 5: retropropagação

Em 9 de outubro de 1986, David Rumelhart, Geoffrey Hinton e Ronald Williams publicaram na Nature, em quatro páginas, "Learning representations by back-propagating errors". O artigo descreve a retropropagação, back-propagation, para redes de unidades parecidas com neurônios: o procedimento ajusta os pesos repetidamente para diminuir a diferença entre a saída da rede e a saída desejada. A frase do slide é do resumo, em tradução livre: com os ajustes, as unidades ocultas, que não são entrada nem saída, passam a representar características importantes da tarefa. É o que o vídeo da camada oculta da aula 3 mostrou, com pesos à mão. O resumo termina dizendo que essa capacidade de criar características novas distingue a retropropagação de métodos anteriores, como a regra do perceptron.

A conta de trás para a frente é mais antiga. Seppo Linnainmaa a publicou em 1970, na dissertação de mestrado na Universidade de Helsinque, como o modo reverso da diferenciação automática, para funções encadeadas em geral. Paul Werbos, na primeira foto do slide, descreveu o treino de redes neurais pela retropropagação dos erros na tese de doutorado de 1974, em Harvard, e em 1982 a aplicou ao MLP do jeito que virou o padrão.

Geoffrey Hinton dividiu o Nobel de Física de 2024 com John Hopfield, como estava na aula 1.

As fotos são do Wikimedia Commons, da esquerda para a direita: Werbos e Rumelhart em 8 de julho de 1991, numa conferência internacional de redes neurais em Seattle, fotos de Rolf Kickuth, CC BY-SA 4.0; Hinton em 2013, na Universidade da Colúmbia Britânica, foto de Eviatar Bach, CC BY-SA 3.0. Não há foto de licença livre de Ronald Williams no Commons.

5 · O código

A retropropagação em NumPy, passo a passo

Os quatro exemplos do XOR e a semente que sorteia os pesos

A passada para a frente com a sigmoide, guardando a saída de cada camada

A retropropagação: o δ da saída, o δ de cada neurônio oculto, as nove derivadas

Cada derivada conferida pela derivada numérica, antes de treinar

O laço do gradiente descendente, guardando a perda de cada época

O NumPy que resolve

X @ W.T + b

1 / (1 + np.exp(-z))

s * (1 - s)

H.T @ delta

com X, os quatro exemplos de uma vez, um por linha

Limiar, aula 5: retropropagação

O código da aula fica pronto e testado antes: codigo/retropropagacao.py, a solução de referência da entrega, que não vai para a turma antes do prazo. Na tela, aparece só o que ele imprime.

Os passos dele são os da entrega: os quatro exemplos e a semente; a passada para a frente, guardando as saídas de cada camada; a retropropagação, com o δ da saída, o δ de cada neurônio oculto e as nove derivadas; a conferência pela derivada numérica; e o laço do gradiente descendente, guardando a perda de cada época.

Quatro peças do NumPy resolvem quase tudo. X @ W.T + b faz a camada oculta para os quatro exemplos de uma vez: cada linha de X é um exemplo, e W.T é a transposta de W, a matriz com linhas e colunas trocadas, que deixa o produto na forma certa. 1 / (1 + np.exp(-z)) é a sigmoide, posição por posição. s * (1 - s) é a derivada dela, a partir da saída s, já guardada. E H.T @ delta soma, nos exemplos, o δ vezes a entrada de cada peso da saída.

5 · O código

O que a entrega pede

À esquerda, a perda a cada época, que cai de 0,25 a 0,002; à direita, o plano das entradas com a região em que a rede responde 1, nos cantos de (0; 1) e de (1; 0)

O XOR treinado com a própria retropropagação, em NumPy, com as nove derivadas conferidas pela derivada numérica. A semente, a taxa e as épocas vão junto com o resultado.

Limiar, aula 5: retropropagação

A entrega é o XOR treinado com a própria retropropagação, em NumPy. A figura é a do código de referência, com a semente 1: à esquerda, a perda a cada época, em escala logarítmica; à direita, o que a rede responde no plano, com a fronteira y = 0,5.

O que conferir antes de entregar: as nove derivadas da retropropagação batem com a derivada numérica, em pesos sorteados; a perda cai, depois de um patamar perto de 0,25; e no fim a rede acerta as quatro entradas, lendo y ≥ 0,5 como 1. Se o treino parar perto de 0,126, a semente caiu num dos patamares do slide das sementes: outra semente resolve; mais épocas, não. A semente, a taxa e o número de épocas vão junto com o resultado, para o experimento se refazer.

Cada um escolhe a própria semente, a taxa e o número de épocas, e os números não precisam bater com os da figura. O que se pede é saber dizer o que entra, o que a rede aprende e o que significa o número que sai.

6 · Fechamento

Para estudar e entregar

Estudo

3Blue1Brown, redes neurais, capítulo 3
3Blue1Brown, redes neurais, capítulo 4
PyTorch, “Learn the Basics”

Entrega

o XOR treinado com a própria retropropagação, em NumPy
o gradiente conferido pela derivada numérica
uma pergunta sobre o estudo

A seguir

aula 6: o MNIST em NumPy, com treino, validação e teste
aula 7: o PyTorch faz a retropropagação sozinho

Limiar, aula 5: retropropagação

O estudo tem três partes. Os capítulos 3 e 4 da série sobre redes neurais do 3Blue1Brown, "Backpropagation, intuitively" e "Backpropagation calculus", ambos de 2017, com legenda e dublagem em português: o 3 mostra a ideia da retropropagação, e o 4, a mesma ideia com o cálculo, pela regra da cadeia. E o tutorial "Learn the Basics" do PyTorch, a biblioteca da aula 7, em oito partes: o começo rápido, os tensores, os conjuntos de dados, as transformações, o modelo, a diferenciação automática, o laço do treino e como salvar o modelo. O exemplo do tutorial usa o FashionMNIST, um conjunto de imagens de roupas.

A entrega: o XOR treinado com a própria retropropagação, em NumPy; o gradiente conferido pela derivada numérica; e uma pergunta sobre o estudo.

A seguir, a aula 6 treina um MLP com a mesma conta em 70 mil dígitos escritos à mão, o MNIST, separando treino, validação e teste; e a aula 7 passa para o PyTorch, que faz a retropropagação sozinho.