Limiar · Class 9

O fractal, pincelado, e o projeto

  • WhenSexta, 04/12/2026, das 12h às 14h
  • WhereOn-line, no encontro 3
  • Taught byChrysthofer A. A. Afonso

In the slides: → moves on, F is full screen, N shows the notes, H lists every key. The PDF has no notes: it is the one handed to the class.

The class

Topic

Fractal, em poucas palavras: uma figura com detalhe em qualquer escala; o nome vem do latim fractus, quebrado, e foi criado por Benoit Mandelbrot em 1975. Treinar uma rede é repetir uma conta, e a fronteira entre o treino que converge e o que diverge pode ser fractal. O projeto final, feito junto pela turma, em cinco etapas: a conferência da rede, a varredura das taxas, as imagens, o zoom na fronteira e a história dos dados para a apresentação.

A aula parte da conta x ← x² + c, repetida a partir de 0: para uns c o número fica perto, para outros foge, e no plano a fronteira é o conjunto de Mandelbrot. O passo do gradiente descendente é a mesma coisa com muitos números, e cada par de taxas, uma por camada, é um ponto do plano e um treino inteiro. A rede do projeto, com 72 eventos do CMS, desenha um mapa cuja fronteira continua cheia de detalhe depois de 1.024 vezes de aumento, com dimensão perto de 1,6 pela contagem de caixas. A rede da aula 7 também vai ao plano, e a faixa irregular dela se explica: a perda oscila sem se assentar, e o passo 200 pega cada treino num ponto da oscilação.

Practice in class

Uma varredura pequena no laptop de cada um. A janela grande roda no PC do laboratório, e o zoom na fronteira sai dela.

AssignmentDue

  • As imagens finais e a apresentação pronta.

Study for the week

Preparar a apresentação.

Jascha Sohl-Dickstein, 2024, "The boundary of neural network trainability is fractal", arXiv:2402.06184, três páginas, para a apresentação citar o método.

Papers and books

Every work cited in the class material, with the official link. The first page appears where the PDF is open access.

  1. The boundary of neural network trainability is fractal

    Jascha Sohl-Dickstein · 2024

    arXiv:2402.06184; CC BY 4.0

  2. Mémoire sur l'itération des fonctions rationnelles

    Gaston Julia · 1918

    Journal de Mathématiques Pures et Appliquées, série 8, tomo 1, 47-245

Other sources 3

Image credits

Arquivo O que mostra Autor Licença
artigo-tanh.png a figura 1 do artigo, a rede com a tanh e o lote completo, dimensão 1,66; do HTML do arXiv, versão 1 Jascha Sohl-Dickstein CC BY 4.0
romanesco.jpg uma couve romanesca, na capa; arquivo "Romanesco broccoli (Brassica oleracea).jpg", Wikimedia Commons, foto de 03/01/2021, reduzida a 1.500 por 1.200 pixels Ivar Leidus CC BY-SA 4.0
fiordes.jpg os fiordes de Nordmøre e Romsdal, na Noruega, no slide do fractal; arquivo "Kysten av Romsdal og Nordmøre 8.01767E 63.02936N.png", Wikimedia Commons, tirado do NASA World Wind NASA, imagem do Landsat domínio público

As outras imagens saem do código desta pasta. O Buddhabrot, a capa da aula 1, esteve no slide do fractal até 08/11/2026; saiu para nenhuma imagem se repetir no curso.