SIENA, NIPS-CERN, UFJF

Limiar

Redes neurais, do neurônio ao fractal

Aula 8: os dados do CERN, múons e massa invariante

04/12/2026. C∴ Chrysthofer A. A. Afonso

O interior do detector CMS aberto: chapas prateadas, uma rede verde, cabos azuis e estruturas vermelhas e laranja

O CMS aberto, no LHC, em 2019. Foto de Simon Waldherr, Wikimedia Commons, CC BY 4.0.

Limiar, aula 8: os dados do CERN

1 · Revisão

O que ficou das aulas 6 e 7, de memória

O que o autograd faz?

Por que o PyTorch deu o mesmo resultado que o NumPy?

O que acontece com o erro final depois do limiar?

Para que servem treino, validação e teste?

Limiar, aula 8: os dados do CERN

1 · Revisão

O fio do curso, da aula 1 à 10

O neurônio e o perceptron

um neurônio desenha uma reta, e nenhuma reta separa o XOR

25/09, presencial

Derivada e gradiente

o passo contra a derivada; a taxa grande demais faz o treino divergir

02/10, presencial

Matrizes e camadas

duas camadas separam o XOR, com pesos escolhidos à mão

13/11, on-line

O Jacobiano

a regra da cadeia com vetores, uma camada de cada vez

13/11, on-line

Retropropagação

a regra da cadeia, de trás para a frente, acha os pesos do XOR

13/11, on-line

O MNIST em NumPy

um MLP em 70 mil dígitos escritos à mão, com treino, validação e teste

27/11, on-line

PyTorch

a biblioteca faz a retropropagação; o erro final contra a taxa

27/11, on-line

Os dados do CERN

um MLP estima a massa dos dois múons, conferida pela fórmula

04/12, on-line

O fractal e o projeto

a fronteira entre a taxa que converge e a que diverge

04/12, on-line

A apresentação

a apresentação do projeto e a revisão do curso inteiro

11/12, on-line

Limiar, aula 8: os dados do CERN

2 · O LHC, o CMS e o múon

O LHC e o CMS

27 km

a circunferência do LHC, até 175 m abaixo da fronteira entre a França e a Suíça

14 mil t

o CMS, um dos dois detectores de uso geral do LHC: 21 m de comprimento, 15 m de diâmetro

7 TeV

a energia das colisões de prótons de 2010, o ano dos 100 mil eventos desta aula

Acelerador, no curso: a máquina que dá energia às partículas e as faz colidir. Detector: o instrumento que registra o que sai da colisão.

Limiar, aula 8: os dados do CERN

O LHC, o Grande Colisor de Hádrons, é o maior acelerador de partículas do mundo, num túnel de 27 km de circunferência, até 175 m abaixo da fronteira entre a França e a Suíça, perto de Genebra. Prótons dão voltas em sentidos opostos e colidem dentro dos detectores. Acelerador, no curso, é a máquina que dá energia às partículas e as faz colidir; detector é o instrumento que registra o que sai da colisão. Em 30 de março de 2010, o LHC fez as primeiras colisões de prótons a 7 TeV, 3,5 TeV em cada feixe; os eventos desta aula são desse ano.

O CMS, o Solenoide Compacto de Múons, é um dos dois grandes detectores de uso geral do LHC: 21 m de comprimento, 15 m de diâmetro, cerca de 14 mil toneladas. Como o nome diz, detectar múons é uma das tarefas mais importantes dele, e as câmaras de múons formam a camada mais de fora.

O NIPS-CERN trabalha no ATLAS, o outro detector de uso geral do LHC, e faz o CGVWeb, o visualizador tridimensional da geometria e dos eventos do ATLAS, que opera na sala de controle do experimento. Os dados desta aula são do CMS porque foram abertos ao público, com a licença CC0.

2 · O LHC, o CMS e o múon

O múon, um elétron 207 vezes mais pesado

105,66 MeV

a massa do múon

≈ 207 ×

a massa do elétron

−1

a carga, igual à do elétron; +1 no antimúon

eV, elétron-volt: a energia de um elétron numa diferença de potencial de 1 volt. MeV, um milhão de eV; GeV, um bilhão; TeV, um trilhão.

Limiar, aula 8: os dados do CERN

O múon é uma partícula elementar parecida com o elétron: tem a mesma carga, −1, ou +1 no antimúon. A diferença é a massa: 105,66 MeV, cerca de 207 vezes a do elétron. Partícula elementar, no curso, é uma que não se sabe dividir em partes menores. Antipartícula é a partícula de mesma massa e carga oposta.

O elétron-volt, eV, é uma unidade de energia: a energia que um elétron ganha ao passar por uma diferença de potencial de 1 volt. MeV é um milhão de eV, GeV um bilhão e TeV um trilhão. Na física de partículas, massa e momento também se medem em eV, nas unidades em que a velocidade da luz vale 1: é por isso que o arquivo dá tudo em GeV.

Os eventos do arquivo são colisões em que o CMS viu dois múons. Muitos vêm de uma partícula que viveu muito pouco e se desfez nos dois; é essa partícula que a massa invariante revela.

3 · Os dados e a massa invariante

O arquivo: 100.000 eventos com dois múons

coluna

o que é

Type

T, tracker muon; G, global muon

Run, Event

a corrida e o número do evento

a energia, em GeV

px, py, pz

as componentes do momento, em GeV

o momento transversal, perpendicular ao feixe

eta

a pseudorrapidez, que mede o ângulo com o feixe

phi

o ângulo em volta do feixe, em radianos

a carga

a massa invariante dos dois múons, em GeV

100.000

eventos, de 2 a 110 GeV

E, px, py, pz, pt, eta, phi e Q para cada múon, 1 e 2. Descrição do registro 303 do portal de dados abertos do CERN, CC0.

Limiar, aula 8: os dados do CERN

O registro 303 do portal de dados abertos do CERN, "Events with two muons from 2010", tem 100 mil eventos com dois múons cuja massa invariante fica entre 2 e 110 GeV, publicados em 2014 com a licença CC0. A página avisa que os dados são uma seleção para ensino e divulgação e não servem para uma análise física completa.

As colunas, como a página as descreve: Type, o tipo dos dois múons, combinações de T, tracker muon, e G, global muon, dois jeitos de o CMS reconhecer um múon; Run, a corrida, e Event, o número do evento. Para cada múon, 1 e 2: E, a energia; px, py e pz, as componentes do momento; pt, o momento transversal, perpendicular ao feixe; eta, a pseudorrapidez, uma medida do ângulo com o feixe; phi, o ângulo em volta do feixe, em radianos; e Q, a carga. Energia e momento estão em GeV. A última coluna, M, é a massa invariante dos dois múons, em GeV.

Nos 100 mil eventos, 60.062 são do tipo GT e 39.938 do tipo GG, e eles vêm de 3 corridas.

3 · Os dados e a massa invariante

pt, eta e phi: a direção do múon

De lado, o múon sai da colisão num ângulo com o feixe, e o momento se divide numa parte ao longo do feixe e outra perpendicular; um leque mostra as linhas de eta igual a 0, 1, 2 e 3, e a seta gira por elas. De frente, a seta do momento transversal gira em volta do feixe, com o ângulo phi

Limiar, aula 8: os dados do CERN

O vídeo mostra de onde vêm três colunas do arquivo: pt, eta e phi.

De lado, com o feixe na horizontal, o múon sai do ponto da colisão num ângulo θ com o feixe. O momento dele se divide em duas partes: p_z, ao longo do feixe, e p_T, o momento transversal, perpendicular ao feixe. Momento, no curso, é o vetor da quantidade de movimento, que aponta para onde a partícula vai; para uma partícula lenta, é a massa vezes a velocidade. Na mecânica, momento também quer dizer o momento de uma força, o torque; aqui, não.

A pseudorrapidez, η, é outro jeito de dar o ângulo θ: η = −ln tan(θ/2). Vale 0 quando o múon sai perpendicular ao feixe e cresce quando ele sai perto do feixe: θ = 40° dá η perto de 1, e θ = 15°, perto de 2. O leque do vídeo mostra as linhas de η = 0, 1, 2 e 3: passos iguais de η ficam cada vez mais juntos perto do feixe. Nesta aula, η é a pseudorrapidez, e não a taxa de aprendizado das aulas anteriores; a taxa, aqui, aparece só como lr, no código.

De frente, olhando ao longo do feixe, só se vê p_T, e o ângulo dele em volta do feixe é φ, em radianos: π rad são 180 graus.

As setas do vídeo são retas. No detector, o caminho do múon se curva no campo magnético, e quanto mais momento, menos curva: é assim que o CMS mede o momento. A seta é a direção do momento no ponto da colisão.

3 · Os dados e a massa invariante

Da direção ao momento

senh, o seno hiperbólico: (eˣ − e⁻ˣ)/2

O múon 1 do evento 3

pela conta

no arquivo

−0,2488

−0,24877

4,0834

4,08338

6,5251

6,52511

Com a massa do múon, 0,10566 GeV, a fórmula da massa bate com a coluna M nos 100 mil eventos.

Limiar, aula 8: os dados do CERN

Com p_T, η e φ, o momento sai inteiro. De frente, p_x = p_T cos φ e p_y = p_T sen φ: é a projeção do vetor nos dois eixos, como na trigonometria do ensino médio. Ao longo do feixe, p_z = p_T senh η, com senh, o seno hiperbólico: senh x = (eˣ − e⁻ˣ)/2.

A terceira linha é dedução feita a partir da definição de η. De lado, p_z/p_T = cos θ / sen θ. Com η = −ln tan(θ/2), vale eᶯ = 1/tan(θ/2), e a conta de senh η dá cos θ / sen θ. Por isso p_z = p_T senh η.

A energia vem de E² = | $\vec{p}$ |² + m², com m = 0,10566 GeV, a massa do múon.

O exemplo do slide é o múon 1 do evento 3 do arquivo: p_T = 4,09095, η = 1,24634 e φ = 1,63164. As contas dão p_x = −0,2488, p_y = 4,0834 e p_z = 6,5251, os números das colunas px1, py1 e pz1 até a quarta casa.

O arquivo traz as duas formas, E, px, py, pz e pt, eta, phi. Com a segunda e a massa do múon, a fórmula da massa reproduz a coluna M nos 100 mil eventos, como mostra o slide da conferência.

3 · Os dados e a massa invariante

A massa invariante

|p|, o módulo: o tamanho do vetor momento

Energia, momento e massa em GeV, com a velocidade da luz igual a 1.

Massa invariante: a massa da partícula que se desfez nos dois múons. Não depende de quem mede.

Limiar, aula 8: os dados do CERN

A massa invariante dos dois múons é a massa da partícula que teria se desfeito neles. Pela relatividade especial, a energia E e o momento $\vec{p}$ de uma partícula de massa m obedecem a E² = | $\vec{p}$ |² + m², nas unidades em que a velocidade da luz vale 1. Somando os dois múons, energia com energia e momento com momento, a massa do par sai de M² = (E₁ + E₂)² − | $\vec{p}$ ₁ + $\vec{p}$ ₂|².

Invariante, aqui, quer dizer que o número não depende de quem mede: energia e momento mudam de um referencial para outro, a massa não. Fora da física, invariante é o que não muda numa transformação, e é esse o sentido.

Se os dois múons vieram mesmo de uma partícula, M é a massa dela. Se não vieram, M é só um número, e esses eventos formam o fundo liso do histograma.

3 · Os dados e a massa invariante

Um evento, à mão: o evento 3 do arquivo

múon 1

7,70222

−0,24877

4,08338

6,52511

múon 2

6,90202

−3,02439

3,75129

4,94041

soma

14,60424

−3,27316

7,83467

11,46552

Energia e momento em GeV. O momento se soma componente a componente.

A coluna M diz 3,11929. A massa sai da diferença de dois números grandes.

Limiar, aula 8: os dados do CERN

A conta de um evento inteiro, o 3 do arquivo, um par de múons de cargas opostas.

Primeiro, as somas: E₁ + E₂ = 7,70222 + 6,90202 = 14,60424 GeV. O momento se soma componente a componente: p_x = −0,24877 − 3,02439 = −3,27316; p_y = 4,08338 + 3,75129 = 7,83467; p_z = 6,52511 + 4,94041 = 11,46552.

Depois, os quadrados: (E₁ + E₂)² = 213,284 e | $\vec{p}$ ₁ + $\vec{p}$ ₂|² = 3,27316² + 7,83467² + 11,46552² = 203,554.

Por fim, M² = 213,284 − 203,554 = 9,730, e M = 3,119 GeV. A coluna M do arquivo diz 3,11929: confere.

O número cai no pico do J/ψ. Um evento sozinho, porém, não diz se veio de um J/ψ ou do fundo: só o histograma, com muitos eventos, mostra o excesso.

A conta tem um detalhe que volta no fim da aula: a massa sai da diferença de dois números grandes, 213 menos 204. Um erro de 1% em (E₁ + E₂)², 2,1 unidades, mudaria M² em mais de 20%, e M em cerca de 10%. Quem aprende a conta por exemplos, como a rede, sente esse detalhe.

3 · Os dados e a massa invariante

A massa não depende de quem mede

Um J/psi parado se desfaz em dois múons, um para cada lado; ao lado, as duas energias, o tamanho da soma dos momentos e a massa, 3,097 GeV. O J/psi passa a andar, as setas e as energias mudam, e a massa continua 3,097; os múons saem em outro ângulo, e a massa é a mesma

Limiar, aula 8: os dados do CERN

O vídeo mostra o que quer dizer invariante. Com o J/ψ parado, os dois múons saem em sentidos opostos, cada um com metade da energia, 1,548 GeV, e momento de 1,545 GeV; a soma dos momentos é zero, e a massa é a soma das energias, 3,097 GeV.

Quando o J/ψ anda, com momento de 9 GeV, as energias dos múons mudam muito: uma vai a 7,00 GeV e a outra cai para 2,51 GeV, e a soma dos momentos passa a ser 9 GeV. A massa continua 3,097. Muda o ângulo em que os múons saem, e a massa continua a mesma.

As contas do vídeo são a transformação de Lorentz, a regra da relatividade especial que diz como a energia e o momento mudam de um referencial para outro. Ela fica como caixa-preta: entram a energia e o momento medidos por um observador e a velocidade de outro, e saem a energia e o momento que o outro mede. Não se abre aqui porque o curso só precisa do resultado: M não muda.

No CMS, cada J/ψ sai da colisão com um momento diferente. Se a massa dependesse disso, os J/ψ se espalhariam por todo o histograma; como não depende, todos caem no mesmo lugar, e o pico aparece.

3 · Os dados e a massa invariante

A fórmula confere com o arquivo, quase sempre

99,6%

dos eventos: a fórmula, com E e p do arquivo, bate com a coluna M

413

eventos em que a energia de um múon não combina com o momento

100%

com pt, eta e phi, a fórmula bate em todos

Num dos 413, um múon tem 184 mil GeV: 26 vezes os 7 mil GeV da colisão inteira.

Bater, aqui: diferença relativa menor que 0,1%. Dado real se confere antes de usar.

Limiar, aula 8: os dados do CERN

Antes de usar a coluna M, a fórmula confere. Com a energia e o momento do próprio arquivo, a fórmula reproduz a coluna M em 99,6% dos eventos, com diferença relativa menor que 0,1%. Em 413 eventos, não: num deles, a fórmula dá 247 GeV e a coluna, 56. Em outro, a energia de um múon é de 184 mil GeV, 26 vezes os 7 mil GeV da colisão inteira em 2010: um número impossível.

A causa, que é dedução tirada dos próprios dados: a coluna M foi calculada com pt, eta e phi, e a energia refeita pela massa do múon. Refeita assim, a fórmula bate em todos os 100 mil eventos. Nos 413, a energia de um dos múons não combina com o momento dele. A página do registro não diz como M foi calculada.

A lição vale para o projeto inteiro: dado real se confere antes de usar, e uma diferença em 0,4% dos eventos só aparece para quem conta.

3 · Os dados e a massa invariante

Do evento ao histograma

Três eventos do arquivo, um a um, com a conta da massa; cada massa vira um quadrado que cai na sua faixa. Depois, quarenta eventos depressa, e o histograma com 500, 2 mil, 10 mil, 30 mil e 100 mil eventos, com os nomes J/psi, Upsilon e Z sobre os picos

Limiar, aula 8: os dados do CERN

O vídeo mostra o caminho do evento ao histograma. Primeiro, três eventos do arquivo, um a um: o quadrado da soma das energias, o da soma dos momentos e a conta da massa; o número vira um quadrado que cai na faixa da sua massa. Os três foram escolhidos por caírem perto dos três picos: o evento 3, o primeiro do arquivo perto do J/ψ; o 48, o primeiro perto do Υ; o 2.103, o primeiro perto do Z. Na tela, a conta usa os quadrados com duas casas, como no slide da conta à mão, e confere com a coluna M até a terceira casa.

Depois, os 40 primeiros eventos do arquivo caem depressa, e as pilhas ainda não dizem nada. Com milhares de eventos, os quadrados viram barras, e a altura passa a ser contada em escala logarítmica: cada marca vale dez vezes a de baixo, para o fundo de milhares e o Z de dezenas caberem no mesmo desenho. O histograma se enche com 500, 2 mil, 10 mil, 30 mil e 100 mil eventos. Com 500, só ruído; com 10 mil, o J/ψ e o Υ; com 100 mil, até o Z se destaca.

É a razão de a física de partículas precisar de tantos eventos: um pico raro só aparece quando há eventos bastantes para ele se separar do fundo.

3 · Os dados e a massa invariante

Os picos são partículas

O histograma da massa invariante dos 100 mil eventos, de 2 a 110 GeV, com um fundo que cai e três picos marcados: J/ψ em 3,0969 GeV, Υ em 9,46 GeV e Z em 91,188 GeV

Sobre o fundo liso, três picos: o J/ψ, o Υ e o Z, cada um uma partícula que se desfez em dois múons.

Limiar, aula 8: os dados do CERN

O histograma conta quantos eventos caem em cada faixa de massa. As faixas são 300, iguais em escala logarítmica, de 2 a 110 GeV, e o eixo vertical também é logarítmico: o fundo cai de milhares para dezenas de eventos por faixa.

Sobre o fundo liso aparecem picos: massas em que há muito mais eventos do que o fundo explicaria. Cada pico é uma partícula que se desfez em dois múons. O mais alto, perto de 3,1 GeV, é o J/ψ, com massa de 3,0969 GeV; perto de 9,5 GeV, o Υ, o upsilon, com 9,46 GeV; perto de 91 GeV, o Z, com 91,1880 GeV. As massas são as da Wikipedia, que cita o Particle Data Group, a colaboração que reúne as medidas da física de partículas. Outros picos menores aparecem no histograma, e ficam de fora da aula.

O pico não é uma linha fina: tem largura, e o slide seguinte mostra de onde ela vem.

3 · Os dados e a massa invariante

Os picos de perto

Os picos do J/ψ, de 2,8 a 3,4 GeV, e do Υ, de 8,8 a 10,6 GeV, em escala linear, com o fundo por baixo; uma seta laranja marca a largura do J/ψ à meia altura, 67 MeV

O pico do J/ψ tem 67 MeV à meia altura. O J/ψ em si tem 93 keV: o resto é o erro de medida do detector.

Limiar, aula 8: os dados do CERN

De perto e em escala linear: o pico do J/ψ, em faixas de 10 MeV, e o do Υ, em faixas de 25 MeV. O fundo segue por baixo dos dois picos; no Υ, o fundo é alto, e o pico sobe só uns 100 eventos por faixa acima dele.

A seta mede a largura do pico do J/ψ à meia altura, descontado o fundo: 67 MeV. É uma conta simples, feita em codigo/figuras_slides.py, sem ajuste de curva. A largura natural do J/ψ, a que ele teria com um detector perfeito, é de 93 keV, mais de 700 vezes menor. Quase toda a largura do pico vem do erro de medida do detector, no momento de cada múon.

A largura natural e o tempo de vida são a mesma informação: a largura natural de 93 keV corresponde a uma vida de uns 7 × 10⁻²¹ s, e quanto menos a partícula vive, mais largo o pico.

Perto de 10 GeV, à direita do Υ, há um excesso menor, que fica de fora da aula.

4 · De onde vem

O que é cada pico

J/ψ

3,0969 GeV

um quark charm e um antiquark charm

vive cerca de

9,46 GeV

um quark bottom e o seu antiquark

vive cerca de

91,188 GeV

carrega a força fraca
sem carga elétrica

vive cerca de

Méson: um quark e um antiquark. Nenhuma das três chega ao detector: o CMS vê os múons, e a massa invariante mostra a partícula.

Limiar, aula 8: os dados do CERN

O que é cada pico, em uma linha. O J/ψ é um méson, uma partícula feita de um quark e um antiquark, unidos pela força forte: um quark charm e um antiquark charm. Vive 7,2 × 10⁻²¹ s. O Υ é um quark bottom e o seu antiquark, e vive 1,21 × 10⁻²⁰ s. O Z é uma das partículas que carregam a força fraca, a interação responsável pelo decaimento beta, um tipo de radioatividade; não tem carga, é a sua própria antipartícula e vive cerca de 3 × 10⁻²⁵ s.

Quark, no curso, é a partícula elementar que forma os prótons e os nêutrons; nunca aparece sozinho, só dentro de partículas compostas, como os mésons. Charm e bottom são dois dos seis tipos de quark.

Nenhuma das três chega ao detector: as três se desfazem antes, e o CMS vê os múons. A massa invariante é o jeito de ver a partícula que não se vê.

Os fatos vêm da Wikipedia em inglês, verbetes "J/psi meson", "Upsilon meson", "W and Z bosons", "Meson", "Quark" e "Weak interaction".

4 · De onde vem

Três picos, três descobertas

1974

O J/ψ, descoberto ao mesmo tempo no SLAC, por Burton Richter, e em Brookhaven, por Samuel Ting.

1977

O Υ, pelo experimento E288 de Leon Lederman, no Fermilab, em pares de múons.

1983

O Z, no CERN, pelos experimentos UA1 e UA2, no colisor SPS.

Fontes: Wikipedia, verbetes “J/psi meson”, “Upsilon meson” e “W and Z bosons”.

Limiar, aula 8: os dados do CERN

Três descobertas, as três vistas em pares de léptons, a família do elétron e do múon.

1974: o J/ψ foi descoberto por dois grupos, independentemente: um no SLAC, o Centro do Acelerador Linear de Stanford, chefiado por Burton Richter, e outro no Laboratório Nacional de Brookhaven, chefiado por Samuel Ting. Os dois anunciaram em 11 de novembro de 1974, e por isso a partícula tem dois nomes, J e ψ. Richter e Ting dividiram o Nobel de Física de 1976. Os dois artigos estão no estudo da aula 7.

1977: o Υ foi descoberto pela equipe do experimento E288, chefiada por Leon Lederman, no Fermilab, já no modo de dois múons.

1983: o Z foi visto no CERN, no colisor SPS, pelos experimentos UA1 e UA2; o UA1 era liderado por Carlo Rubbia, e o UA2, por Pierre Darriulat. O artigo do UA1 sobre pares de léptons perto de 95 GeV está na referência da história do README.

Os fatos vêm da Wikipedia em inglês, verbetes "J/psi meson", "Upsilon meson" e "W and Z bosons".

5 · Uma rede aprende a fórmula?

Uma rede aprende a fórmula?

Oito números entram, a energia e o momento de cada múon. Sai a massa. A rede não conhece a fórmula.

Limiar, aula 8: os dados do CERN

5 · Uma rede aprende a fórmula?

A rede: oito entradas, uma saída

asinh, o arco seno hiperbólico: comprime os números grandes como um logaritmo, sem perder o sinal

O treino

80 mil eventos no treino, 10 mil na validação, 10 mil no teste
o Adam, taxa 0,001, lotes de 256, 100 épocas

A compressão, em 30 épocas

10,6% → 3,4%

o erro mediano na validação, sem e com o asinh

Limiar, aula 8: os dados do CERN

A rede tem oito entradas, duas camadas ocultas de 256 neurônios com a tanh e uma saída. Os eventos se dividem como na aula 6: 80 mil para o treino, 10 mil para a validação e 10 mil para o teste, sorteados com a semente 0. O treino usa o Adam, com taxa 0,001, em lotes de 256, por 100 épocas, e a perda é o erro quadrático médio da aula 2.

Dois cuidados com os números. Nos eventos em que a fórmula confere, a energia de um múon vai de 2,5 GeV a quase 900 GeV, com mediana de 9; sem cuidado, os valores grandes saturam a tanh. Cada entrada passa por asinh(x/5), o arco seno hiperbólico, que trata os números pequenos quase em proporção, como x/5, e comprime os grandes como um logaritmo, sem perder o sinal; depois é padronizada pelo treino. E a rede aprende o logaritmo da massa, ln M, que vai de ln 2 a ln 110, uma faixa estreita.

A compressão fez diferença: em 30 épocas, o erro mediano na validação caiu de 10,6% sem ela para 3,4% com ela. Isso foi medido no laptop do professor, antes de fixar a configuração.

5 · Uma rede aprende a fórmula?

A compressão das entradas

A energia do múon 1 em 300 eventos, numa linha de 0 a 350 GeV: quase todos os pontos perto do zero. Cada ponto desce para a linha de baixo, a do asinh, e se espalha; um leque liga cada valor de cima à sua posição embaixo

Limiar, aula 8: os dados do CERN

O vídeo mostra a compressão em 300 eventos, os primeiros do arquivo, com a energia do múon 1. Na linha de cima, em GeV, de 0 a 350, quase todos os pontos se amontoam perto do zero: a metade fica abaixo de 13,5 GeV, em 4% da linha, e uns poucos passam de 100.

Depois de asinh(E₁/5), na linha de baixo, a mesma metade ocupa 34% da linha. O leque final liga cada valor à sua imagem: os primeiros 50 GeV ganham 60% da linha de baixo, e os 300 seguintes ficam com o resto.

Perto de zero, asinh(x/5) é quase x/5, uma reta; longe, cresce como o logaritmo, ln(2x/5). Para a rede, números de escalas muito diferentes viram números de uma escala só, e a tanh das camadas não satura. asinh é a função inversa do seno hiperbólico: asinh(x) = ln(x + √(x² + 1)). O logaritmo puro não serviria, porque px, py e pz podem ser negativos; o asinh aceita os dois sinais.

5 · Uma rede aprende a fórmula?

Padronizar, e o logaritmo da massa

≈, aproximadamente igual

μ e σ, a média e o desvio padrão, só do treino

Padronizar

cada entrada com média 0 e desvio 1
a média e o desvio vêm só do treino
o teste não ensina nada à rede

Por que ln M

M vai de 2 a 110; ln M, de 0,69 a 4,70
o erro quadrático em ln M cobra o erro em porcentagem

Limiar, aula 8: os dados do CERN

Depois da compressão, cada uma das oito entradas é padronizada: menos a média e dividida pelo desvio padrão, μ e σ, os dois calculados só no treino. Padronizar, no curso, é levar uma coluna a média 0 e desvio 1. O teste não entra nessas contas: o que vem do teste ensinaria alguma coisa à rede, e a medida final deixaria de ser honesta.

A saída não é M, e sim ln M, o logaritmo natural da massa, também padronizado. Duas razões. A faixa: M vai de 2 a 110, um fator de 55; ln M vai de 0,69 a 4,70. E o erro: para erros pequenos, ln M_rede − ln M é quase o erro relativo, (M_rede − M)/M, porque ln(1 + u) é quase u para u pequeno. Com o erro quadrático médio sobre ln M, a rede é cobrada pelo erro em porcentagem: errar 0,1 GeV num J/ψ de 3,1 pesa como errar 3 GeV num Z de 91.

O exemplo do slide: M = 3,10 e a rede dá 3,16. A diferença dos logaritmos é 0,0192, e o erro relativo é 0,0194, quase o mesmo número.

Sem o logaritmo, o erro quadrático médio sobre M seria dominado pelos eventos de massa grande, onde um erro de 2% são 2 GeV, e o J/ψ, com erros de centésimos, quase não pesaria.

5 · Uma rede aprende a fórmula?

A curva do treino

O erro relativo mediano no treino e na validação, em escala logarítmica, ao longo de 100 épocas: as duas curvas descem juntas de 13% para cerca de 2%, com dentes, e uma linha tracejada marca a época 80

Treino e validação descem juntos: a rede não decora. A melhor época pela validação é a 80, com 1,91%.

Limiar, aula 8: os dados do CERN

A curva do treino: o erro relativo mediano no treino, em azul com círculos, e na validação, em laranja com quadrados, época a época, em escala logarítmica.

As duas descem juntas, de 13% na primeira época para cerca de 2%. Quase não se separam: a rede não decora o treino. Quando o treino fica bem melhor que a validação, a rede decorou os exemplos, o sobreajuste da aula 6; com 80 mil eventos e 68 mil pesos, isso não acontece aqui.

A curva tem dentes: com o Adam e lotes de 256, cada época termina num ponto um pouco diferente, e o erro sobe e desce de uma para a outra. Por isso a última época não é a escolhida. A melhor pela validação é a 80, com 1,91%, e os pesos dela são os que vão para o teste. O treino inteiro, 100 épocas, levou 37 segundos no laptop do professor.

Os 68 mil pesos: 8 × 256 + 256 na primeira camada, 256 × 256 + 256 na segunda e 256 + 1 na saída, 68.353 ao todo.

5 · Uma rede aprende a fórmula?

O treino, época a época

Dois mil eventos do teste, a massa da rede contra a da fórmula, em escala logarítmica. Antes do treino, uma faixa horizontal perto de 6 GeV; época a época, os pontos vão para a diagonal, e o erro mediano cai de 61% para 1,9% na época 80

Limiar, aula 8: os dados do CERN

O vídeo mostra a rede aprendendo em 2 mil eventos do teste, os mesmos em todas as épocas. Cada ponto é um evento: a massa pela fórmula no eixo horizontal e a da rede no vertical, os dois em escala logarítmica. Onde a rede acerta, o ponto fica na diagonal tracejada.

Antes do treino, com os pesos sorteados, a rede dá entre 5,1 e 8,0 GeV a todos os eventos: os pontos formam uma faixa horizontal, e o erro mediano é de 61%. Depois de uma época, os pontos já seguem a diagonal, com erro de 14%; na época 10, 4,6%; na 80, 1,9%. A nuvem aperta, e os picos viram manchas sobre a diagonal: o J/ψ perto de 3, o Υ perto de 9,5 e o Z perto de 91.

Os retratos das oito épocas, 0, 1, 2, 5, 10, 20, 40 e 80, foram gravados por mlp_massa.py sem mudar o treino: a rede só é avaliada, sem gradiente e sem sorteio, e o resultado do teste é o mesmo com e sem eles.

5 · Uma rede aprende a fórmula?

A rede contra a fórmula

À esquerda, a massa da rede contra a da fórmula, um ponto por evento do teste, em volta da diagonal; à direita, os dois histogramas do teste, com os picos nos dois

No teste: erro relativo mediano de 1,88%, e 90% dos eventos abaixo de 5,26%. A fórmula erra em milionésimos.

Limiar, aula 8: os dados do CERN

5 · Uma rede aprende a fórmula?

Onde a rede erra

À esquerda, o pico do J/ψ no teste: pela fórmula, alto e estreito; pela rede, mais baixo, mais largo e um pouco à esquerda. À direita, o erro mediano da rede por faixa de massa, perto de 2% em quase todas e 3% no Z, com 46 eventos

A rede borra o pico do J/ψ e erra mais no Z, onde há poucos exemplos: 364 no treino.

Limiar, aula 8: os dados do CERN

Onde a rede erra. À esquerda, o pico do J/ψ no teste, em faixas de 20 MeV: pela fórmula, em azul, alto e estreito; pela rede, em laranja tracejado, mais baixo, mais largo e um pouco à esquerda. Nos 660 eventos do teste com a massa entre 3,05 e 3,15 GeV, a rede dá, na mediana, 0,9% a menos que a fórmula. Um erro de 2% numa massa de 3,1 GeV são 60 MeV, quase a largura inteira do pico, 67 MeV: a rede borra o pico que o detector mediu.

À direita, o erro mediano da rede em cada faixa de massa, com o número de eventos do teste em cima da barra. Fica entre 1,8% e 2,1% em quase todas. No Z, de 80 a 100 GeV, sobe a 3,0%, com só 46 eventos no teste e 364 no treino, menos de 0,5% dos exemplos. A leitura, que é dedução: onde há poucos exemplos, a rede aprende menos. Com 46 eventos, o número do Z é o menos firme da figura.

Para melhorar a rede no Z, há dois caminhos: mais eventos de massa alta, ou dar a esses eventos mais peso na perda. Os dois ficam como extra da entrega.

6 · O código

Os dados do CMS, passo a passo

dimuon.py lê o arquivo e calcula a fórmula pelos dois caminhos

O histograma, com faixas iguais em escala logarítmica

mlp_massa.py comprime as entradas e treina a rede

A melhor época pela validação, e o teste uma vez

Os números em resultados/massa.json, para as figuras

O NumPy que resolve

np.sqrt((E1 + E2)**2

- (px1 + px2)**2

- (py1 + py2)**2

- (pz1 + pz2)**2)

np.histogram(M, bins=bordas)

np.arcsinh(X / 5)

Limiar, aula 8: os dados do CERN

6 · O código

O treino em PyTorch

mlp_massa.py, o laço do treino

modelo = rede()

opt = torch.optim.Adam(modelo.parameters(), lr=1e-3)

perda_fn = torch.nn.MSELoss()

for epoca in range(1, 101):

ordem = tre[rng.permutation(len(tre))]

for k in range(0, len(ordem), 256):

i = torch.from_numpy(ordem[k:k + 256])

opt.zero_grad()

perda = perda_fn(modelo(Xp[i]), yp[i])

perda.backward()

opt.step()

zero_grad() zera as derivadas do lote anterior

A passada para a frente e a perda, o erro quadrático em ln M

backward(): a retropropagação da aula 5, sozinha

step(): o passo do Adam em cada peso

Limiar, aula 8: os dados do CERN

O treino em PyTorch é o da aula 7, com outra rede e outra perda. modelo = rede() monta as camadas; torch.optim.Adam recebe os pesos do modelo e a taxa, lr=1e-3; torch.nn.MSELoss() é o erro quadrático médio, a perda de quem estima um número.

A cada época, os índices do treino se embaralham numa ordem nova, sorteada por um gerador com semente fixa, e andam de 256 em 256. Para cada lote, quatro linhas: opt.zero_grad() zera as derivadas do lote anterior, que o PyTorch acumularia; perda_fn(modelo(Xp[i]), yp[i]) faz a passada para a frente e mede a perda; perda.backward() faz a retropropagação, a da aula 5, sozinha; opt.step() dá o passo do Adam em cada peso.

No fim de cada época, o erro no treino e na validação; se a validação melhorou, os pesos são copiados. No fim, os pesos da melhor época voltam ao modelo, e o teste é medido uma vez.

Xp e yp são as entradas e a saída já comprimidas e padronizadas, como tensores, e i é o lote de índices.

6 · O código

O que a entrega pede

O histograma

a massa dos 100 mil eventos
os picos com o nome e a massa de cada partícula

A rede

um teste separado antes do treino
o erro relativo mediano contra a fórmula
uma figura que compare as duas

Entrega

o histograma e o erro da rede
uma pergunta sobre o estudo

Extra, opcional: outras entradas, como pt, eta e phi, ou um erro menor no Z.

Limiar, aula 8: os dados do CERN

7 · Fechamento

Para estudar e entregar

Estudo

3Blue1Brown, “Fractals are typically not self-similar”, 2017
Sohl-Dickstein, “Neural network training makes beautiful fractals”, 2024

Entrega

o histograma com os picos identificados
o erro da rede contra a fórmula
uma pergunta sobre o estudo

A seguir

aula 9: o fractal da taxa e o projeto
aula 10: a apresentação e a revisão

Limiar, aula 8: os dados do CERN