25:null 26:["$","title",null,{"children":"Entendendo o t-SNE | Roberto Stelling | Observable"}] 2b:T8f1,tsneProblema = md `# Visualizando dados de altas dimensões #### *Problema*: Dado um conjunto de pontos em altas dimensões, como podemos ter uma ideia de como os pontos estão organizados no espaço?

Representar dados de altas dimensões em *2D* ou *3D*, independente de como estão organizados, é um problema que não possui uma solução única e que funcione em todas as situações. Os dados podem estar organizados de várias formas distintas em altas dimensões e cada contexto dos dados pode sugerir uma forma diferente de projetá-los em duas ou tres dimensões. Ou seja, dependendo do *objetivo* da agregação e do seu *contexto* é provável que exista ***mais de uma projeção adequada*** para o mesmo conjuntos de pontos. De uma certa forma, reduzir dados de altas dimensões para duas ou tres dimensões é **um problema mal definido**, ou seja, um problema que não possui uma solução ótima. Para alguns problemas pode ser possível reduzir a dimensionalidade "manualmente", sem depender de um algoritmo genérico. Por exemplo, os dígitos do MNIST[¹](#ref), de 28x28 pixels, que totalizam 784 pixels - ou *784 dimensões* -, podem ser visualizados em duas dimensões se criarmos dois novos "*atributos*" - ou *dimensões* - que expressam o conjunto de dados, como por exemplo: densidade e simetria (Yasser Abu-Mostafa[²²](#ref)). Com estas duas dimensões é possível criar uma visualização planar de todos os dígitos 1 e 5 do conjunto de dados, como no gráfico abaixo, onde os dígitos 1 estão representados com pontos brancos e os dígitos 5 com pontos pretos.

Sobre estas novas dimensões, podemos gerar uma linha de corte entre os dígitos 1 e 5 que nos permitiria identificar se um novo dígito é 1 ou 5. É importante perceber que esse atributos de *densidade* e *simetria*, como definidos para o MNIST, não foram suficientes para diferenciar completamente os dígitos 1 dos dígitos 5 já que há alguns pontos pretos abaixo da linha divisória e alguns pontos brancos acima.

`2c:T4da,md `# Por que não há uma solução ótima? Antes de seguirmos adiante, é importante discutir um pouco para perceber por quê não há uma solução ótima para o problema de reduzir pontos de altas dimesões para poucas dimensões. Para mostrar a dificuldade de encontrar uma solução única e ótima vamos examinar algumas alternativas de redução de 2 dimensões para 1 dimensão, em conjuntos de dados criados manualmente. Em primeiro lugar, como podemos reduzir dados de duas (${tex `x`} e ${tex `y`}) dimensões para uma dimensão (${tex `x`})? Vejamos algumas alternativas (desde ingênuas a outras mais complexas): 1. Considerar apenas o eixo ${tex `x`} 2. Considerar apenas o eixo ${tex `y`} 3. Projetar os pontos sobre uma reta 4. Realizar transformações lineares sobre os pontos ao projetar sobre uma reta 3. Considerar a distância euclideana entre os pontos, projetar pontos próximos em altas dimensões para pontos próximos em baixas dimensões 3. Reduzir a dimensionalidade dos pontos, com algoritmos como SVG, PCA ou *t*-SNE Nos exemplos abaixo vamos ver as opçoes 1 e 2, ver o que seria uma projeção ideal e discutir como essa projeção ideal pode ser alcançada, dado que ***conhecemos os dados originais***.`2d:T563,md `Veja que outros fatores de ajuste permitem separar os pontos em uma projeção diferente. Altere o fator de ajuste, com o controle deslizante, e veja como a projeção se comporta. Um valor por volta de ${tex `0.6`} gera outra projeção que separa os pontos dos 4 grupos, perceba que a ordem dos grupos na projeção com ${tex `0.6`} é diferente da ordem com fator igual a ${tex `-1.5`}. Com o fator igual a ${tex `0.0`}, temos o mesmo resultado que projetar os pontos sobre o eixo ${tex `x`}. #### Para pensar: - Que outro fator de ajuste permite separar esses pontos? - Qual o "*significado*" dos valores no eixo ${tex `x`} da projeção em relação aos pontos originais? - Qual o "*significado*" das distâncias entre os pontos na projeção? - Qual o "*significado*" da ordem dos pontos no eixo ${tex `x`} projetado? - No nosso caso temos uma projeção de 3D para 2D com uma tranformação linear. Pergunta: Sempre existe uma transformação linear para projetar dados de 3D para 2D separando os grupos corretamente? A projeção resultante depende do parâmetro *fator*. Um ponto em uma determinada coordenada ${tex `(x, y)`} do espaço original **sempre** será projetado para a mesma posição no eixo ${tex `x`} da projeção resultante. Quando isso acontece dizemos que a projeção é *paramétrica* (ou seja, pode ser reproduzida e depende de um parâmetro).`2e:T424,md `Para isso, *achatamos* os dados deslocando os pontos azuis um pouco para a direita e os pontos vermelhos um pouco para esquerda no eixo ${tex `x`}, o suficiente para separar os dois grupos quando os dados são projetados em uma dimensão! Na projeção acima usamos a transformação:${tex.block `x = (p.x + grupo_p*${multiplicador}) - (${deslocamento})`} Onde ${tex `grupo = 0`} para o grupo de pontos vermelhos e ${tex `grupo = 1`} para o grupo de pontos azuis. Note que ignoramos completamente a coordenada ${tex `y`} dos pontos ao fazer a projeção e **utilizamos o grupo** dos pontos, o que seria impossível em um algoritmo genérico, porque a divisão entre os grupos é exatamente a informação que queremos descobrir em um algoritmo não supervisionado (quando não temos as etiquetas de cada ponto do conjunto de dados). #### Para pensar: - Que característica(s) desde dataset torna difícil a separação dos grupos por um processo simples de transformação linear? - O que há em comum entre os pontos vermelhos e entre os pontos azuis?`2f:T5d9,md`Para abordar o problema de *visualização* de dados em altas dimensões, vamos analisar o: #

*t*-SNE *t*-Distributed Stochastic Neighbour Embedding[²](#ref) (*t*-SNE, pronunciado ***tí-ciní***) é uma técnica de visualização em *1D*, *2D* ou *3D* de datasets de altas dimensões. O *t*-SNE, desenvolvido por *Laurens van der Maaten* e *Geoffrey Hinton*, é um refinamento do SNE[²⁵](#ref) e se diferencia deste, principalmente, pela utilização de distribuição *t* de Student para representar os dados em baixas dimensões (ou dados mapeados). O *t*-SNE utiliza um kernel gaussiano para converter pontos em altas dimensões para probabilidades de conexões (**P**) e um kernel *t*-Student, com um grau de liberdade, para representar as probabilidades de conexões entre os pontos em baixas dimensões (**Q**), no espaço mapeado. O custo das diferenças entre as duas distribuições **P** e **Q** é modelado pela divergência de Kullbach-Leibler²⁰, o gradiente desta função (ver \`[Equação 5]\` abaixo) é utilizado para atualizar o mapa de pontos em baixas dimensões. O *t*-SNE não tem garantia de convergir mas produz resultados muito bons, como por exemplo, o mapeamento das 784 dimensões do MNIST para apenas duas (ou tres, se contarmos os canais cores e marcas - que representam a mesma informação), como mostrada no gráfico abaixo, implementado com Tensorflow.js¹⁷`30:T483,tsneAlgoritmo1 = md `# Algoritmo simplificado do t-SNE **Dados**: conjunto ${tex`X = \{x_1, x_2, \dots, x_n\}, x_i \in \mathbb{R}^M`}
Parâmetros da função de custo: perplexidade ${tex`Perp`}
Parâmetros de otimização: número de iterações ${tex`T`}, taxa de aprendizado ${tex`\eta`}, momentum ${tex`\alpha (t)`}.
**Resultado**: representação em baixa dimensões ${tex`\gamma^{(T)} = \{y_1, y_2,\dots,y_n\}, y_i \in \mathbb{R}^{(1, 2, 3)}`}.
\`begin\`
  Calcular afinidades par a par ${tex`p_{j|i}`} com perplexidade ${tex`Perp`} (usando \`Equação 1\`)
  definir ${tex`p_{ij} = \frac{p_{j|i}+p_{i|j}}{2}`}
  gerar amostra da solução inicial ${tex`\gamma^{(0)} = \{y_1, y_2,\dots,y_n\}`} de ${tex`\mathcal{N}(0,10^{-4}I)`}
  \`for\` *t=1* \`to\` *T* \`do\`
    Calcular afinidades em baixas dimensões ${tex`q_{ij}`} (usando \`Equação 4\`)
    Calcular o gradiente ${tex`\frac{\delta C}{\delta \gamma}`} (usando \`Equação 5\`)
    \`set\` ${tex`${gammaEval}`}
  \`end\`
\`end\``31:T6e4,tsneAlgoritmo2 = md `A versão acima do algoritmo omite alguns detalhes importantes, após a leitura do paper é possível reescrever o algoritmo e gerar uma versão passível de ser implementada e que facilite o entendimento do algoritmo. # Algoritmo do *t*-SNE
*Revisitado* 1. Dado um conjunto de ${tex`N`} pontos em um espaço em altas dimensões 2. Determine um fator de entropia ${tex`Perp`}, taxa de aprendizado *${tex`\eta`}*, momentum ${tex`\alpha(t)`} e o número de iterações ${tex`T`} 3. Calcule a distâncias entre os pontos em altas dimensões, converta estas dimensões em probabilidades utilizando uma distribuição Gaussiana, com uma variância para cada ponto, de acordo com o fator de entropia ${tex`Perp`}. 4. Faça uma busca binária para encontrar as variâncias adequadas para cada ponto, de forma tal que cada linha da matriz de probabilidades (${tex`p_{ik}\forall k`}) tenha aproximadamente a mesma entropia, em função de ${tex`Perp`}. 5. Ajuste as probabilidades para que a matriz de probabilidades dos pontos no espaço original seja simétrica, com ${tex`p_{i|j} = \frac{p_{i|j}+p_{j|i}}{2}`} 6. Faça um chute inicial do conjunto mapeado ${tex`\gamma^{(1)} = \{y_1, \dots, y_N\}`} 7. Repita ${tex`T`} vezes, atualizando ${tex`t = 1\dots T`}: 8. Calcule as probabilidades dos pontos no espaço mapeado, ${tex`q_{ij}`}, com distribuição *t* de Student com 1 grau de liberdade e ${tex`\sigma^2`} igual a 1 9. Calcule o gradiente da função de custo em relação ao conjunto ${tex`\gamma^{(t)} = \{y_1, \dots, y_N\}`} de forma que: ${tex.block`${eq5}`} 10. Ajuste os pontos ${tex`\gamma`} de forma que: ${tex.block`${gammaEval}`} 11. O conjunto de pontos ${tex`\gamma^{(T)}`} é a saída do algoritmo`32:Tcc3,vegalite({ width: 600, height: 300, layer: [ { title: "Normal com μ=0 e σ=1", data: {values: pontosNormal(-5, 5, 0.01, 1, 0)}, mark: {type: "area", fill:"#d0d0d0", fillOpacity: 0.4}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative", title: "φ(x)"} } }, { data: { "values": [ {"x": distancias[0][1], "y": 0}, {"x": distancias[0][1], "y": normal(distancias[0][1],1,0)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][1], "y": normal(distancias[0][1],1,0)}, ] }, mark: {type: "text", baseline: "top", dx: 52, dy: -109}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][2], "y": 0}, {"x": distancias[0][2], "y": normal(distancias[0][2],1,0)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][2], "y": normal(distancias[0][2],1,0)}, ] }, mark: {type: "text", dx: 61, dy: -73}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][3], "y": 0}, {"x": distancias[0][3], "y": normal(distancias[0][3],1,0)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][3], "y": normal(distancias[0][3],1,0)}, ] }, mark: {type: "text", dx: 47, dy: -112}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][4], "y": 0}, {"x": distancias[0][4], "y": normal(distancias[0][4],1,0)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][4], "y": normal(distancias[0][4],1,0)}, ] }, mark: {type: "text", dx: 152, dy: 126}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][5], "y": 0}, {"x": distancias[0][5], "y": normal(distancias[0][5],1,0)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][5], "y": normal(distancias[0][5],1,0)}, ] }, mark: {type: "text", dx: 171, dy: 136}, encoding: { text: {field: "y", type: "quantitative"}, } }, ] })33:Tcd0,vegalite({ width: 600, height: 300, layer: [ { title: "Student-t com μ=0 e σ=1, 1 grau de liberdade", data: {values: pontosStudent(-5, 5, 0.01, 1, 0)}, mark: {type: "area", fill:"#d0d0d0", fillOpacity: 0.4}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative", title: "φ(x)"} } }, { data: { "values": [ {"x": distancias[0][1], "y": 0}, {"x": distancias[0][1], "y": student(distancias[0][1],1)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][1], "y": student(distancias[0][1],1)}, ] }, mark: {type: "text", baseline: "top", dx: 52, dy: -61}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][2], "y": 0}, {"x": distancias[0][2], "y": student(distancias[0][2],1)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][2], "y": student(distancias[0][2],1)}, ] }, mark: {type: "text", dx: 61, dy: -23}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][3], "y": 0}, {"x": distancias[0][3], "y": student(distancias[0][3],1)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][3], "y": student(distancias[0][3],1)}, ] }, mark: {type: "text", dx: 47, dy: -63}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][4], "y": 0}, {"x": distancias[0][4], "y": student(distancias[0][4],1)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][4], "y": student(distancias[0][4],1)}, ] }, mark: {type: "text", dx: 150, dy: 102}, encoding: { text: {field: "y", type: "quantitative"}, } }, { data: { "values": [ {"x": distancias[0][5], "y": 0}, {"x": distancias[0][5], "y": student(distancias[0][5],1)}, ] }, mark: {type: "line"}, encoding: { x: {field: "x", type: "quantitative"}, y: {field: "y", type: "quantitative"} } }, { data: { "values": [ {"x": distancias[0][5], "y": student(distancias[0][5],1)}, ] }, mark: {type: "text", dx: 171, dy: 112}, encoding: { text: {field: "y", type: "quantitative"}, } }, ] })34:T605,md`# Gradiente O gradiente da função de custo é dado pela \`[Equação 5]\`, que relaciona as probabilidades no espaço em altas dimensões (${tex`p_{ij}`}), com as probabilidades no espaço mapeado (${tex`q_{ij}`}) e os pontos no espaço mapeado (${tex`y_i`} e ${tex`y_j`}). ${tex.block`${eq5}`} Durante a otimização, ${tex`p`} é mantido fixo, os pontos ${tex`y`} são ajustados em função do gradiente e, por definição, as probabilidades ${tex`q`} são recalculadas a cada iteração. Para acelerar o processo de otimização e permitir encontrar soluções melhores, o paper sugere a adoção de um dos dois *"truques"* a seguir: 1. **Compressão inicial**: Forçar os pontos do mapa (em menor dimensão) a ficarem próximos entre si no início da otimização. Quando a distância entre os pontos é pequena, é fácil para os aglomerados conseguir mover entre si, de um lado para o outro, explorando melhor o espaço de soluções das possíveis organizações dos dados. 2. **Exagero inicial**: Multiplicar todos os ${tex`p_{ij}`} por um fator, como por exemplo 4, nos estágios iniciais da otimização. Isso significa que quase todos os ${tex`q_{ij}`}, que ainda somam 1, são muito pequenos para modelar os valores altos dos ${tex`p_{ij}`}. Como resultado, a otimização é encorajada a focar na modelagem de grantes ${tex`p_{ij}`} para grandes ${tex`q_{ij}`}. O efeito final é que os aglomerados entre os dados tendem a formar grupos separados no mapa, o que facilita aos clusters se moverem de um lado para o outro.`35:T4bc,md`Taxa de aprendizado: ${bind(html``, viewof eta)} ${bind(html``, viewof eta)}
Alteração do momentum: ${bind(html``, viewof gatilhoMomentum)} ${bind(html``, viewof gatilhoMomentum)}
Iterações com exagero: ${bind(html``, viewof itExagero)} ${bind(html``, viewof itExagero)}
Fator de exagero: ${bind(html``, viewof valorExagero)} ${bind(html``, viewof valorExagero)}
Perplexidade: ${bind(html``, viewof Perp)} ${bind(html``, viewof Perp)}
Número de iterações: ${bind(html``, viewof T)} ${bind(html``, viewof T)}`36:T763,pontosMapa = { if (iteracao >= T) yield yDisplay.map((p, i)=>(p.y==undefined?{x:Y[i][0], nome:p.nome, Cluster:p.Cluster}: {x:Y[i][0], y:Y[i][1], nome:p.nome, Cluster:p.Cluster})); else { // Adaptado de: https://github.com/karpathy/tsnejs var N = Y.length; var dim = Y[0].length; var grad = gradiente(Y, pFinal, iteracao); var sign = ((p)=>p<0?-1:p>0?1:p); mutable custoRun = custo(Y, pFinal); mutable iteracao++; // perform gradient step for(var i=0;i(p.y==undefined?{x:Y[i][0], nome:p.nome, Cluster:p.Cluster}: {x:Y[i][0], y:Y[i][1], nome:p.nome, Cluster:p.Cluster})); } }37:Ta68,ref = md`# Referências e recursos adicionais ### BibTeX do artigo \`\`\` @article{maaten2008visualizing, title={Visualizing data using t-SNE}, author={Maaten, Laurens van der and Hinton, Geoffrey}, journal={Journal of machine learning research}, volume={9}, number={Nov}, pages={2579--2605}, year={2008} } \`\`\` ### Links 1. [MNIST](http://yann.lecun.com/exdb/mnist/) 2. [Paper: Visualizing data using t-SNE](http://www.jmlr.org/papers/volume9/vandermaaten08a/vandermaaten08a.pdf) 3. [Site do t-SNE - Laurens van der Maaten](https://lvdmaaten.github.io/tsne/) 4. [Wikipedia: t-SNE](https://en.wikipedia.org/wiki/T-distributed_stochastic_neighbor_embedding) 5. [Paper: Linear t-SNE optimization for the web](https://arxiv.org/pdf/1805.10817.pdf) 6. [How to use t-SNE effectively](https://distill.pub/2016/misread-tsne/) 7. [Introduction to t-SNE with Python](https://towardsdatascience.com/an-introduction-to-t-sne-with-python-example-5a3a293108d1) 8. [t-SNE implementado em R e Python](https://www.analyticsvidhya.com/blog/2017/01/t-sne-implementation-r-python/) 9. [Visualizing datasets with PCA and t-SNE in Python](https://medium.com/@luckylwk/visualising-high-dimensional-datasets-using-pca-and-t-sne-in-python-8ef87e7915b) 10. [t-SNE Guide with Python and R](https://www.analyticsvidhya.com/blog/2017/01/t-sne-implementation-r-python/) 11. [Real time t-SNE Visualizations with TensorFlow.js](https://ai.googleblog.com/2018/06/realtime-tsne-visualizations-with.html) 12. [Implementação do t-SNE em JavaScript - Karpathy](https://github.com/karpathy/tsnejs) 13. [O porque de momentum realmente funcionar](https://distill.pub/2017/momentum/) 14. [GoogleBlog: TensorFlow Embedding Projector](https://ai.googleblog.com/2016/12/open-sourcing-embedding-projector-tool.html) 15. [TensorFlow Embedding Projector](http://projector.tensorflow.org/) 16. [Tensorflow: Embeddings](https://www.tensorflow.org/guide/embedding) 17. [Tensorflow.js](https://js.tensorflow.org/) 18. [Student's *t*-distribution](https://en.wikipedia.org/wiki/Student%27s_t-distribution) 19. [Função Gamma](https://github.com/substack/gamma.js/blob/master/index.js) 20. [Divergência de Kullback-Leibler](https://en.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence) 21. [Mike Bostock - Let's try t-SNE](https://beta.observablehq.com/@mbostock/lets-try-t-sne) 22. [Yasser S. Abu-Mostafa - Caltech](https://work.caltech.edu/) 23. [Repositório github](https://github.com/RobStelling/tsne) 24. [UCI Auto MPG Dataset](https://archive.ics.uci.edu/ml/datasets/Auto%2BMPG) 25. [Stochastic Neighbor Embedding](http://papers.nips.cc/paper/2276-stochastic-neighbor-embedding.pdf)`38:[] 29:{"id":"0dd332cb008a6cd1","slug":"abrindo-a-caixa-preta-do-t-sne/2","title":"Entendendo o t-SNE","thumbnail":"b1cf665801c9e4170eac958cf6d205306e6e1e53332d8c88dd65d1c4ea1d7429","access_level":"public","create_time":"$D2019-09-06T18:20:50.506Z","update_time":"$D2022-01-06T19:52:03.639Z","view_time":null,"first_public_time":"$D2019-09-23T03:03:25.645Z","has_unpublished_edits":null,"fork":{"id":"2331ea7cae3cdc98","slug":"t-sne","title":"Abrindo a caixa preta do t-SNE","owner":{"id":"aa1870a7aeb4caa2","login":"robstelling","name":"Roberto Stelling"}},"stars":4,"starred":false,"owner":{"type":"team","id":"aa1870a7aeb4caa2","login":"robstelling","name":"Roberto Stelling","avatar_url":"https://avatars-next.observableusercontent.com/6229413ee5337674416dd44206b49ea53512f6fd7d1275a839bb8250335ed81e","tier":"starter_2024"},"version":7722,"publish_version":7722,"role":null,"authored":false,"authors":[{"type":"individual","id":"8dbfddb7a124d503","login":"robstelling","name":"Roberto Stelling","avatar_url":"https://avatars-next.observableusercontent.com/6229413ee5337674416dd44206b49ea53512f6fd7d1275a839bb8250335ed81e","tier":null}],"members":[{"type":"individual","id":"8dbfddb7a124d503","login":"robstelling","name":"Roberto Stelling","avatar_url":"https://avatars-next.observableusercontent.com/6229413ee5337674416dd44206b49ea53512f6fd7d1275a839bb8250335ed81e","tier":null,"role":"editor"}],"comments":[],"custom_thumbnail":false,"trashed":false,"lapsed":null,"subscribed":null,"forks":2,"collection":null,"type":"notebook","body":{"title":"Entendendo o t-SNE","cells":[{"id":6651,"value":"md`# Entendendo o t-SNE\nPlayground do *t*-SNE, um algoritmo de visualização de dados de altas dimenções. Este notebook possui animações interativas e permite análise de resultados de um exemplo simples de redução para uma ou duas dimensões com ajuste de vários hiperparâmetros do *t*-SNE.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6648,"value":"html`

`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6644,"value":"md `# Tópicos\nO que veremos nesse notebook?
\n\\`Nota\\`: Clique nos links abaixo para ir diretamente para uma seção. Se for a sua primeira vez nesse notebook, é recomendável seguir as seções sequencialmente.\n- Uma breve discussão do problema de visualização de dados de altas dimensões\n- Descrição do algoritmo do *t*-SNE como proposto no paper original²\n- Algoritmo do *t*-SNE revisado, como foi implementado neste notebook\n- O algoritmo do *t*-SNE, em pequenos passos\n- Um *playground* do *t*-SNE, onde você pode:\n - Ajustar os hiperparâmetros do algoritmo\n - Testar o algoritmo em um problema simplificado\n - Ver uma animação do *t*-SNE enquanto este está sendo executado`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":43,"value":"$2b","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":232,"value":"$2c","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":402,"value":"md `# Exemplos simples\n## a) 16 pontos em duas dimensões divididos em 4 grupos\nVamos utilizar como exemplos dados de 2 dimensões e projetá-los em 1 dimensão. Isso vai nos ajudar a desenvolver a intuição sobre as dificuldades da visualização de dados em altas dimensões. Vamos projetar estes dados em cada um dos eixos: *x* e *y*, e definir qual seria a projeção *\"ideal\"* para estes dados`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":304,"value":"grafico_simples = vegalite({\n width: Math.min(400, width),\n height: 400,\n data: pontos,\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\"},\n color: {field: \"Cluster\", type: \"nominal\", scale:{scheme: colorScheme}, title: \"Grupo\"},\n }\n})\n","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":394,"value":"md`### Projetando os pontos no eixo ${tex `x`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":357,"value":"vegalite({\n width: Math.min(400, width),\n data: pontos,\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"Cluster\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"}\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":434,"value":"md `Vemos que na projeção sobre o eixo ${tex `x`} que os grupos *a* e *b* se misturam e os grupos *c* e *d* não ficam separados.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":396,"value":"md `### Projetando os pontos no eixo ${tex `y`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":364,"value":"vegalite({\n width: Math.min(400, width),\n data: pontos,\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"y\", type: \"quantitative\"},\n color: {field: \"Cluster\", type: \"nominal\", scale: {scheme: colorScheme}, title:\"Grupo\"}\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":436,"value":"md `### Projetando diagonalmente\nMapeando os pontos com um projeção linear escolhida manualmente conseguimos separar todos os grupos.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7467,"value":"md `A projeção abaixo é resultado da seguinte transformação: ${tex.block `x = p.x+p.y*(${fator})`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7413,"value":"vegalite({\n width: Math.min(400, width),\n data: ({\"values\": pontos.values.map(p => {return {x:p.x+p.y*fator, Cluster:p.Cluster, nome:p.nome}})}),\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"Cluster\", type: \"nominal\", scale: {scheme: colorScheme}, title:\"Grupo\"}\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7697,"value":"md `Use a barra abaixo para mudar o fator de ajuste, alterando a projeção de duas para uma dimensão.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7601,"value":"viewof fator = {\n const initialValue = -1.5;\n const sliderInput = slider({\n title: \"Fator do eixo y\",\n value: initialValue,\n min: -2,\n max: 3,\n step: 0.1\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7491,"value":"$2d","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":450,"value":"md `### Projeção *\"ideal\"*\nEm uma *\"projeção ideal\"* desses dados teríamos algo similar ao exemplo abaixo, onde cada grupo original em duas dimensões é \"*bem separado*\" dos outros na projeção em uma dimensão:`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":448,"value":"vegalite({\n width: Math.min(400, width),\n data: idealLinear,\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"Cluster\", type: \"nominal\", scale: {scheme: colorScheme}, title: 'Grupo'}\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":559,"value":"md `## b) Dataset tipo meia lua`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":561,"value":"vegalite({\n width: Math.min(500, width),\n height : 250,\n data: {values: meiaLua},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title:\"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":640,"value":"md `### Projetando sobre o eixo *x*`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":566,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: meiaLua},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7250,"value":"md `Vemos que os pontos extremos estão separados mas há uma grande interseção nos pontos centrais.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":641,"value":"md `### Projetando sobre o eixo *y*`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":569,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: meiaLua},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"y\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7254,"value":"md `A mesma coisa acontece, em menor escala, quando os pontos são projetados no eixo ${tex `y`}.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":636,"value":"md `### Projeção *\"ideal\"*`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7259,"value":"md `Como conhecemos os dados, podemos transformar os dados da meia lua de forma a garantir que sejam projetados completamente separados em uma dimensão.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":619,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: meiaLua.map(p => {return {x:(p.x+p.label*multiplicador)-deslocamento, label:p.label}})},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7653,"value":"viewof multiplicador = {\n const initialValue = 1.4;\n const sliderInput = slider({\n title: \"Multiplicador\",\n value: initialValue,\n min: -1,\n max: 5,\n step: 0.1\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7662,"value":"viewof deslocamento = {\n const initialValue = 1.13;\n const sliderInput = slider({\n title: \"Deslocamento\",\n value: initialValue,\n min: -2.26,\n max: 2.26,\n step: 0.1\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7267,"value":"$2e","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":582,"value":"md `## c) Círculos concêntricos`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":577,"value":"vegalite({\n width: Math.min(500, width),\n height : 500,\n data: {values: circulos},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {\"scheme\": colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7280,"value":"md `Os resultados são similares se projetarmos os dados no eixo ${tex `x`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7277,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: circulos},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7283,"value":"md `ou no eixo ${tex `y`}.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7273,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: circulos},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"y\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4795,"value":"md`Algoritmo *divino*: Como este dataset poderia ser projetado em 1D?\n### Projetando os pontos radialmente!\nEssa ideia ocorre, e funciona, porque sabemos o formato dos dados originais!`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3873,"value":"vegalite({\n width: Math.min(500, width),\n data: {values: circulos.map((p) => ({x:L2D(p, {x:px, y:py}) - radial, label:p.label}))},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n color: {field: \"label\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Grupo\"},\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7668,"value":"viewof px = {\n const initialValue = 0;\n const sliderInput = slider({\n title: \"Origem x\",\n value: initialValue,\n min: -2,\n max: 2,\n step: 0.01\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7670,"value":"viewof py = {\n const initialValue = 0;\n const sliderInput = slider({\n title: \"Origem y\",\n value: initialValue,\n min: -2,\n max: 2,\n step: 0.01\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7679,"value":"viewof radial = {\n const initialValue = 0.905;\n const sliderInput = slider({\n title: \"Deslocamento\",\n value: initialValue,\n min: -2,\n max: 2,\n step: 0.01\n });\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7358,"value":"md `Na projeção radial acima calculamos a distância dos pontos em relação à origem e subtraímos ${radial} para centralizar os pontos: ${tex.block `x = L2D([p.x, p.y], [${px}, ${py}]) - ${radial}`}\n\nEssa projeção é *melhor*, em um determinado sentido, que a anterior porque os grupos dos pontos não são utilizados para fazer a projeção em uma dimensão.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7366,"value":"md `# Conclusão\nNos tres exemplos acima vimos que algumas vezes um algortimo simplista, como projetar os pontos sobre o eixo ${tex `x`} ou o eixo ${tex `y`}, não costuma dar bons resultados, mas parece ser possível projetar os pontos em uma dimensão de forma adequada caso ***você conheça a organização dos dados originais***.\n\nEm situações gerais é comum não sabermos como os dados estão organizados e muitas vezes nem sabemos os grupos, ou quantidades de grupos que os dados possuem. Nesses casos é difícil definir a melhor forma de projetar os dados de altas dimensões para uma, duas ou tres dimensões preservando os grupos que são *\"visíveis\"* (ou detectáveis) em altas dimensões.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":545,"value":"md `# Nem sempre é possível projetar os dados separando clusters`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1169,"value":"md `### Por exemplo consumo, potência e país de origem no dataset *carros*[²⁴](#ref)\nVemos no exemplo abaixo que carros de origem distintas (*Europa*, *Japão* e *Estados Unidos*) se sobrepõem quando projetados em duas dimensões levando em consideração a *potência* dos carros, medida em cavalo-vapor no eixo ${tex `x`}, e *consumo*, medido em milhas por galão no eixo ${tex `y`}. Para que esses grupos sejam separáveis, se forem separáveis, seria necessário ter uma ou mais dimensões adicionais.\n\nSe os dados não forem separáveis na dimensão superior, não será possível separá-los em uma dimensão inferior. Isso leva à ideia de *dimensionalidade intrínseca*, que é o mínimo de dimensões necessárias para representar e separar fielmente os dados.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":499,"value":"vegalite({\n width: Math.min(400, width),\n height : 400,\n data: {values: carros},\n mark: {type: \"circle\", size: tamanhoCirculo, opacity: opacity},\n encoding: {\n x: {field: \"Horsepower\", type: \"quantitative\", title: \"Potência (Cavalo-Vapor)\"},\n y: {field: \"Miles_per_Gallon\", type: \"quantitative\", title: \"Consumo em Milhas/galão\"},\n color: {field: \"Origin\", type: \"nominal\", scale: {scheme: colorScheme}, title: \"Origem\"}\n }\n})\n","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":0,"value":"$2f","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4800,"value":"md`${chart}t-SNE sobre dígitos do MNIST (Bostock²¹)`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4805,"value":"md `## Breve recordação de distribuições Normal e *t* de Student¹⁸`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1393,"value":"md `### Alterando parâmetros da curva de densidade de uma distribuição normal`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1155,"value":"vegalite({\n width: Math.min(600, width),\n height: 300,\n layer: [\n {\n title: \"Curva de densidade de uma distribuição normal\",\n data: {values: pontosNormal(-6, +6, 0.01, 1, 0)},\n mark: \"line\",\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\", title: \"φ(x)\"},\n color: {value:\"steelblue\"}\n }\n },\n {\n data: {values: pontosNormal(-6, 6, 0.01, Math.sqrt(var_2), media)},\n mark: {type: \"line\"},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\"},\n color: {value: \"red\"}\n }\n }\n ]\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1243,"value":"viewof var_2 = {\n const initialValue = 1;\n const sliderInput = slider({\n min: 0.01, \n max: 16, \n step: 0.01,\n value: 1,\n description: \"Variância de [0 a 16]\"\n});\n\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1255,"value":"viewof media = {\n const initialValue = 0.0;\n const sliderInput = slider({\n min: -2, \n max: 2, \n step: 0.01,\n value: 0.0,\n description: \"Média [-2 a 2]\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4812,"value":"md `Altere a variância e a média da curva normal acima.\nSuponha que a curva vermelha represente a altura da população adulta (a curva em azul é mantida como referência), se você alterar a média de altura para 1.69m, por exemplo, e mantiver a variância em 1, veremos que o gráfico indica que deve ser possível encontrar indivíduos de 4m ou mais! Para que o modelo esteja mais próximo da realidade é necessário *diminuir* a variância para cerca de 0.3.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":713,"value":"md `### Comparando distribuições normal e *t* de Student`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":892,"value":"vegalite({\n width: Math.min(600, width),\n height: 300,\n layer: [\n {\n title: \"Normal (vermelho) e Studend-t (azul)\",\n data: {values: pontosStudent(-intervalo, intervalo, 0.01, 1, 1)},\n mark: {type: \"line\"},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\", title:\"φ(x)\"}\n }\n },\n {\n data: {values: pontosNormal(-intervalo, intervalo, 0.01, Math.sqrt(var2), 0)},\n mark: {type: \"line\"},\n encoding: {\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\"},\n color: {value: \"red\"}\n }\n }\n ]\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1324,"value":"viewof var2 = {\n const initialValue = 1;\n const sliderInput = slider({\n min: 0.01,\n max: 9,\n value: 1,\n step: 0.01,\n description: \"Ajuste da variância da curva normal\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2257,"value":"viewof intervalo = {\n const initialValue = 6;\n const sliderInput = slider({\n min: 1,\n max: 100,\n value: 6,\n step: 1,\n description: \"Intervalo\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4810,"value":"md`Uma curva de distribuição *t* de Student é \"*mais baixa*\" e com \"*cauda mais longa*\" que uma curva normal com a mesma variância. Altere a variância da curva normal e veja como ela se comporta.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3967,"value":"md`### Graus de liberdade e variância em normais e *t* de Student`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":801,"value":"vegalite({\n width: Math.min(600, width),\n height: 300,\n data: {values: pontosCurvasNS(-intervalo, intervalo, 0.01, Math.sqrt(variancia), 0, gl)},\n mark: \"line\",\n encoding: {\n title: \"Curvas normal e t-Student\",\n x: {field: \"x\", type: \"quantitative\"},\n y: {field: \"y\", type: \"quantitative\", title: \"φ(x)\"},\n color: {field: \"Curva\", type:\"nominal\", scale: {scheme: colorScheme}, title: \"Distribuição\"}\n }\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1540,"value":"viewof gl = {\n const initialValue = 1;\n const sliderInput = slider({\n min: 1,\n max: 100,\n value: 1,\n step: 1,\n description: \"Graus de liberdade\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2233,"value":"viewof variancia = {\n const initialValue = 1;\n const sliderInput = slider({\n min: 0.1,\n max: 9,\n value: 1,\n step: 0.1,\n description: \"Variância\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4808,"value":"md`Uma curva *t* de Student é, na verdade, uma \"*combinação*\" de infinitas curvas normais. Com um grau de liberdade ela é \"*mais baixa*\" e possui \"*cauda mais longa*\" que a curva normal de mesma variância. Aumentando os graus de liberdade a curva *t* de Student converge para a curva normal correspondente, como pode ser observado alterando os parâmetros do gráfico acima.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4816,"value":"md`## Voltando ao *t*-SNE\nPrimeiro vamos revisar o algoritmo do *t*-SNE como descrito no paper original².`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1741,"value":"$30","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1802,"value":"md `## Equações\n[\\`Equação 1\\`] Similaridade no espaço em alta dimensão
\n${tex.block`${eq1}`}\n
[\\`Equação 2\\`] Função de custo de divergência de Kullback-Leibler
\n${tex.block`${eq2}`}\nque é equivalente a:
\n${tex.block`${eq6}`}\n
[\\`Equação 3\\`] Similaridade no espaço reduzido
\n${tex.block`${eq3}`}\n
[\\`Equação 4\\`] Ajuste da similaridade no espaço reduzido com distribuição *t* de Student com 1 grau de liberdade (distribuição da *Cauchy*)
\n${tex.block`${eq4}`}\n
[\\`Equação 5\\`] Gradiente da divergência de Kullback-Leibler [*Equação 2*] entre *P* e a probabilidade condicional *Q* com distribuição *t* de Student
\n${tex.block`${eq5}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":976,"value":"$31","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1144,"value":"tsnePassoAPasso = md `# *t*-SNE
Passo a passo`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":940,"value":"md `## Mapeando distâncias para probabilidades\nVamos começar com um dos conjuntos de pontos que vimos na introdução.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":943,"value":"vegalite(original)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2875,"value":"md`A ideia, para transformarmos distâncias em probabilidades, é que podemos imaginar cada ponto como o centro de uma distribuição (que pode ser normal/gaussiana ou qualquer outra) e usar a distância entre este ponto e os outros como a probabilidade de ocorrência daquela distância dentro da distribuição escolhida. Quanto menor a distância entre os pontos, maior a probabilidade. *De uma certa forma, estamos determinando a vizinhança entre os pontos*.\n\nPor exemplo, nos pontos acima, a distância entre ${tex`p_0`} e ${tex`p_1`} é dado pela matriz de distâncias, na posição \\`distancias[0][1]\\` e é igual a ${tex`${distancias[0][1]}`}. Em uma distribuição normal, com média ${tex`0`} e variância ${tex`1`}, esta distância corresponderia a ${tex.block`distancias[0][1] = ${distancias[0][1]}\\rightarrow P_{01} = ${normal(distancias[0][1], 1,0)}`}\nAbaixo vemos as distâncias e probabilidades para alguns pontos usando uma distribuição normal com ${tex`\\mu = 0`} e ${tex`\\sigma^2 = 1`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2660,"value":"$32","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2684,"value":"md `\n\\`distancias[0][1] = \\` ${distancias[0][1]} - ${tex`P_{01} = P(${distancias[0][1]})`} = ${normal(distancias[0][1], 1,0)}
\n\\`distancias[0][2] = \\` ${distancias[0][2]} - ${tex`P_{02} = P(${distancias[0][2]})`} = ${normal(distancias[0][2], 1,0)}
\n\\`distancias[0][3] = \\` ${distancias[0][3]} - ${tex`P_{03} = P(${distancias[0][3]})`} = ${normal(distancias[0][3], 1,0)}
\n\\`distancias[0][4] = \\` ${distancias[0][4]} - ${tex`P_{04} = P(${distancias[0][4]})`} = ${normal(distancias[0][4], 1,0)}
\n\\`distancias[0][5] = \\` ${distancias[0][5]} - ${tex`P_{05} = P(${distancias[0][5]})`} = ${normal(distancias[0][5], 1,0)}
\n\\`distancias[5][0] = \\` ${distancias[5][0]} - ${tex`P_{50} = P(${distancias[5][0]})`} = ${normal(distancias[5][0], 1.2,0)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2901,"value":"md`Os mesmos pontos do exemplo anterior são mostrados abaixo para uma distribuição *t* de Student com ${tex`\\mu = 0`}, ${tex`\\sigma^2 = 1`} e um grau de liberdade.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2093,"value":"$33","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1028,"value":"md `\n\\`distancias[0][1] = \\` ${distancias[0][1]} - ${tex`P_{01} = P(${distancias[0][1]})`} = ${student(distancias[0][1], 1)}
\n\\`distancias[0][2] = \\` ${distancias[0][2]} - ${tex`P_{02} = P(${distancias[0][2]})`} = ${student(distancias[0][2], 1)}
\n\\`distancias[0][3] = \\` ${distancias[0][3]} - ${tex`P_{03} = P(${distancias[0][3]})`} = ${student(distancias[0][3], 1)}
\n\\`distancias[0][4] = \\` ${distancias[0][4]} - ${tex`P_{04} = P(${distancias[0][4]})`} = ${student(distancias[0][4], 1)}
\n\\`distancias[0][5] = \\` ${distancias[0][5]} - ${tex`P_{05} = P(${distancias[0][5]})`} = ${student(distancias[0][5], 1)}
\n\\`distancias[5][0] = \\` ${distancias[5][0]} - ${tex`P_{50} = P(${distancias[5][0]})`} = ${student(distancias[5][0], 1.2)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2751,"value":"md`## Matriz de distâncias`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6773,"value":"vegalite(original)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1086,"value":"pt(math.matrix(math.reshape(dFlat.map(y => y<=zero?0.0:+y.toFixed(3)), [16,16])), \"\\\\footnotesize\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4786,"value":"viewof cDistancia = radio({\n title: 'Métrica de distância',\n description: 'Escolha a métrica de distância a usar',\n options: [\n { label: nomeMetrica(0), value: 0 },\n { label: nomeMetrica(1), value: 1 },\n { label: nomeMetrica(2), value: 2},\n { label: nomeMetrica(3), value: 3}\n ],\n value: 1\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4958,"value":"md`A distância ${nomeMetricaTex(cDistancia)} entre os pontos ${math.matrix(pts[0])} e ${math.matrix(pts[1])} é ${calcDistancia(pts[0], pts[1])}.
A distância ${nomeMetricaTex(cDistancia)} entre os pontos ${math.matrix(pts[2])} e ${math.matrix(pts[3])} é ${calcDistancia([pts[2]],[pts[3]])}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4960,"value":"pts = [[0, 0], [-4, 3], [-1.3], [3.5]]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1985,"value":"md`A distância euclidiana ou L2 entre os pontos é calculada para todo par de pontos e a probabilidade que um ponto *x_j* esteja próximo de um ponto *x_i*, *p_j|i*, é dada pela equação abaixo, sobre uma distribuição Gaussiana com variância distinta para cada um dos pontos no espaço.\n${tex.block`${eq1}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1149,"value":"md `O denominador age como uma *\"normalização\"* das probabilidades, em função da densidade ao redor do ponto x_i. Assim distâncias ligeiramente maiores ao redor de pontos em locais poucos densos, são equivalentes a distâncias menores ao redor de pontos em locais mais densos. O valor de cada variância é determinado por uma busca binária utilizando o ${tex`\\log_2`} do hiperparâmetro *perplexidade* (\\`Perp\\`) determinado pelo usuário.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2946,"value":"md`## De distâncias para probabilidades, com distribuições e variância`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2944,"value":"vegalite(original)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4686,"value":"md`### Matriz de probabilidades, com distância ${nomeMetricaTex(cDistancia)}, e mesma variância entre todos os pontos.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2714,"value":"pt(math.matrix(math.reshape(pFlat.map(x => +x.toFixed(3)), [16,16])))","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2769,"value":"viewof s2 = {\n const initialValue = 1;\n const sliderInput = slider({\n title: 'Variância',\n min: 0.1,\n max: 9,\n step: 0.1,\n value: 1,\n description: \"Altere a variância para todos os pontos\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2468,"value":"md`# Perplexidade\nA perplexidade (${tex`Perp`}) é um hiper-parâmetro que ajusta a variância das distribuições escolhidas para cada ponto do espaço original (${tex`P`}). Como falamos antes, podemos entender a perplexidade como um fator de ajuste das diversas variâncias dos pontos no espaço original e, ao mesmo tempo, uma medida da densidade ao redor dos pontos, por isso cada ponto tem uma variância própria. No espaço projetado, (${tex`Q`}), todos os pontos possuem a mesma variância, portanto as similaridade entre dois pontos i e j, no espaço projetado, é calculada, pela \\`[Equação 3]\\`, como: ${tex.block`${eq3}`}\n`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2475,"value":"md`A perplexidade é uma medida relacionada à dispersão ao redor dos pontos, ou sua entropia. A intuição é que a perplexidade indicaria o número real de vizinhos de um ponto e seu logarítmo corresponde à medida de entropia. Então, definimos perplexidade de cada ponto como:\n${tex.block`\\log_2(Perp(p_i)) = entropia(p_i) = \\sum_{j\\ne i} -p_{j|i} \\log_2(p_{j|i})`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2624,"value":"md`#### Entropia\nA entropia desejada é definida pela perplexidade [\\`Perp\\` = ${Perp_display}]: ${tex.block`entropia = \\log_2(Perp) = ${+Math.log2(Perp_display).toFixed(4)}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3505,"value":"md``","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2580,"value":"function calcEntropia(probabilidades){\n // Calcula a entropia de um vetor de probabilidades\n return probabilidades.reduce((soma, p) => soma - (p<=zero?0:p*Math.log2(p)), 0)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2790,"value":"md `No nosso exemplo, com todas as variâncias iguais a ${+(s2).toFixed(3)}, temos a ${tex`entropia = ${+(calcEntropia(pFlat)/16).toFixed(4)}`} e ${tex`perplexidade = ${Math.exp(calcEntropia(pFlat)/16).toFixed(4)}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2967,"value":"md`Para encontrar a melhor variância para cada ponto fazemos uma busca binária, ponto a ponto, procurando por um valor de variância que leve a entropia do dataset o mais perto possível da entropia desejada, em função do parâmetro \\`Perp\\`.\n\n`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2993,"value":"md`## Busca binária de variâncias em alta dimensão`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3167,"value":"function bbVar(pontos, i, entropia, erro=1e-6, passos=40) {\n function bbVarRec(variancia, limiteInf, limiteSup) {\n const probabilidades = calcPi(pontos, i, variancia),\n entropiaAtual = calcEntropia(probabilidades);\n \n if (passos-- <= 1 || Math.abs(entropiaAtual - entropia) <= erro)\n return probabilidades;\n if (entropiaAtual > entropia)\n return bbVarRec((limiteInf+variancia)/2, limiteInf, variancia);\n else\n return bbVarRec((variancia+limiteSup)/2, variancia, limiteSup);\n }\n\n const MINVAR = 0.01,\n MAXVAR = 50;\n return bbVarRec((MINVAR+MAXVAR)/2, MINVAR, MAXVAR);\n}","pinned":true,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3509,"value":"function ajustaVariancias(pontos, entropia, erro, passos) {\n let tamanho = pontos.length,\n p = [];\n for (let i = 0; i < tamanho; i++)\n p = p.concat(bbVar(pontos, i, entropia, erro, passos))\n var total = p.reduce((soma, atual)=>soma+atual,0)\n return p.map((x)=>x/total);\n}","pinned":true,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3103,"value":"pt(math.matrix(math.reshape(pVarianciasDisplay.map(x => +x.toFixed(3)), [16,16])))","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6374,"value":"viewof Perp_display = {\n const initialValue = 10;\n const sliderInput = slider({\n title: 'Perplexidade',\n min: 1,\n max: 100,\n step: 0.5,\n value: 10,\n description: \"Ajuste o valor do hiperparâmetro perplexidade\"\n});\n return restabelecer(sliderInput, initialValue)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3109,"value":"md`Entropia resultante = ${calcEntropia(pVarianciasDisplay)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2999,"value":"md`${tex`entropia = \\log_2(Perp) = ${Math.log2(Perp_display)}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3139,"value":"md`# Tornando a matriz de probabilidades simétrica\nPara tornar a matriz simétrica, ou seja com ${tex`P_{i|j} = P_{j|i}`}, calculamos: ${tex.block`p_{ij} = \\frac{p_{j|i}+p_{i|j}}{2}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6370,"value":"p_final_display = {\n var tamanho = pVarianciasDisplay.length;\n var tamanho_linha = Math.sqrt(tamanho);\n var m_a = new Array(pVariancias.length),\n probMedia;\n for (let i=0; i +x.toFixed(3)), [16,16])))","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3158,"value":"md`# Mapeando os pontos para baixa dimensão\nNesse ponto, terminamos de tratar os dados em alta dimensão e já temos a matriz de probabilidades com as características desejadas. Agora é necessário aproximar os pontos em baixa dimensão, definir uma função de custo para a aproximação e encontrar o melhor conjunto de pontos utilizando gradiente descendente.\nA geração inicial dos pontos é randômica, com o número de dimensões desejado. No nosso caso vamos gerar ${Math.sqrt(dFlat.length)} pontos em ${tex`\\mathbb{R}^${dimensoes}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5253,"value":"md`## Projeção inicial dos pontos do ${tex`\\mathbb{R}^2`} para ${tex`\\mathbb{R}^${dimensoes}`}\nDepois de gerar as probabilidades em alta dimensão, gera-se, randomicamente, os pontos em baixa dimensão, no espaço mapeado, no nosso caso: ${tex`\\mathbb{R}^2 \\rightarrow \\mathbb{R}^${dimensoes}`}. Os autores recomendam que os pontos gerados inicialmente estejam distribuidos com ${tex `\\mu = 0`} e ${tex`\\sigma^2 = 10^{-4}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3351,"value":"vegalite(original)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5244,"value":"viewof dimensoes = radio({\n title: 'Dimensões do mapa',\n description: 'Escolha em quantas dimensões projetar os pontos',\n options: [\n {label:'Uma', value:1},\n {label:'Duas', value:2}\n ],\n value: 1\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4531,"value":"md`### Projeção inicial no ${tex`\\mathbb{R}^${dimensoes}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3311,"value":"vegalite([fr1(yDisplay),fr2(yDisplay)][dimensoes-1])","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4138,"value":"viewof tipo_projecao = radio({\n title: 'Projeção inicial',\n description: 'Escolha a forma de projetar os pontos',\n options: [\n {label:'Randômico', value:'randomico'},\n {label:'Comprimido', value:'comprimido'},\n {label:'\"Ideal\"', value:'ideal'}\n ],\n value: 'randomico'\n})","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3497,"value":"md`### Cálculo das distâncias entre pontos gerados com métrica ${nomeMetricaTex(cDistancia)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3377,"value":"pt(math.matrix(math.reshape(distQ.map(y=>y<=zero?0:+y.toFixed(digitos)), [16,16])), \"\\\\scriptsize\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5102,"value":"distQ = vetorDistancias(yFlat);","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3500,"value":"md`## E cálculo das probabilidades\nAs probabilidades em baixa dimensão são calculadas sobre uma distribuição *t* de Student, com 1 grau de liberdade e variância 1.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5148,"value":"tex.block`${eq3}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3407,"value":"pt(math.matrix(math.reshape(calcQ(yFlat).map(x => +x.toFixed(4)), [16,16])), '\\\\footnotesize')","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3584,"value":"md`# Função de custo\nA função de custo deve mensurar o erro, ou divergência, entre as probabilidades no espaço em altas dimensões e as probabilidades no espaço mapeado. Para comparar as entropias relativas entre as probabilidades é utilizada a **Divergência de Kullback-Leibler** (KL). Quanto maior o valor da divergência KL, maior a diferença entre as distribuições de probabilidade. Se a divergência for 0, as duas distribuições são idênticas.`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1587,"value":"md `## Divergência de Kullback-Leibler\nA divergência de Kullback-Leibler é dada pela \\`[Equação 2]\\` ${tex.block`${eq2}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3597,"value":"md`No nosso exemplo, a custo inicial das distribuições ${tex`P`} e ${tex`Q`} é: ${tex`${KLD(pFinal, calcQ(yFlat)).toFixed(5)}`}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3613,"value":"function KLD(prob1, prob2) {\n return prob1.reduce((soma, valor, indice) => soma + (valor==0?0:KL(valor, prob2[indice])))\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2196,"value":"function KL(p, q){\n return p == 0 ? 0 : q == 0 ? Infinity : p * Math.log(p/q)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5161,"value":"function custo(y, P) {\n // Custo entre pontos e uma distribuição\n // Entradas:\n // y: pontos no espaço mapeado\n // P: distribuição no espaço em altas dimensões\n var Q = calcQ(y);\n const N = y.length;\n var somaCusto = 0;\n for (var i=0; iSelecione o número de iterações e clique em `;\n\n const container = html`\n ${button}\n ${sliderData}\n `;\n\n const origInput = sliderData.oninput;\n sliderData.oninput = e => {\n origInput(e);\n container.value = sliderData.value;\n };\n\n button.onclick = e => {\n // the output of the `slider` function is actually two elements,\n // an input and an output. we need to update them both in order to fully reset\n for (const elem of sliderData.elements) {\n elem.value = initialValue;\n }\n\n container.value = initialValue;\n\n // inform Observable runtime to re-evaluate the viewof reference\n // see: https://observablehq.com/@observablehq/introduction-to-views\n container.dispatchEvent(new CustomEvent(\"input\"));\n };\n\n container.value = sliderData.value;\n return container;\n }","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6904,"value":"md`##### Input\nRetirado de [Multi-value inputs](https://beta.observablehq.com/@mbostock/multi-value-inputs) de [Mike Bostok](https://beta.observablehq.com/@mbostock) `","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6906,"value":"function bind(input, view) {\n const value = [\"range\", \"number\"].includes(input.type) ? \"valueAsNumber\" : \"value\";\n const update = () => input[value] = view.value;\n input.oninput = () => view.value = input[value];\n view.addEventListener(\"input\", update);\n disposal(input).then(() => view.removeEventListener(\"input\", update));\n return update(), input;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6907,"value":"md`##### Métricas`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4774,"value":"function vetorDistancias(pontos, metrica) {\n // pontos: Vetor de pontos em R^N\n // ṕontos = [[p_11, ..., p_0n], [p_21, ..., p_2n], ..., [p_k1,...,p_kn]]\n var N = pontos.length, // Quantidade de pontos\n dist = zeros(N*N);\n if (metrica===undefined) metrica = calcDistancia;\n // Como d[i,j] = d[j,i] então o loop é:\n // i: 0 a N-1 e j: i+1, N\n // d[i,i] inicializado com 0\n for (let i = 0; i < N - 1; i++) {\n for (let j = i + 1; j < N; j++ ) {\n var distancia = metrica(pontos[i], pontos[j])\n dist[i*N+j] = distancia;\n dist[j*N+i] = distancia;\n }\n }\n return dist;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6777,"value":"nomeMetrica = c => [\"L2\", \"L2 Quadrado\", \"L1\", \"Chebyshev\"][c]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6819,"value":"nomeMetricaTex = c => [tex`L^2`, tex`L^{2^2}`, tex`L^1`, tex`L_\\infty`][c]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4776,"value":"// Métrica em função da variável cDistancia\ncalcDistancia = [L2, L2Q, L1, Lmax][cDistancia]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6727,"value":"// Calcula a distância L1 (Manhattan) entre dois pontos\nfunction L1(p1, p2) {\n // p = [P1,..,Pdim]\n var dim = p1.length,\n dist = 0;\n for (var i = 0; i < dim; i++) {\n var p1i = p1[i], p2i = p2[i];\n dist += Math.abs(p1i-p2i);\n }\n return dist;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4777,"value":"function L2(p1, p2) {\n // Distância L2 - euclidiana \n return Math.sqrt(L2Q(p1, p2));\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4779,"value":"// Calcula a distância L2 Quadrado entre dois pontos\nfunction L2Q(p1, p2) {\n // p = [P1,..,Pdim]\n var dim = p1.length,\n dist = 0;\n for (var i = 0; i < dim; i++) {\n var p1i = p1[i], p2i = p2[i];\n dist += (p1i-p2i)*(p1i-p2i);\n }\n return dist;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6849,"value":"// Calcula a distância max entre dois pontos\nfunction Lmax(p1, p2) {\n // p = [P1,..,Pdim]\n var dim = p1.length,\n dist = 0;\n for (var i = 0; i < dim; i++) {\n var p1i = p1[i], p2i = p2[i];\n dist = Math.max(dist, Math.abs(p1i-p2i));\n }\n return dist;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4978,"value":"function calcPi(p, i, s2i) {\n var N = p.length,\n N2 = N*N,\n dim = p[i].length,\n norma = 0.0,\n //D = matrizDistancias(p, undefined),\n P = zeros(N);\n for (var j=0; jp/norma);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5402,"value":"function gradiente(y, P, iter) {\n // Retorna o gradiente dados:\n // y: pontos no espaço mapeado\n // P: Probabilidades no espaço original\n // iter: Número da iteração atual\n // dC/dy = 4 * sum((p_ij-q_ij)(y_i-y_j)(1+|y_i-y_j|^2)^-1)\n const ex = iter <= itExagero?valorExagero:1,\n N = y.length,\n dim = y[0].length,\n Q = calcQ(y);\n var g = zeros(N, dim);\n for (var i=0; ix>1e-100?x/soma:x);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3672,"value":"function grad(p, q, y, iter) {\n /*\n * Retorna o gradiente dados:\n * p: Probabilidades dos pontos no espaço original\n * q: Probabilidades dos pontos no espaço mapeado\n * y: Pontos no espaço mapeado\n * iter: Iteração atual\n */\n const numPontos = y.length;\n const dim = y[0].length;\n const exagero = iter soma + Math.abs(valor - p2[i]) , 0)/p1.length;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":5891,"value":"function emq(p1, p2) {\n return p1.reduce((soma, valor, i)=> soma + (valor - p2[i]) * (valor - p2[i]) , 0)/p1.length;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4765,"value":"function zeros(m, n) {\n // Retorna um vetor ou matriz de zeros\n if (n == undefined)\n return vetor(m, 0.0);\n return matriz(m, n, 0.0);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4766,"value":"function vetor(n, s) {\n // Retorna um vetor de n itens de formato s\n // Se s for uma função, chama a funcão a cada vez\n // Se s for indefinido, inicializa \"randomicamente\"\n if (isNaN(n) || +n<1 || !Number.isInteger(n))\n return undefined;\n if (typeof(s) == 'number')\n return [...new Float64Array(n)].map(()=>s);\n else if (typeof(s) == 'function') // Idealmente, funcao retornará um numero\n return [...new Float64Array(n)].map(()=>s());\n else if (typeof(s) == 'undefined') // Retorna tgRand\n return [...new Float64Array(n)].map(()=>math.random());\n return [...new Array(n)].map(()=>s);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4769,"value":"function matriz(m, n, s) {\n\t// Retorna uma matriz mxn inicializada com s\n\t// Se s não for definido, inicializa randomicamente (ver vetor)\n\tif (isNaN(m) || +m<1 || !Number.isInteger(m))\n \treturn undefined;\n\treturn [...new Array(m)].map(()=>vetor(n, s));\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2416,"value":"md`#### Gera vetor de distâncias\nMais econõmico em espaço que matriz`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2302,"value":"function grafoDistancias(p) {\n let tamanho = p.length,\n v = new Array(),\n d;\n for (let i = 0; i < tamanho; i++) {\n v.push({source: i, target: i, distance: zero});\n for (let j = i+1 ; j < tamanho; j++) {\n d = +L2(p[i], p[j]).toFixed(3);\n v.push({source: i, target: j, distance: d});\n }\n }\n return v;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2334,"value":"// Lista de conexão entre pontos - Obsoleta\ndistanciaPontos = grafoDistancias(pontos.values)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2557,"value":"zero = 1e-100","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2420,"value":"md`Gera o índice no vetor de distâncias a partir de i,j e o tamanho k`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4707,"value":"function ind(i, j) {\n return i * pontos.values.length + j;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2355,"value":"function indT(i, j, k) {\n function triangular(i) {\n return (i * (i + 1)) / 2;\n }\n \n let menor = Math.min(i, j), maior = Math.max(i, j);\n return triangular(k) - triangular(k-menor) + maior - menor;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2412,"value":"md`#### Gera matriz de distâncias`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2243,"value":"function matrizDistancias(p) {\n return matrizDistanciasGenerica(p, L2D);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3362,"value":"function matrizDistanciasGenerica(p, funcaoDistancia) {\n let tamanho = p.length,\n m = new Array(tamanho);\n\n for (let i = 0; i < tamanho; i++)\n m[i] = new Array(tamanho);\n for (let i = 0; i < tamanho; i++) {\n m[i][i] = zero;\n for (let j = i+1; j < tamanho; j++) {\n m[i][j] = +funcaoDistancia(p[i], p[j]).toFixed(3);\n m[j][i] = m[i][j];\n }\n }\n return m;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7075,"value":"// Distância L2 de pontos no formato {x: , y: }\nfunction L2D(i, j) {\n return L2([i.x, i.y], [j.x, j.y]);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1000,"value":"// Matriz de distância para os exemplos de conversão de distâncias para probabilidades\ndistancias = matrizDistancias(pontos.values)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7073,"value":"pontos.values","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2600,"value":"md`#### Funções para matrizes de distâncias e probabilidades \"achatadas\"`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":7085,"value":"function indice(i, j, n) {\n return Math.sqrt(n)*i+j;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2602,"value":"function valorIJ(i, j, m) {\n // Posição [i][j] de um vetor matricial m[kxk]\n return m[indice(i, j, m.length)];\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3146,"value":"function atribIJ(i, j, m, valor) {\n // Atribuição à posição [i][j] de um vetor matricial m[kxk]\n m[indice(i, j, m.length)] = valor;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2449,"value":"md`Dados artificiais para projeção idealizada dos 16 pontos`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":444,"value":"idealLinear = ({\n \"values\": [\n {\"x\": 0.72, \"y\": 1, \"Cluster\": \"a\"},\n {\"x\": 0.82, \"y\": 1.47, \"Cluster\": \"a\"},\n {\"x\": 0.92, \"y\": 2, \"Cluster\": \"a\"},\n {\"x\": 1.02, \"y\": 1.53, \"Cluster\": \"a\"},\n {\"x\": 1.53, \"y\": 3.25, \"Cluster\": \"b\"},\n {\"x\": 1.63, \"y\": 3.73, \"Cluster\": \"b\"},\n {\"x\": 1.73, \"y\": 4.25, \"Cluster\": \"b\"},\n {\"x\": 1.83, \"y\": 3.74, \"Cluster\": \"b\"},\n {\"x\": 2.53, \"y\": 0.75, \"Cluster\": \"c\"},\n {\"x\": 2.63, \"y\": 1.22, \"Cluster\": \"c\"},\n {\"x\": 2.73, \"y\": 1.75, \"Cluster\": \"c\"},\n {\"x\": 2.83, \"y\": 1.28, \"Cluster\": \"c\"},\n {\"x\": 3.23, \"y\": 3, \"Cluster\": \"d\"},\n {\"x\": 3.33, \"y\": 3.55, \"Cluster\": \"d\"},\n {\"x\": 3.43, \"y\": 4, \"Cluster\": \"d\"},\n {\"x\": 3.53, \"y\": 3.45, \"Cluster\": \"d\"}\n ]\n })","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1998,"value":"md`#### Dataset carros`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":490,"value":"carros = d3.json(\"https://vega.github.io/vega-lite/data/cars.json\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2000,"value":"md `#### Dataset meia lua`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":557,"value":"meiaLuaJSON = d3.json(\"https://raw.githubusercontent.com/RobStelling/miscImg/master/dados/halfMoon.json\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":650,"value":"meiaLua = JSON.parse(meiaLuaJSON)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2003,"value":"md`#### Dataset círculos`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":579,"value":"circulosJSON = d3.json(\"https://raw.githubusercontent.com/RobStelling/miscImg/master/dados/2circulos.json\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":653,"value":"circulos = JSON.parse(circulosJSON)","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2005,"value":"md`#### Atributos de gráficos`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":380,"value":"tamanhoCirculo = 150","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":388,"value":"opacity = 0.45","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":427,"value":"colorScheme = \"set1\"","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2008,"value":"md `#### Curvas normal e *t* de Student`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4749,"value":"gaussRandom = (function() {\n // return_v: Tells if there is a cached value\n // v_val: Cached value\n var return_v = false;\n var v_val = 0.0;\n return function gauss() {\n // Generates a gauss distributed random with mean 0.0\n // and sigma 1\n // Based on https://github.com/karpathy/tsnejs\n if(return_v) { \n return_v = false;\n return v_val; \n }\n var u = 2*Math.random()-1;\n var v = 2*Math.random()-1;\n var r = u*u + v*v;\n if(r == 0 || r > 1)\n return gauss();\n var c = Math.sqrt(-2*Math.log(r)/r);\n v_val = v*c;\n return_v = true;\n return u*c;\n };\n})();","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":795,"value":"function pontosCurvasNS(minimo, maximo, step, sigma, mi, gl) {\n // Gera pontos para distribuições Normal e Student com mesma variância\n let vetor = [];\n for (let x = minimo; x < maximo; x+= step) {\n vetor.push({x:x, y:normal(x, sigma, mi), Curva:\"Normal\"});\n vetor.push({x:x, y:students(x, gl, sigma), Curva:\"Student\"});\n }\n return vetor;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":682,"value":"function pontosNormal(minimo, maximo, step, sigma, mi) {\n let vetor = [];\n for (let x = minimo; x < maximo; x+= step)\n vetor.push({x:x, y:normal(x, sigma, mi)});\n return vetor;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":678,"value":"function normal(x, s, mi) {\n let y;\n y = 1/(s*Math.sqrt(2*Math.PI));\n y = y * Math.exp(-((x-mi)**2)/(2*s**2));\n return +y.toFixed(4);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":737,"value":"function pontosStudent(minimo, maximo, step, gl) {\n let vetor = [];\n for (let x = minimo; x <= maximo; x+= step)\n vetor.push({x:x, y:student(x, gl)});\n return vetor;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2231,"value":"function student(x, gl) {\n // t de Student com desvio padrão 1\n return students(x, gl, 1);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2225,"value":"function students(x, gl, s) {\n return +(stats.gammaFunc((gl+1)/2)/((Math.sqrt(gl*Math.PI)*s)*stats.gammaFunc(gl/2))*(1+((x/s)**2/gl))**(-(gl+1)/2)).toFixed(4)\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":774,"value":"function cauchy(x) {\n return 1/(Math.PI*(1+x*x))\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2017,"value":"md`##### Função gamma`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1447,"value":"p = [\n 0.99999999999980993,\n 676.5203681218851,\n -1259.1392167224028,\n 771.32342877765313,\n -176.61502916214059,\n 12.507343278686905,\n -0.13857109526572012,\n 9.9843695780195716e-6,\n 1.5056327351493116e-7\n]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1451,"value":"g_ln = 607/128","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1454,"value":"p_ln = [\n 0.99999999999999709182,\n 57.156235665862923517,\n -59.597960355475491248,\n 14.136097974741747174,\n -0.49191381609762019978,\n 0.33994649984811888699e-4,\n 0.46523628927048575665e-4,\n -0.98374475304879564677e-4,\n 0.15808870322491248884e-3,\n -0.21026444172410488319e-3,\n 0.21743961811521264320e-3,\n -0.16431810653676389022e-3,\n 0.84418223983852743293e-4,\n -0.26190838401581408670e-4,\n 0.36899182659531622704e-5\n]","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":723,"value":"function logGamma(Z) {\n var S=1+76.18009173/Z-86.50532033/(Z+1)+24.01409822/(Z+2)-1.231739516/(Z+3)+.00120858003/(Z+4)-.00000536382/(Z+5);\n var LG=(Z-.5)*Math.log(Z+4.5)-(Z+4.5)+Math.log(S*2.50662827465);\n\treturn LG;\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1443,"value":"function lngamma(z) {\n if(z < 0) return Number('0/0');\n var x = p_ln[0];\n for(var i = p_ln.length - 1; i > 0; --i) x += p_ln[i] / (z + i);\n var t = z + g_ln + 0.5;\n return .5*Math.log(2*Math.PI)+(z+.5)*Math.log(t)-t+Math.log(x)-Math.log(z);\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1436,"value":"function gamma (z) {\n var g = 7;\n if (z < 0.5) {\n return Math.PI / (Math.sin(Math.PI * z) * gamma(1 - z));\n }\n else if(z > 100) return Math.exp(lngamma(z));\n else {\n z -= 1;\n var x = p[0];\n for (var i = 1; i < g + 2; i++) {\n x += p[i] / (z + i);\n }\n var t = z + g + 0.5;\n return Math.sqrt(2 * Math.PI)\n * Math.pow(t, z + 0.5)\n * Math.exp(-t)\n * x;\n }\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2012,"value":"md`#### Matriz de dados em *TeX*`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1084,"value":"pt = (matrix, size) => {\n if (size == undefined)\n size = \"\\\\small\";\n const data = matrix.toArray().map(row => row.join(' & ')).join(' \\\\\\\\ ')\n const el = tex`${size}\n\\left(\\begin{matrix}\n${data}\n\\end{matrix}\\right)\n`\n el.value = matrix\n return el\n}","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2019,"value":"md `#### Equações em *TeX*`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1957,"value":"eq1 = String.raw`p_{j|i} = \\frac{\\exp(-\\|x_i-x_j\\|^2/2\\sigma^2_i)}{\\sum_{k\\neq i}\\exp(-\\|x_i-x_k\\|^2/2\\sigma^2_i)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1972,"value":"eq2 = String.raw`C = \\sum_i KL(P_i\\|Q_i) = \\sum_i\\sum_j p_{j|i} \\log\\frac{p_{j|i}}{q_{j|i}}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1975,"value":"eq3 = String.raw`q_{ij} = \\frac{\\exp(-\\|y_i-y_j\\|^2)}{\\sum_{k\\neq l}\\exp(-\\|y_k-y_l\\|^2)}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1979,"value":"eq4 = String.raw`q_{ij} = \\frac{(1+\\|y_i-y_j\\|^2)^{-1}}{\\sum_{k\\neq l}(1+\\|y_k-y_l\\|^2)^{-1}}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1982,"value":"eq5 = String.raw`\\frac{\\delta C}{\\delta y_i} = 4\\sum_j(p_{ij}-q_{ij})(y_i-y_j)(1+\\|y_i-y_j\\|^2)^{-1}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2059,"value":"eq6 = String.raw`\\sum_i\\sum_j p_{ij} \\log p_{ij}-p_{ij}\\log q_{ij}`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":3758,"value":"gammaEval = String.raw`\\gamma^{(t)} = \\gamma^{(t-1)} + \\eta\\frac{\\delta C}{\\delta \\gamma} + \\alpha(t)(\\gamma^{(t-1)} - \\gamma^{(t-2)})`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":260,"value":"md `# Conteúdo importado`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":4802,"value":"import {chart} from \"@mbostock/lets-try-t-sne\"","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":266,"value":"vegalite = require(\"@observablehq/vega-lite\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1089,"value":"math = require('https://unpkg.com/mathjs@5.0.1/dist/math.min.js')","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":281,"value":"d3 = require(\"d3-fetch@1\")","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":2240,"value":"stats = require('statdists')","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6897,"value":"md`#### Inputs`","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":1279,"value":"import {slider, radio} from \"@jashkenas/inputs\"","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6900,"value":"import {View} from \"@mbostock/synchronized-views\"","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"},{"id":6901,"value":"import {disposal} from \"@mbostock/disposal\"","pinned":false,"hidden":false,"mode":"ojs","author":"$undefined","summary":"$undefined","output":"$undefined","database":"$undefined"}],"files":"$W38","stdlib":"1","titling":"auto"}} 2a:"$29:body"