Tags populares：
Virtualização segurança DNS verificação formal análise de alcance IA erros do compilador conflito de macro extensão web framework de desenvolvimento Gráficos de Bitmap Todos os tags

Forth revisitado: Duas implementações e reflexões sobre uma linguagem peculiar

2025-08-28

O autor revisita a linguagem Forth, pela primeira vez encontrada há 20 anos. Ao longo de dois meses, ele implementou dois interpretadores Forth: goforth (em Go) e ctil (em C). O goforth, um interpretador puro, é simples, mas carece de recursos avançados. O ctil, mais próximo de uma implementação Forth tradicional, permite a extensão da linguagem usando o próprio Forth, mostrando seu poder. O autor argumenta que os pontos fortes únicos do Forth residem em seu contexto de hardware antigo. No entanto, seu modelo baseado em pilha o torna menos legível e menos prático em contextos modernos, sendo mais adequado como um projeto de aprendizagem para entender princípios de compiladores e máquinas virtuais.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento Implementação de Linguagem Princípios de Compiladores

Algoritmo de Unificação: Implementação e Aplicações

2025-08-18

Esta publicação aprofunda-se no algoritmo de unificação, um processo para resolver automaticamente equações entre termos simbólicos. Ele tem amplo uso em programação lógica e inferência de tipos. Começando com a correspondência de padrões, a publicação constrói o conceito de unificação, fornecendo uma implementação em Python baseada no algoritmo aprimorado de Norvig. A implementação inclui definições de estruturas de dados, a função principal `unify`, funções auxiliares `unify_variable` e `occurs_check`, juntamente com exemplos de código detalhados e resultados de execução.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento unificação

A Conexão Elegante Entre Multiplicação de Polinômios, Convolução e Processamento de Sinais

2025-05-21

Esta publicação explora a conexão entre a multiplicação de polinômios, convolução e processamento de sinais. Começa explicando visualmente a multiplicação de polinômios usando tabelas e diagramas, revelando sua natureza fundamental como uma operação de convolução. Em seguida, apresenta sinais e sistemas discretos, focando em sistemas lineares invariantes no tempo (LIT). Explica que qualquer sinal pode ser decomposto em uma sequência de sinais de impulso escalonados e deslocados, e a resposta de um sistema LIT pode ser calculada usando convolução. Finalmente, aborda brevemente as propriedades da convolução e sua relação com a transformada de Fourier, destacando que a transformada de Fourier de uma convolução é igual ao produto das transformadas de Fourier de seus operandos, permitindo o cálculo eficiente da convolução.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento convolução processamento de sinais polinômios

Filtros de Bloom: Uma Estrutura de Dados Probabilística para Membros de Conjunto Eficientes

2025-05-02

Filtros de Bloom são estruturas de dados probabilísticas que testam eficientemente se um elemento é membro de um conjunto, usando espaço mínimo. Ao aplicar hash aos elementos em vários locais em um array de bits, os filtros de Bloom oferecem testes de associação rápidos, embora com uma pequena chance de falsos positivos. Ideal para cenários em que a maioria das consultas retorna negativo, os filtros de Bloom aceleram significativamente as pesquisas. Este artigo detalha os princípios subjacentes, a implementação (com um exemplo em Go), e a derivação matemática. Um exemplo prático demonstra o cálculo de parâmetros ótimos para um conjunto de bilhões de itens com uma taxa de falso positivo de 1%, destacando sua eficácia no processamento de dados em larga escala.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento Filtro de Bloom estrutura de dados probabilística

Transformers Eficientes: Mistura de Especialistas com Acesso Disperso (MoE)

2025-04-20

As camadas feed-forward em modelos Transformer costumam ser massivas, criando um gargalo de eficiência. A Mistura de Especialistas com Acesso Disperso (MoE) oferece uma solução elegante. O MoE decompõe a grande camada feed-forward em várias redes menores de "especialistas" e usa um roteador para selecionar o subconjunto ideal de especialistas para o cálculo de cada token, reduzindo significativamente o custo computacional e melhorando a eficiência. Esta postagem detalha o funcionamento do MoE, fornece uma implementação NumPy e discute questões-chave como o balanceamento de carga dos especialistas.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento Eficiência do Modelo

Entropia Cruzada: Uma Imersão na Função de Perda para Classificação

2025-04-13

Esta publicação fornece uma explicação clara do papel da entropia cruzada como uma função de perda em tarefas de classificação de aprendizado de máquina. Começando com conceitos de teoria da informação, como conteúdo de informação e entropia, ela constrói até a entropia cruzada, comparando-a com a divergência KL. O artigo conclui demonstrando a relação entre a entropia cruzada e a estimativa de máxima verossimilhança com exemplos numéricos, esclarecendo sua aplicação no aprendizado de máquina.

Leia mais
(eli.thegreenplace.net)
IA entropia cruzada função de perda

Fazendo Milagres com Quatro 2s: Uma Solução Elegante para um Quebra-Cabeça Matemático

2025-02-23

Um quebra-cabeça matemático aparentemente simples: usando apenas quatro 2s e qualquer operação matemática, gere qualquer número natural. Da aritmética do ensino fundamental à matemática avançada da universidade, todos podem participar. Inicialmente um desafio aparentemente simples, a dificuldade aumenta com a introdução de expoentes, fatoriais, etc. Por fim, o físico Dirac, usando raízes quadradas aninhadas e logaritmos, encontrou uma solução geral, resolvendo elegantemente este problema secular, mesmo com apenas quatro 2s.

Leia mais
(eli.thegreenplace.net)
Diversos raízes quadradas aninhadas

Decoradores JIT do Python: Três Estratégias de Implementação

2025-02-03

Este artigo aprofunda o popular padrão de decorador JIT em Python, particularmente seu uso nas bibliotecas JAX e Triton. O autor implementa três decoradores JIT do zero usando um exemplo simplificado: baseado em AST, baseado em bytecode e baseado em rastreamento. A abordagem baseada em AST manipula diretamente a Árvore de Sintaxe Abstrata; a abordagem baseada em bytecode alavanca o interpretador de bytecode do Python; e a abordagem baseada em rastreamento constrói um IR de expressão rastreando a execução da função em tempo de execução. O artigo detalha as vantagens e desvantagens de cada abordagem e usa JAX e Numba como exemplos para ilustrar suas estratégias em aplicações do mundo real.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento

Implementando Raft: Uma Imersão no Consenso Distribuído

2024-12-21

Este é o primeiro post de uma série que detalha o algoritmo de consenso distribuído Raft e sua implementação em Go. O Raft resolve o problema de replicar uma máquina de estado determinística em vários servidores, garantindo a disponibilidade do serviço mesmo com falhas de servidores. O post apresenta os componentes principais do Raft: a máquina de estado, o log, o módulo de consenso, os papéis de líder/seguidor e a interação do cliente. Ele discute a tolerância a falhas do Raft, o teorema CAP e a escolha de Go como linguagem de implementação. Postagens subsequentes mergulharão nos detalhes da implementação do algoritmo.

Leia mais
(eli.thegreenplace.net)
Desenvolvimento Consenso Distribuído