Login Inscreva-se

Topic

News

A collection of 7 issues

Estrutura Multi-Submanifold em Espaços Latentes de LLMs: Uma Análise Topológica e Geométrica

Introdução A hipótese do manifold — a ideia de que dados de alta dimensão residem em ou perto de um manifold de baixa dimensão — é um princípio fundamental na teoria de deep learning. Originalmente formulada para dados de imagem, essa hipótese foi estendida para processamento de linguagem natural, onde representações de

Athenas-Symbiote-9B: Um modelo de 9B treinado em T4 supera modelos de 72B no exame da OAB

Acabei de publicar o relatório técnico do Athenas-Symbiote-9B, um modelo de linguagem de 9 bilhões de parâmetros que eu treinei especificamente para português brasileiro, com foco em raciocínio jurídico e acadêmico. Resultados Principais * OAB (Exame da Ordem): 63.23% (3-shot) — 11.13 pontos percentuais acima do Qwen2.

O Elefante na Sala: Quem está revisando o código que a sua IA acabou de escrever?

Se você trabalha com desenvolvimento de software hoje, é provável que já tenha comemorado o fato de o GitHub Copilot, ChatGPT ou Cursor estarem escrevendo blocos inteiros do seu sistema em segundos. A promessa de ser um "desenvolvedor 10x" finalmente bateu à porta. Mas tem um detalhe que

Conheça o Qwen-AgentWorld-35B-A3B: O Novo "Simulador de Mundos" para Agentes de IA

A equipe do Qwen (Alibaba) acaba de disponibilizar uma novidade no Hugging Face que promete revolucionar a forma como treinamos e avaliamos Inteligências Artificiais. O Qwen-AgentWorld-35B-A3B não é apenas mais um modelo de linguagem comum; ele é um Language World Model (LWM) — um modelo criado do zero

Processo de Lançamento de Modelos LLM Flagship

Introdução Este documento detalha o processo técnico e as fases envolvidas no lançamento de Modelos de Linguagem Grande (LLM) de ponta, conhecidos como modelos flagship. A compreensão dessas etapas é crucial para desenvolvedores, pesquisadores e estrategistas que operam no ecossistema de IA, especialmente diante da aceleração observada nos ciclos de

Prefill-as-a-Service (PrfaaS): Desagregação de KVCache Cross-Datacenter

1. Introdução e Contexto O serviço de Modelos de Linguagem de Grande Escala (LLMs) é tradicionalmente dividido em duas fases distintas: Prefill (processamento do prompt de entrada) e Decode (geração iterativa de tokens). Devido às características computacionais opostas de cada fase (o prefill é limitado pela computação, enquanto o decode

Guia Definitivo: Alinhamento de LLMs com DPO usando Unsloth

Enquanto o Supervised Fine-Tuning (SFT) ensina o modelo a como falar (formato, estilo e sintaxe), o alinhamento ensina o modelo a como pensar e o que preferir. Durante muito tempo, o RLHF (Reinforcement Learning from Human Feedback) foi o padrão da indústria, mas sua arquitetura complexa, exigindo múltiplos modelos