
| Memória da GPU | 4 GB (mostrado na tela) |
| Tamanho do modelo Qwen 3.5 0.8b | ~1.3 GB (mostrado na tela) |
| Tamanho do modelo de Embedding | 639 MB (mostrado na tela) |
| Auxílio Home Office | R$ 200,00/mês (mostrado na tela como exemplo) |
Para quem esta análise vai economizar uma hora?Enviamos o link com a conclusão “na real” — a pessoa não precisa assistir ao vídeo inteiro.
Você pode criar um instalando o Ollama para rodar modelos open-source e usando Python com a biblioteca LangChain para gerenciar a busca de documentos e a lógica do chat.
O Ollama é atualmente a ferramenta mais popular e fácil de usar para executar e gerenciar LLMs open-source no Windows, Mac e Linux.
Sim. Ao usar modelos locais com o Ollama, você elimina a necessidade de chaves de API de provedores como OpenAI ou Anthropic, tornando a IA gratuita após o custo inicial de hardware.
O componente mais importante é uma GPU dedicada. Para modelos pequenos e eficientes como o Qwen 0.8b, 4GB de VRAM são suficientes, mas 8GB ou mais são recomendados para melhor desempenho.
Com certeza. Como o modelo roda na sua própria máquina, os documentos sensíveis e o histórico de chat da sua empresa nunca saem da sua rede local.