
| Видеопамять (GPU) | 4 GB |
| Размер модели Qwen 3.5 0.8b | ~1.3 GB |
| Размер модели эмбеддингов | 639 MB |
| Бюджет на домашний офис | R$ 200,00/мес |
Кому этот разбор сэкономит час?Отправим со ссылкой и выводом «на деле» — человеку не придётся смотреть весь ролик.
Установите Ollama для запуска моделей с открытым исходным кодом и используйте Python с библиотекой LangChain для обработки документов и логики чата.
Ollama — самый популярный и удобный инструмент для управления и запуска LLM с открытым кодом на Windows, Mac и Linux.
Да, использование локальных моделей через Ollama исключает необходимость в API-ключах от OpenAI или Anthropic, делая ИИ бесплатным после затрат на оборудование.
Ключевой компонент — видеокарта (GPU). Для небольших моделей, таких как Qwen 0.8b, достаточно 4 ГБ видеопамяти, но для лучшей производительности рекомендуется 8 ГБ и более.
Безусловно. Модель работает на вашем оборудовании, поэтому корпоративные документы и история переписки не покидают вашу локальную сеть.