⚡ Главное за 60 секунд (TL;DR)
⏱ ~ 2 мин чтения- Более крупный контекст просто позволяет выполнить больше работы, вместо того, чтобы перечитывать файлы с идентификатором ETC, а лучше использовать мои дополнительные ресурсы в окне контекста. Вместо большего количества параметров. я получаю свои 400 тысяч ctx q...
- я получаю свой 400k ctx qwen3.8-27b + поиск в Интернете, получаю последние актуальные документы из-за отсутствия мировых знаний, и я не трачу лишние Vram на хранение данных, которые мне не нужны.
- Кроме того, более активные параметры позволяют фильму использовать более широкую мысленную модель задачи.
Более крупный контекст просто позволяет выполнить больше работы, вместо того, чтобы перечитывать файлы с идентификатором ETC, а лучше использовать мои дополнительные ресурсы в окне контекста. Вместо большего количества параметров.
я получаю свой 400k ctx qwen3.8-27b + поиск в Интернете, получаю последние актуальные документы из-за отсутствия мировых знаний, и я не трачу лишние Vram на хранение данных, которые мне не нужны. Кроме того, более активные параметры позволяют фильму использовать более широкую мысленную модель задачи. Qwen4-27b будет спроектирован так, чтобы сделать 1M более надежным, и его использование для контекста на модели с меньшей плотностью кажется мне более продуктивным. Любой. Еще обратите внимание, что агентская сессия действительно работает, когда ctx больше? Это явление, с которым я столкнулся, я попробовал 3.8flash-next, да, это здорово и намного быстрее, но я предпочитаю надежность этой большой загрузки контекстного окна.
В частности, у вас есть запасной vram, если вы можете получить на него 1M и иметь большой MOE с как минимум 12b активных параметров + 1M, было бы лучше для MOE много. Намного лучше, чем qwen4-27b, но при 48 ГБ vram + 64 ГБ системной памяти я считаю, что это более эффективно для меньшей модели + 1 М имеет больше смысла
💬 Discussion 0
BBCode & Emoji supportedParticipate in discussions, ask authors questions, and share benchmarks by joining the ProArena engineering community.