Video is unavailable for watching
Show in Telegram
🚀🧠 Запускать гигантские нейросети теперь можно и на домашнем ПК — вышел новый ИИ-движок FreeToken.
Его фишка — тонкая работа с архитектурой МоЕ: нагрузка равномерно распределяется между видеокартой, оперативкой и процессором. Благодаря этому даже требовательные модели запускаются на одной видеокарте:
• Qwen3.6 35B — на ноутбуке с RTX 4060 8GB, 39 токенов/с
• DeepSeek-V4-Flash 284B — на RTX 5090, 22–25 токенов/с
здесь
#MoE #FreeToken #ИИ #нейросети
РазноТЕХ
Его фишка — тонкая работа с архитектурой МоЕ: нагрузка равномерно распределяется между видеокартой, оперативкой и процессором. Благодаря этому даже требовательные модели запускаются на одной видеокарте:
• Qwen3.6 35B — на ноутбуке с RTX 4060 8GB, 39 токенов/с
• DeepSeek-V4-Flash 284B — на RTX 5090, 22–25 токенов/с
здесь
#MoE #FreeToken #ИИ #нейросети
РазноТЕХ