![](data:image/svg+xml;charset=utf-8,<svg width="640" height="640" style="background-color:%2344badc;font-family:Nunito,sans-serif" viewBox="0 0 100 100" preserveAspectRatio="xMidYMid meet" xmlns="http://www.w3.org/2000/svg">
<text font-size="30" x="50%" y="50%" dy="5" fill="white" dominant-baseline="middle" text-anchor="middle">Гд</text>
</svg>)
Утилита, которая сама смотрит на железо и говорит, какие модели имеет смысл запускать.
llmfit анализирует CPU, RAM и GPU, а потом подбирает модели, которые будут нормально работать.
https://github.com/AlexsJones/llmfit
llmfit анализирует CPU, RAM и GPU, а потом подбирает модели, которые будут нормально работать.
https://github.com/AlexsJones/llmfit