Eu tenho uma implicância com conta de IA que só parece barata porque a fatura ainda não chegou. Rodar modelo dentro da empresa soa libertador até entrar máquina, energia, manutenção e alguém pra acordar quando ela para. A nuvem também sabe cobrar silêncio.

O que me chamou atenção no DwarfStar é ser assumidamente estreito: roda poucos modelos e pede hardware parrudo. Acho ótimo quando a ferramenta diz onde não serve. Economia de API não é economia se você comprou um computador caro pra responder pergunta fácil.

Eu faria um piloto de sete dias com DwarfStar numa rotina repetitiva do seu time e compararia custo total, tempo e exceções humanas. Se privacidade e volume não pagam a conta, deixa na nuvem e dorme melhor.

https://github.com/antirez/ds4