Como ter sua própria LLM rodando offline na sua máquina?
Tenha sua própria IA rodando localmente na sua máquina, offline e grátis!
Tenha sua própria IA rodando localmente na sua máquina, offline e grátis!
O OmniVoice é um modelo de inteligência artificial para síntese de voz que pode ser executado inteiramente no seu próprio computador. Diferente de serviços como o ElevenLabs, que dependem da nuvem, ele permite gerar áudio localmente utilizando a GPU, oferecendo maior privacidade, funcionamento sem internet, ausência de limites de uso e tempos de resposta muito menores após a configuração inicial. Neste tutorial, mostrarei exatamente como configurei o OmniVoice em um CachyOS com uma AMD Radeon RX 6600 utilizando ROCm. Embora o procedimento tenha sido realizado no CachyOS, ele também pode ser reproduzido em praticamente qualquer distribuição baseada em Arch Linux, como Arch Linux, EndeavourOS, Garuda Linux e Manjaro, com poucas ou nenhuma adaptação. ...
Tem uma pergunta que eu ouço com uma frequência impressionante de gente que trabalha com tecnologia: “mas como o ChatGPT sabe o que responder?”. E a resposta curta, “ele não sabe nada, ele só prevê a próxima palavra”, costuma deixar as pessoas mais confusas do que estavam antes. Faz sentido. Se é só previsão de próxima palavra, por que às vezes parece que ele está raciocinando, corrigindo o próprio erro, ou explicando um conceito que você jura que ele “entendeu”? ...