Alguém equipou um NAS com uma GPU RTX para criar o melhor chatbot de IA local

Principais conclusões

  • Os chatbots de IA executados localmente podem ser o futuro da análise de dados empresariais, eliminando preocupações com privacidade.
  • Adicionar uma GPU a um NAS pode criar uma solução de chatbot poderosa para as necessidades de dados das empresas.
  • Os modelos internos de IA podem substituir serviços de terceiros, permitindo que as empresas lidem com dados confidenciais de forma independente.

Os modelos de chatbot de IA que podem analisar páginas de dados em poucos segundos têm um enorme potencial nas empresas. O problema é que, depois de enviar seus dados para o chatbot, para onde vai tudo isso? É difícil confiar dados confidenciais a um serviço de terceiros se você não tiver certeza do que acontecerá com eles, especialmente se esse serviço desejar salvar respostas para treinar melhor sua IA. A solução é uma IA executada localmente que não envia seus dados para outro lugar, e alguém criou um chatbot de nível empresarial que poderia realmente ajudar uma empresa a lidar com centenas de arquivos.

Fonte

Análise do TerraMaster F4-424 Pro: um NAS poderoso a um preço razoável

Hardware incrível com software decente para um NAS doméstico sólido.

Adicionando uma GPU a um NAS para criar um chatbot de IA

Como avistado por Ferragens do Tomo pessoal do StorageReview no YouTube tem feito coisas interessantes com um NAS. Eles escolheram um modelo específico que vem com uma porta de placa-mãe grande o suficiente para acomodar uma placa gráfica, então decidiram ir além das especificações do NAS e instalaram uma Nvidia RTX A4000 nele. O fato é que, durante tudo isso, a Nvidia lançou o “Chat With RTX”, que permite que as pessoas executem um chatbot com tecnologia de IA em seu hardware local.

A ideia então se transformou em criar um chatbot de execução local que tivesse acesso a todo o armazenamento do NAS. Eles teorizaram que uma empresa poderia usar o NAS para armazenar todas as suas informações e documentos confidenciais e, em seguida, usar o chatbot para filtrar todos os dados e responder a quaisquer perguntas que você fizesse. E como tudo funciona em hardware local, não há preocupações de privacidade sobre o que o chatbot analisa.

Um possível vislumbre do futuro da IA ​​orientada para negócios

É uma visão interessante sobre o que o futuro pode reservar para a IA nas empresas. Em vez de as empresas enviarem todos os seus dados para um serviço de terceiros, poderemos ver uma era em que adquirirão uma IA interna que funciona nos seus servidores e tem acesso a informações confidenciais. As pessoas podem então abrir um chatbot com a IA e solicitar informações como números de vendas, classificações de desempenho ou qualquer outra coisa relacionada às operações do negócio. Quem sabe; este pode ser o início de uma era em que cada empresa terá o seu próprio modelo de IA personalizado para as suas necessidades.

Fuente