Avaliações e Detalhes do Produto de TrueFoundry

TrueFoundry é uma plataforma fácil de configurar para todos os seus casos de uso de MLOPs, implantação de modelos LLM e Gen AI. Nossa empresa fez parceria com a TrueFoundry para permitir a integração de novos membros da equipe na implementação de chatbot baseado em RAG. Todos conseguiram rapidamente configurar a conta na plataforma e começar os projetos imediatamente. A equipe de suporte também é muito responsiva e sempre que alguém tinha uma dúvida, eles respondiam rapidamente. A plataforma também é fácil de integrar no sistema da nossa empresa e todos a usaram inicialmente como o produto principal. Quando os casos de uso de gen ai estavam apenas começando, o que reflete que a TrueFoundry teve uma vantagem inicial na configuração da plataforma de LLM ops. Quando ficou provado que a TrueFoundry é o produto ideal para a integração de novos membros da equipe, mais pessoas foram adicionadas para uso regular. Análise coletada por e hospedada no G2.com.

Não há muita desvantagem, mas uma coisa que a TrueFoundry pode tentar no futuro é criar um ambiente de código zero/baixo código para LLM Ops. Análise coletada por e hospedada no G2.com.

- Autoscaling

- Cloud Agnostic

- Customer Support

- Easy to use and very easy to integrate in existing code unlike AWS Sagemaker or Metaflow which requires chaning code

- Once setup is done, easy to update model with a single click Análise coletada por e hospedada no G2.com.

- Since it is an early product, few featuers might not be available but customer support is very good and they implement features at very fast pace Análise coletada por e hospedada no G2.com.

Embora eu não interaja pessoalmente com a equipe regularmente, recebi feedback da equipe de desenvolvimento e eles não têm reclamações. Eles apreciam o fato de que a equipe da TrueFoundry sempre esteve lá nos apoiando com a integração da plataforma, suporte de manutenção e até mesmo requisitos não planejados. Análise coletada por e hospedada no G2.com.

A equipe tem sido extremamente responsiva e eu não tenho nenhuma reclamação até agora. Análise coletada por e hospedada no G2.com.

- Alivia a dor da configuração da infraestrutura GenAI

- Gama de modelos de código aberto disponíveis para experimentar em nossa aplicação

- Boa integração com a suíte HuggingFace

- As implantações de LLM tornam-se muito mais fáceis com a TrueFoundry

- Ótima integração com Github, VS Code, AWS, GCP e outras ferramentas relacionadas

- Seleciona automaticamente a GPU mais adequada necessária para nossa aplicação para reduzir o custo total de faturamento da GPU

- Ótimo suporte por parte da equipe técnica. Na maioria das vezes, estão disponíveis para resolver qualquer problema. Eles também oferecem uma demonstração do produto sempre que necessário/solicitado.

- A interface do produto também é simples e amigável.

- As implantações em nuvem também são muito boas com capacidade de auto-escalar/reduzir.

- No geral, uma plataforma indispensável e de referência para implantação eficiente e escalonada. Minha equipe a utiliza diariamente. Análise coletada por e hospedada no G2.com.

- Para minha equipe, precisamos dos custos de faturamento de GPU no nível do espaço de trabalho e de cada projeto. Se isso puder ser feito, adiciona mais valor à minha equipe.

- Alguma coisa que você possa apoiar na criação de Dashboards para pipelines de dados? Análise coletada por e hospedada no G2.com.

Ele simplificou o processo de implantação. As etapas que me ajudaram pessoalmente:

1. Facilidade de implantação a partir do local/repositório

2. Teste de desempenho e funcionalidade da solução antes da implantação em produção

3. Rastreamento e registro de métricas de implantação

4. Personalização no armazenamento de dados em produção, o que ajuda na manutenção e depuração

5. Rastreamento de todos os trabalhos e implantações em um só lugar

Além disso, o suporte ao cliente deles é muito rápido. Análise coletada por e hospedada no G2.com.

Se houver um escopo que poderia ser um ambiente de desenvolvimento amigável ao usuário, o que o tornaria uma plataforma única para desenvolvimento, teste e implantação de soluções. Análise coletada por e hospedada no G2.com.

TrueFoundry tornou o provisionamento e a gestão da infraestrutura de Gen AI eficientes e economizadores de tempo. Sua plataforma oferece a implantação perfeita de modelos complexos com uma interface amigável e uma visão consolidada para integrar fluxos de trabalho existentes. TrueFoundry garante o tempo de inatividade mínimo e acelera as implantações. TrueFoundry oferece uma solução econômica com um modelo de pagamento conforme o uso com suporte extraordinário. Sua equipe de suporte é altamente qualificada e responsiva. Análise coletada por e hospedada no G2.com.

Não há nada para não gostar sobre o TrueFoundry, pois ele atende ao nosso caso de uso, mas há espaço para melhorias. Mais integrações para clusters Kubernetes para novos provedores de serviços em nuvem serão a área chave a melhorar. Análise coletada por e hospedada no G2.com.

Isso facilita para os desenvolvedores implantar modelos de ML ou quaisquer outros serviços rapidamente sem se preocupar com componentes de infraestrutura e sem a ajuda da equipe de DevOps. Economiza muito atrito e tempo para levar um novo serviço à produção e integra-se com todos os principais provedores de nuvem. A melhor parte é que a equipe é muito rápida em responder a quaisquer problemas/perguntas. Análise coletada por e hospedada no G2.com.

Eles ainda estão desenvolvendo o produto e há alguns bugs aqui e ali, e eles dependem muito de ferramentas de código aberto, o que às vezes os impede de resolver um problema. Análise coletada por e hospedada no G2.com.

Os modelos LLM são fáceis de implantar e a equipe é superativa na resolução de consultas. É fácil de usar e muitas coisas estão documentadas claramente. O painel é bem desenvolvido, tornando-o mais fácil de usar para novos e antigos usuários. Gostei do serviço de ajuste fino para LLMs, que facilita o ajuste fino, mesmo que você tenha acabado de começar a usá-lo. Análise coletada por e hospedada no G2.com.

Poderíamos ter mais opções para ajuste fino e opções para implantar automaticamente em modelos de estágio intermediário. Análise coletada por e hospedada no G2.com.

Recentemente, usei o produto da Truefoundry e estou completamente impressionado. A Truefoundry simplificou significativamente nosso fluxo de trabalho de aprendizado de máquina (incluindo LLM), tornando mais fácil e eficiente implantar e monitorar modelos. Os recursos de implantação automatizada devem nos economizar inúmeras horas, permitindo que nos concentremos mais na construção e refinamento de nossos modelos em vez de nos perdermos nas complexidades da implantação. O LLM pré-embalado facilita a avaliação do desempenho em nosso conjunto de dados. Análise coletada por e hospedada no G2.com.

A iteração através de conjuntos de dados pode ser melhorada e também a versionamento de conjuntos de dados associados. Análise coletada por e hospedada no G2.com.

Isso torna extremamente fácil e rápido implantar novos serviços/modelos em ambientes de teste e, em seguida, promovê-los para produção com apenas alguns cliques. Isso é facilitado por uma ótima interface de usuário que abstrai toda a infraestrutura do Kubernetes, permitindo-nos reduzir custos e mudar para diferentes provedores de servidores de forma contínua. Análise coletada por e hospedada no G2.com.

Configurar toda a infraestrutura e serviços específicos pode ser desafiador em alguns cenários. No entanto, o suporte da TruFoundry se destacou em nos ajudar a chegar onde precisávamos estar todas as vezes, sem atrasos. Análise coletada por e hospedada no G2.com.