Avaliações e Detalhes do Produto de TrueFoundry

TrueFoundry é uma plataforma fácil de configurar para todos os seus casos de uso de MLOPs, implantação de modelos LLM e Gen AI. Nossa empresa fez parceria com a TrueFoundry para permitir a integração de novos membros da equipe na implementação de chatbot baseado em RAG. Todos conseguiram rapidamente configurar a conta na plataforma e começar os projetos imediatamente. A equipe de suporte também é muito responsiva e sempre que alguém tinha uma dúvida, eles respondiam rapidamente. A plataforma também é fácil de integrar no sistema da nossa empresa e todos a usaram inicialmente como o produto principal. Quando os casos de uso de gen ai estavam apenas começando, o que reflete que a TrueFoundry teve uma vantagem inicial na configuração da plataforma de LLM ops. Quando ficou provado que a TrueFoundry é o produto ideal para a integração de novos membros da equipe, mais pessoas foram adicionadas para uso regular. Análise coletada por e hospedada no G2.com.

Não há muita desvantagem, mas uma coisa que a TrueFoundry pode tentar no futuro é criar um ambiente de código zero/baixo código para LLM Ops. Análise coletada por e hospedada no G2.com.

Prototyping/Testing deployments have become very quick with one click deployments, able to build and deploy through a particular branch and commit helps quick iterations. Ability to use SSH server with required service accounts and VsCode helps increase productivity. Support is helpful as well for any queries that occur. Able to look to live logs in the UI itself helps in quick debugging. We were able to deploy a hugging face model for a customer facing service fairly quickly using their ML model deployments. Análise coletada por e hospedada no G2.com.

Some features such as RBAC control, safe guarding production deployments is needed. Approval based deployment rollout is also a good feature to have. Análise coletada por e hospedada no G2.com.

- Autoscaling

- Cloud Agnostic

- Customer Support

- Easy to use and very easy to integrate in existing code unlike AWS Sagemaker or Metaflow which requires chaning code

- Once setup is done, easy to update model with a single click Análise coletada por e hospedada no G2.com.

- Since it is an early product, few featuers might not be available but customer support is very good and they implement features at very fast pace Análise coletada por e hospedada no G2.com.

Embora eu não interaja pessoalmente com a equipe regularmente, recebi feedback da equipe de desenvolvimento e eles não têm reclamações. Eles apreciam o fato de que a equipe da TrueFoundry sempre esteve lá nos apoiando com a integração da plataforma, suporte de manutenção e até mesmo requisitos não planejados. Análise coletada por e hospedada no G2.com.

A equipe tem sido extremamente responsiva e eu não tenho nenhuma reclamação até agora. Análise coletada por e hospedada no G2.com.

- Alivia a dor da configuração da infraestrutura GenAI

- Gama de modelos de código aberto disponíveis para experimentar em nossa aplicação

- Boa integração com a suíte HuggingFace

- As implantações de LLM tornam-se muito mais fáceis com a TrueFoundry

- Ótima integração com Github, VS Code, AWS, GCP e outras ferramentas relacionadas

- Seleciona automaticamente a GPU mais adequada necessária para nossa aplicação para reduzir o custo total de faturamento da GPU

- Ótimo suporte por parte da equipe técnica. Na maioria das vezes, estão disponíveis para resolver qualquer problema. Eles também oferecem uma demonstração do produto sempre que necessário/solicitado.

- A interface do produto também é simples e amigável.

- As implantações em nuvem também são muito boas com capacidade de auto-escalar/reduzir.

- No geral, uma plataforma indispensável e de referência para implantação eficiente e escalonada. Minha equipe a utiliza diariamente. Análise coletada por e hospedada no G2.com.

- Para minha equipe, precisamos dos custos de faturamento de GPU no nível do espaço de trabalho e de cada projeto. Se isso puder ser feito, adiciona mais valor à minha equipe.

- Alguma coisa que você possa apoiar na criação de Dashboards para pipelines de dados? Análise coletada por e hospedada no G2.com.

Ele simplificou o processo de implantação. As etapas que me ajudaram pessoalmente:

1. Facilidade de implantação a partir do local/repositório

2. Teste de desempenho e funcionalidade da solução antes da implantação em produção

3. Rastreamento e registro de métricas de implantação

4. Personalização no armazenamento de dados em produção, o que ajuda na manutenção e depuração

5. Rastreamento de todos os trabalhos e implantações em um só lugar

Além disso, o suporte ao cliente deles é muito rápido. Análise coletada por e hospedada no G2.com.

Se houver um escopo que poderia ser um ambiente de desenvolvimento amigável ao usuário, o que o tornaria uma plataforma única para desenvolvimento, teste e implantação de soluções. Análise coletada por e hospedada no G2.com.

TrueFoundry tornou o provisionamento e a gestão da infraestrutura de Gen AI eficientes e economizadores de tempo. Sua plataforma oferece a implantação perfeita de modelos complexos com uma interface amigável e uma visão consolidada para integrar fluxos de trabalho existentes. TrueFoundry garante o tempo de inatividade mínimo e acelera as implantações. TrueFoundry oferece uma solução econômica com um modelo de pagamento conforme o uso com suporte extraordinário. Sua equipe de suporte é altamente qualificada e responsiva. Análise coletada por e hospedada no G2.com.

Não há nada para não gostar sobre o TrueFoundry, pois ele atende ao nosso caso de uso, mas há espaço para melhorias. Mais integrações para clusters Kubernetes para novos provedores de serviços em nuvem serão a área chave a melhorar. Análise coletada por e hospedada no G2.com.

Isso facilita para os desenvolvedores implantar modelos de ML ou quaisquer outros serviços rapidamente sem se preocupar com componentes de infraestrutura e sem a ajuda da equipe de DevOps. Economiza muito atrito e tempo para levar um novo serviço à produção e integra-se com todos os principais provedores de nuvem. A melhor parte é que a equipe é muito rápida em responder a quaisquer problemas/perguntas. Análise coletada por e hospedada no G2.com.

Eles ainda estão desenvolvendo o produto e há alguns bugs aqui e ali, e eles dependem muito de ferramentas de código aberto, o que às vezes os impede de resolver um problema. Análise coletada por e hospedada no G2.com.

Os modelos LLM são fáceis de implantar e a equipe é superativa na resolução de consultas. É fácil de usar e muitas coisas estão documentadas claramente. O painel é bem desenvolvido, tornando-o mais fácil de usar para novos e antigos usuários. Gostei do serviço de ajuste fino para LLMs, que facilita o ajuste fino, mesmo que você tenha acabado de começar a usá-lo. Análise coletada por e hospedada no G2.com.

Poderíamos ter mais opções para ajuste fino e opções para implantar automaticamente em modelos de estágio intermediário. Análise coletada por e hospedada no G2.com.

Recentemente, usei o produto da Truefoundry e estou completamente impressionado. A Truefoundry simplificou significativamente nosso fluxo de trabalho de aprendizado de máquina (incluindo LLM), tornando mais fácil e eficiente implantar e monitorar modelos. Os recursos de implantação automatizada devem nos economizar inúmeras horas, permitindo que nos concentremos mais na construção e refinamento de nossos modelos em vez de nos perdermos nas complexidades da implantação. O LLM pré-embalado facilita a avaliação do desempenho em nosso conjunto de dados. Análise coletada por e hospedada no G2.com.

A iteração através de conjuntos de dados pode ser melhorada e também a versionamento de conjuntos de dados associados. Análise coletada por e hospedada no G2.com.