Avis et détails du produit de TrueFoundry

TrueFoundry est une plateforme facile à configurer pour tous vos cas d'utilisation MLOps, déploiement de modèles LLM et Gen AI. Notre entreprise s'était associée à TrueFoundry pour permettre l'intégration de nouveaux membres de l'équipe sur la mise en œuvre de chatbots basés sur RAG. Tout le monde a rapidement pu configurer le compte de la plateforme et commencer les projets immédiatement. L'équipe de support est également très réactive et chaque fois que quelqu'un avait un doute, elle répondait rapidement. La plateforme est également facile à intégrer dans le système de notre entreprise et tout le monde l'a utilisée initialement comme produit principal. Lorsque les cas d'utilisation de l'IA générative commençaient à peine, cela reflète que TrueFoundry a pris une avance dans la mise en place de la plateforme LLM ops. Lorsqu'il a été prouvé que TrueFoundry est le produit de référence pour l'intégration de nouveaux membres de l'équipe, plus de personnes y ont été ajoutées pour une utilisation régulière. Avis collecté par et hébergé sur G2.com.

Pas beaucoup d'inconvénients mais une chose que TrueFoundry peut essayer à l'avenir est de créer un environnement sans code/faible code pour les opérations LLM. Avis collecté par et hébergé sur G2.com.

Prototyping/Testing deployments have become very quick with one click deployments, able to build and deploy through a particular branch and commit helps quick iterations. Ability to use SSH server with required service accounts and VsCode helps increase productivity. Support is helpful as well for any queries that occur. Able to look to live logs in the UI itself helps in quick debugging. We were able to deploy a hugging face model for a customer facing service fairly quickly using their ML model deployments. Avis collecté par et hébergé sur G2.com.

Some features such as RBAC control, safe guarding production deployments is needed. Approval based deployment rollout is also a good feature to have. Avis collecté par et hébergé sur G2.com.

- Autoscaling

- Cloud Agnostic

- Customer Support

- Easy to use and very easy to integrate in existing code unlike AWS Sagemaker or Metaflow which requires chaning code

- Once setup is done, easy to update model with a single click Avis collecté par et hébergé sur G2.com.

- Since it is an early product, few featuers might not be available but customer support is very good and they implement features at very fast pace Avis collecté par et hébergé sur G2.com.

Bien que je n'interagisse pas personnellement avec l'équipe de manière régulière, j'ai pris des retours de l'équipe de développement et ils n'ont aucune plainte. Ils apprécient le fait que l'équipe de TrueFoundry a toujours été là pour nous soutenir avec l'intégration de la plateforme, le support de maintenance et même les exigences imprévues. Avis collecté par et hébergé sur G2.com.

L'équipe a été extrêmement réactive et je n'ai pas encore de plaintes. Avis collecté par et hébergé sur G2.com.

- Soulage la douleur de la configuration de l'infrastructure GenAI

- Gamme de modèles open-source disponibles pour expérimenter pour notre application

- Bonne intégration avec la suite HuggingFace

- Excellente intégration avec Github, VS Code, AWS, GCP, et d'autres outils connexes

- Sélectionne automatiquement le GPU le plus adapté requis par notre application pour réduire le coût global de facturation GPU

- Excellent support par leur équipe technique. Principalement disponible pour résoudre tout problème. Ils fournissent également une présentation du produit chaque fois que nécessaire/demandé.

- L'interface utilisateur du produit est également simple et conviviale.

- Les déploiements cloud sont également très bons avec la capacité d'auto-échelle/réduction.

- Dans l'ensemble, une plateforme incontournable et de référence pour un déploiement efficace et à grande échelle. Mon équipe l'utilise quotidiennement. Avis collecté par et hébergé sur G2.com.

- Pour mon équipe, nous avons besoin des coûts de facturation du GPU au niveau de l'espace de travail et de chaque projet. Si cela pouvait être fait, cela ajouterait plus de valeur à mon équipe. Avis collecté par et hébergé sur G2.com.

Il a simplifié le processus de déploiement. Les étapes qui m'ont personnellement aidé :

1. Facilité de déploiement depuis local/répertoire

2. Tests de performance et fonctionnels de la solution avant le déploiement en production

3. Suivi et journalisation des métriques de déploiement

4. Personnalisation du stockage des données en production qui aide à la maintenance et au débogage

5. Suivi de tous les travaux et déploiements en un seul endroit

En dehors de cela, leur support client est très réactif. Avis collecté par et hébergé sur G2.com.

S'il existe un cadre qui pourrait être un environnement de développement convivial, ce serait une plateforme tout-en-un pour le développement, le test et le déploiement de solutions. Avis collecté par et hébergé sur G2.com.

TrueFoundry a rendu l'approvisionnement et la gestion de l'infrastructure Gen AI efficaces ainsi qu'économes en temps. Leur plateforme offre le déploiement transparent de modèles complexes avec une interface utilisateur conviviale et une vue consolidée pour intégrer les flux de travail existants. TrueFoundry garantit un temps d'arrêt minimal et accélère les déploiements. TrueFoundry propose une solution rentable avec un modèle de paiement à l'utilisation avec un support extraordinaire. Leur équipe de support est hautement qualifiée et réactive. Avis collecté par et hébergé sur G2.com.

Il n'y a rien à ne pas aimer chez TrueFoundry car il répond à notre cas d'utilisation, mais il y a place à l'amélioration. Plus d'intégrations pour les clusters Kubernetes pour les nouveaux fournisseurs de services cloud seront le domaine clé à améliorer. Avis collecté par et hébergé sur G2.com.

Les modèles LLM sont faciles à déployer et l'équipe est très active dans la résolution des requêtes. Il est facile à utiliser et de nombreuses choses sont documentées clairement. Le tableau de bord est bien développé, ce qui le rend plus facile à utiliser pour les nouveaux et anciens utilisateurs. J'ai apprécié leur service de réglage fin pour les LLMs, ce qui le rend facile à ajuster même si vous venez de commencer. Avis collecté par et hébergé sur G2.com.

Nous pourrions avoir plus d'options pour le réglage fin et des options pour déployer automatiquement des modèles intermédiaires. Avis collecté par et hébergé sur G2.com.

J'ai récemment utilisé le produit de Truefoundry, et je suis complètement impressionné. Truefoundry a considérablement simplifié notre flux de travail en apprentissage automatique (y compris LLM), le rendant plus facile et plus efficace à déployer et à surveiller les modèles. Les fonctionnalités de déploiement automatisé devraient nous faire gagner d'innombrables heures, nous permettant de nous concentrer davantage sur la construction et l'affinement de nos modèles plutôt que de nous enliser dans les complexités du déploiement. L'LLM pré-emballé nous permet d'évaluer facilement la performance sur notre jeu de données. Avis collecté par et hébergé sur G2.com.

L'itération à travers les ensembles de données peut être améliorée ainsi que la gestion des versions des ensembles de données associés. Avis collecté par et hébergé sur G2.com.

Cela rend extrêmement facile et rapide le déploiement de nouveaux services/modèles dans des environnements de test, puis leur promotion en production en quelques clics seulement. Cela est facilité par une excellente interface utilisateur qui abstrait toute l'infrastructure Kubernetes, nous permettant de réduire les coûts et de passer à différents fournisseurs de serveurs sans heurts. Avis collecté par et hébergé sur G2.com.

La mise en place de l'ensemble de l'infrastructure et des services spécifiques peut être difficile dans certains scénarios. Cependant, le support de TruFoundry a excellé en nous aidant à atteindre nos objectifs à chaque fois, sans aucun retard. Avis collecté par et hébergé sur G2.com.