Le portail AI de Portkey rend la gestion et le routage des demandes d'IA à travers plusieurs fournisseurs incroyablement fluides, augmentant l'efficacité et l'évolutivité.

> Dash - pour surveiller le nombre de requêtes, d'utilisateurs et le coût. > Logs - certainement utiles lors des tests et - je prélève constamment des échantillons à travers les invites pour des vérifications de qualité. > Gateway - très utile pour passer d'un modèle à l'autre et d'un fournisseur à l'autre.

Il a l'un des ROI les plus clairs que j'ai vus où nous mettons en cache les résultats pour les tests dans les workflows github et cela permet de réaliser des économies substantielles sur les appels redondants à openai.