
| Croissance des dépenses en jetons (août-sept) | Stable (données Ramp) |
| Augmentation totale des dépenses IA (oct) | +1,65 % (données Ramp) |
| Part des modèles de pointe dans les dépenses | 69,5 % (données Ramp) |
| Dépenses IA pour le service client | 13,3 % du total (selon l'auteur) |
| Efficacité de Google Orchestrator | 24 % de quota économisé (selon Google) |
À qui cette analyse fera gagner une heure ?Nous envoyons le lien avec le verdict « en réalité » : pas besoin de regarder toute la vidéo.
Les entreprises gagnent en efficacité en utilisant des modèles spécialisés plus petits et des outils de routage automatisés, évitant ainsi de payer le prix fort pour des modèles de pointe sur chaque tâche.
La vidéo souligne un risque de surproduction si la capacité massive déployée par NVIDIA ne correspond pas à la croissance réelle des dépenses des clients, qui ralentit.
Il s'agit des nouveaux modèles spécialisés de Google : Carbon est conçu pour le raisonnement complexe, tandis qu'Hydrogen est optimisé pour la vitesse et la réduction des coûts.
En utilisant un orchestrateur ou un routage manuel pour garantir que seuls les problèmes les plus complexes utilisent les modèles coûteux comme GPT-4 ou Gemini Ultra.
L'auteur soutient qu'une baisse de la culture d'ingénierie, la perte de talents seniors et une dépendance excessive aux correctifs générés par l'IA nuisent à la fiabilité des systèmes.
★ 6/10
★ 5
★ 9