Gratuit, privé, chez vous : Ollama comme socle, le bon calibre de modèle, la mesure honnête de la vitesse, et le mix local + fallback.
Zéro coût, zéro donnée qui sort, zéro coupure de service. Les limites : capacité moindre qu’un gros modèle distant, vitesse liée à votre matériel, et une gestion de mémoire de contexte plus courte.
La page Ollama couvre l’installation. Un modèle 7-8B est le bon point de départ pour un agent.
hermes setup model puis posez une vraie tâche à l’agent et chronométrez. Si une réponse dépasse une minute, votre matériel est en dessous du modèle : passez à un 3B ou revenez à un modèle distant pour les tâches lourdes.
Beaucoup d’utilisateurs font tourner un modèle local pour les tâches banales (tri, résumés) et branchent un distant en fallback pour les tâches lourdes. Les deux coûtent moins qu’un distant permanent.
Souvent, sur les tâches complexes. La mesure honnête : une vraie tâche, un chrono, une comparaison.
Oui : local par défaut, distant en fallback, ou l’inverse.