LlamaChat

LlamaChat se situe au croisement de deux idées : l'attrait des grands modèles de langage et le refus d'envoyer ses conversations sur le serveur d'un autre. L'application fonctionne entièrement sur votre Mac, charge les poids depuis des fichiers locaux et génère les réponses avec votre propre matériel. Rien de ce que vous écrivez ne quitte la machine, ce qui en fait un choix pertinent pour ceux qui traitent des textes sensibles, travaillent hors ligne ou préfèrent simplement ne pas dépendre d'un service hébergé.

Concrètement, LlamaChat prend en charge la partie la plus fastidieuse de l'exécution de modèles locaux. Il importe directement les checkpoints PyTorch bruts tels que la communauté les publie, ou accepte des fichiers .ggml déjà convertis, ce qui évite de bricoler des conversions dans un terminal. En interne, il s'appuie sur des projets open source éprouvés — llama.cpp et llama.swift — plutôt que de réinventer l'inférence. Le résultat est une interface Mac native avec gestion des modèles, historique des conversations et vue de chat, posée sur une base technologique en laquelle la communauté des LLM locaux a déjà confiance.

Elle vise les utilisateurs de macOS intéressés par l'IA auto-hébergée : développeurs testant des poids quantifiés, rédacteurs soucieux de confidentialité et amateurs voulant essayer Alpaca, Vicuna ou GPT4All sans toucher à la ligne de commande. Le projet est distribué en téléchargement gratuit et via Homebrew, nécessite macOS 13 ou une version ultérieure et fonctionne sur processeurs Intel comme sur Apple Silicon. Aucun fichier de modèle n'est fourni : vous récupérez les poids vous-même et êtes responsable du respect de leurs licences. Le développeur précise que l'application est indépendante et sans lien avec Meta, Stanford ou Nomic AI.