Jan est une sorte de ChatGPT, un assistant I.A, qui offre une expérience utilisateur très agréable et axée sur la confidentialité. Contrairement à d’autres applications de chat IA, Jan fonctionne 100 % hors ligne sur votre ordinateur, garantissant que vos conversations et vos données restent sécurisées et privées. L’un des avantages clés de Jan est son utilisation de modèles d’IA open source, mais il peut aussi utiliser les modèles d'openAI via API.
L'outil est multiplateforme et disponible sur mobile, les développeurs du projet ont même pris le soin de builder des packages pour Linux.
Les points forts :
- Polyvalence : On peut choisir le modèle LLM à utiliser, il en offre une liste assez founie incluant Mistral instruct, Mixtral, Llama 2, CodeNinja, Deepseek etc ...
- Compatibilité matérielle : il s’adapte à n’importe quel matériel, des PC aux clusters multi-GPU.
- Nitro : il utilise un moteur d’inférence C++ hautement efficace appelé Nitro. Il est léger et incroyablement rapide.
- Extensiblité, pour aouter plus de fonctionnalités, un framework est mis à disposition pour créer des extensions.
Les inconvénients :
Il ne s'agit pas vraiment d'un inconvénient, mais Jan nécessite une machine qui tient la route, un bon CPU et de la RAM à foison sont nécessaire pour une expérience fluide.
Comment en profiter ?
Rien de plus simple:
- Télécharge le fichier d'installation selon ton OS depuis: https://jan.ai/#download-section;
- Après installation, va dans "Hub" et télécharge le modèle LLM que tu préfères;
- Kiffe ! ;)
Bonus :
Jan est livré avec un serveur API intégré, qui peut être utilisé comme un remplacement local pour l’API d’OpenAI.
Voici comment l’activer :
- Allez dans Settings > Advanced > Enable API Server.
- Rendez-vous sur http://localhost:1337 pour accéder à la documentation de l’API.
- Done!