AI4
FOUNDATION MODELS
& TRAINING
Chez The Pencil, nous ne partons pas de zéro, nous nous appuyons sur les épaules des géants.
Nos agents IA sont conçus à partir de modèles de base commercialement viables provenant de fournisseurs open source de premier plan tels que LLaMA (Meta), Gemma et Gemma 3N (Google).
OUVERT, ÉPROUVÉ ET INTELLIGENT, QUELLE QUE SOIT SA TAILLE
Nous travaillons avec des modèles allant de 0,5 milliard à plus de 90 milliards de paramètres, afin d'aider les petites entreprises et les grandes sociétés à trouver le modèle adapté à leur taille et à leur cas d'utilisation.
Formation et personnalisation du modèle
Formé aux meilleures pratiques de l'industrie Open Source
Une fois sélectionné, chaque modèle est personnalisé à l'aide de méthodes de formation open source éprouvées et conformes aux normes de l'industrie afin de s'adapter à vos données, à votre style de communication et à vos flux de travail opérationnels.
Instruction
Tuning
pour aligner le comportement avec vos objectifs
QLoRA
pour un réglage efficace avec des ressources de calcul limitées
Low-Rank Adaptation
pour injecter des connaissances personnalisées dans les modèles de base
Tensor
Parallelism
pour une formation évolutive sur des modèles plus grands
Ces méthodes permettent un réglage fin sûr et efficace, sans surajustement ni perte de performance.
Calcul évolutif optimisé en fonction des besoins
La plupart des formations fonctionnent efficacement sur une infrastructure locale ou dédiée. Nous évoluons uniquement en fonction des besoins.
Pour les projets nécessitant des nœuds à mémoire élevée, des clusters multi-GPU ou des pics de calcul temporaires, nous utilisons la plateforme Databricks Data Intelligence pour fournir des ressources sécurisées de niveau entreprise, le tout dans un environnement de formation conforme et isolé.
Sécurisation des interactions IA
Défense en temps réel contre les injections et les jailbreaks
Les applications utilisant LLM sont vulnérables aux attaques par prompts, qui consistent en des prompts conçues intentionnellement pour perturber le fonctionnement prévu du LLM. C'est pourquoi nous utilisons Llama Prompt Guard 2 de Meta.
PROMPT GUARD
POWERED
BY
Llama Prompt Guard 2 a été entraîné sur un vaste corpus d'attaques et est capable de détecter à la fois les prompts contenant des entrées injectées (injections de prompts) et les prompts explicitement malveillantes (jailbreaks).
Assurer une communication sécurisée entre agents
L'interopérabilité des agents d'IA est essentielle à la création d'applications complexes et multifonctionnelles. C'est pourquoi nous utilisons le protocole Google Agent2Agent (A2A) .
Agent2Agent Protocol
POWERED
BY
Permet une collaboration complexe
Permettez aux agents spécialisés de travailler ensemble dans différents écosystèmes sur des tâches qu'un seul agent ne peut pas gérer seul.
Préserver l'opacité
Permettez aux agents de collaborer sans avoir besoin de partager la mémoire interne.
Nous sommes profondément reconnaissants envers la communauté open source spécialisée dans l'IA pour son innovation.
NOUS CONSTRUISONS DE MANIÈRE RESPONSABLE SUR LA BASE DE LEUR TRAVAIL