AI4
FOUNDATION
MODELS & TRAINING
Noi di The Pencil non partiamo da zero, ma ci avvaliamo dell'esperienza di chi ci ha preceduto.
I nostri agenti AI sono realizzati utilizzando modelli di base commercialmente validi forniti dai principali fornitori open source come LLaMA (Meta), Gemma e Gemma 3N (Google).
APERTO, COLLAUDATO E INTELLIGENTE IN QUALSIASI DIMENSIONE
Lavoriamo con modelli che vanno da 0,5 miliardi a oltre 90 miliardi di parametri, aiutando te, le piccole imprese e le grandi aziende a trovare il modello giusto per le loro dimensioni e il loro caso d'uso.
Formazione sui modelli e personalizzazione
Formazione basata sulle migliori pratiche del settore open source
Una volta selezionato, ogni modello viene personalizzato utilizzando metodi di formazione open source collaudati e standard del settore per allinearlo ai dati, allo stile di comunicazione e ai flussi di lavoro operativi dell'azienda.
Istruzioni
Messa a punto
allineare il comportamento ai propri obiettivi
QLoRA
per una messa a punto efficiente con risorse di calcolo limitate
Low-Rank Adaptation
per inserire conoscenze personalizzate nei modelli di base
Tensore
Parallelismo
per una formazione scalabile su modelli più grandi
Questi metodi consentono una messa a punto sicura ed efficiente, senza sovradattamento o sacrificio delle prestazioni.
Calcolo scalabile addestrato quando necessario
La maggior parte dei corsi di formazione funziona in modo efficiente su infrastrutture locali o dedicate. Effettuiamo il ridimensionamento solo quando necessario.
Per i progetti che richiedono nodi con memoria elevata, cluster multi-GPU o picchi di calcolo temporanei, utilizziamo la piattaforma di intelligenza dei dati Databricks per fornire risorse sicure e di livello aziendale, il tutto all'interno di un ambiente di formazione conforme e isolato.
Protezione delle interazioni AI
Difesa in tempo reale contro iniezioni e jailbreak
Le applicazioni basate su LLM sono suscettibili agli attacchi prompt, ovvero prompt progettati intenzionalmente per sovvertire il comportamento previsto dell'LLM. Per questo motivo utilizziamo Llama Prompt Guard 2 di Meta.
PROMPT GUARD
POWERED
BY
Llama Prompt Guard 2 è stato addestrato su un ampio corpus di attacchi ed è in grado di rilevare sia i prompt che contengono input iniettati (Prompt Injections) sia i prompt esplicitamente dannosi (Jailbreaks).
Garantire una comunicazione sicura tra agenti
La capacità degli agenti AI di interagire tra loro è fondamentale per la creazione di applicazioni complesse e multifunzionali. Ecco perché utilizziamo il protocollo Google Agent2Agent (A2A).
Agent2Agent Protocol
POWERED
BY
Consente una collaborazione complessa
Consente agli agenti specializzati di lavorare insieme su diversi ecosistemi su attività che un singolo agente non è in grado di gestire da solo.
Mantieni opacità
Consenti agli agenti di collaborare senza dover condividere la memoria interna.
Siamo profondamente grati alla comunità open source dell'intelligenza artificiale per la sua innovazione.
COSTRUIAMO IN MODO RESPONSABILE SULLA BASE DEL LORO LAVORO