top of page

AI4

FOUNDATION MODELS
& TRAINING

Bei The Pencil fangen wir nicht bei Null an – wir stehen auf den Schultern von Giganten.

Unsere KI-Agenten basieren auf kommerziell nutzbaren Basismodellen von führenden Open-Source-Anbietern wie LLaMA (Meta), Gemma und Gemma 3N (Google).

OFFEN, BEWÄHRT UND INTELLIGENT IN JEDER GRÖSSE

Wir arbeiten mit Modellen mit 0,5 bis über 90 Milliarden Parametern und helfen Ihnen, kleinen Unternehmen und großen Konzernen dabei, das richtige Modell für ihre Größe und ihren Anwendungsfall zu finden.

Modelltraining und Anpassung
Geschult mit den besten Praktiken der Open-Source-Branche

Sobald ein Modell ausgewählt wurde, wird es mit bewährten, branchenüblichen Open-Source-Trainingsmethoden individuell angepasst – abgestimmt auf Ihre Daten, Ihren Kommunikationsstil und Ihre operativen Abläufe.

Intsruction Tuning

Verhalten an Ihren Zielen ausrichten

QLoRA

für effiziente Feinabstimmung mit begrenzter Rechenleistung

Low-Rank Adaptation

um benutzerdefiniertes Wissen in Basismodelle einzubringen

Tensor

Parallelism

für skalierbares Training auf größeren Modellen

Diese Methoden ermöglichen eine sichere und effiziente Feinabstimmung – ohne Überanpassung oder Leistungseinbußen

Ausgebildete skalierbare Rechenleistung bei Bedarf

Die meisten Schulungen laufen effizient auf lokaler oder dedizierter Infrastruktur. Wir skalieren nur bei Bedarf.

Für Projekte, die Knoten mit hohem Speicherbedarf, Multi-GPU-Cluster oder temporäre Rechenlastspitzen erfordern, nutzen wir die Databricks Data Intelligence Platform, um sichere Ressourcen der Enterprise-Klasse bereitzustellen – alles in einer konformen und isolierten Schulungsumgebung.

Sicherung von KI-Interaktionen
Echtzeit-Abwehr gegen Injektionen und Jailbreaks

LLM-basierte Anwendungen sind anfällig für Prompt-Angriffe, bei denen es sich um absichtlich gestaltete Eingabeaufforderungen handelt, die das beabsichtigte Verhalten des LLM unterlaufen sollen. Aus diesem Grund verwenden wir Llama Prompt Guard 2 von Meta.

PROMPT GUARD

POWERED

 BY

Llama Prompt Guard 2 wurde anhand eines umfangreichen Korpus von Angriffen trainiert und ist in der Lage, sowohl Prompts mit injizierten Eingaben (Prompt Injections) als auch eindeutig bösartige Prompts (Jailbreaks) zu erkennen.

Sichere Kommunikation zwischen Agenten gewährleisten

Die Fähigkeit von KI-Agenten zur Interoperabilität ist für die Entwicklung komplexer, multifunktionaler Anwendungen von entscheidender Bedeutung. Aus diesem Grund verwenden wir das Google Agent2Agent (A2A)-Protokoll.

Agent2Agent Protocol

POWERED

BY

​​​Ermöglicht komplexe Zusammenarbeit
Ermöglichen Sie spezialisierten Agenten die Zusammenarbeit über verschiedene Ökosysteme hinweg bei Aufgaben, die ein einzelner Agent nicht alleine bewältigen kann.

Opazität beibehalten
Ermöglichen Sie Agenten die Zusammenarbeit, ohne dass sie den internen Speicher gemeinsam nutzen müssen.

Wir sind der Open-Source-KI-Community für ihre Innovationen zutiefst dankbar.

 

WIR BAUEN VERANTWORTUNGSBEWUSST AUF IHRER ARBEIT AUF

bottom of page