Continuum AI ist ab sofort verfügbar. Testen Sie die erste Confidential LLM Plattform.
Fallstudie: Kauz.ai
Kauz.ai ist der Anbieter von aiStudio, einer Self-Service-Plattform zur Verwaltung und zum Training von einfachen und komplexen KI-Assistenten. Das Unternehmen integriert verschiedene Large Language Models (LLMs) mit seiner selbst entwickelten NLU-Engine (Natural Language Understanding). Mit Kauz.ai sind die Antworten der KI-Assistenten kontextbasiert und erweiterbar, sodass Unternehmen aller Art KI effizient und einfach nutzen können.
Intelligente Chatbots, die generative KI und LLMs wie ChatGPT nutzen, bieten enorme Möglichkeiten für Innovation und Effizienz. Aufgrund strenger IT-Sicherheits- und Datenschutzanforderungen können viele Unternehmen, besonders im Bank- und Finanzsektor, diese Technologien jedoch nicht in großem Umfang einsetzen. Vor dieser Herausforderung stand auch Kauz.ai: Wie können wir unseren Kunden leistungsstarke Chatbots mit modernsten LLMs bieten und gleichzeitig Datensicherheit und Datenschutz gewährleisten?
Continuum AI ist die ideale Lösung für dieses Problem. Continuum ist ein Framework für den Einsatz von LLMs und anderen KI-Modellen mit End-to-End-Verschlüsselung, unterstützt durch Confidential Computing. Confidential Computing ermöglicht die Verschlüsselung von Daten sogar während der Verarbeitung. Zusätzlich bietet es eine Remote-Attestierung, die die Integrität eines geschützten Workloads für den Benutzer nachvollziehbar macht. Mit den neuesten Nvidia H100 GPUs ist Confidential Computing auch für Setups möglich, die KI-Beschleuniger benötigen.
Continuum ermöglicht die Erstellung von Diensten im ChatGPT-Stil, bei denen sowohl die Benutzeranfragen als auch die Modelweights durchgängig geschützt sind. Dadurch wird sichergestellt, dass weder die Infrastruktur noch der Dienstanbieter auf Benutzerdaten im Klartext zugreifen können. Kurz gesagt, das Modell läuft in einer Confidential Computing Environment (CCE), in der die Daten im Speicher verschlüsselt bleiben. Der Inference-Code, der die Eingaben verarbeitet, läuft in einer Sandbox und verhindert somit Datenlecks. Die öffentliche Vorschau von Continuum können Sie hier testen: ai.confidential.cloud.
Weitere technische Informationen finden Sie in der Dokumentation.
Continuum lässt sich auch problemlos über API in bestehende KI-Lösungen wie Chatbots integrieren. Kontaktieren Sie uns, wenn Sie mehr erfahren möchten.
Eine confidential Version von aiStudio bietet den Kunden von Kauz.ai in regulierten Sektoren wie Banken und Versicherungen eine zusätzliche Sicherheitsebene. Durch die Nutzung der Confidential Computing-Fähigkeiten von Continuum stellt die kombinierte Lösung sicher, dass Prompts und Antworten während der Verarbeitung verschlüsselt bleiben und das Risiko von Datenlecks an Infrastruktur- oder Modellanbieter eliminiert wird.
Mit diesem Angebot zeigt Kauz.ai sein Engagement für die besonderen Sicherheitsbedürfnisse von Kunden mit sensiblen Daten und personenbezogenen Informationen (Personal Identifiable Information, PII). Mit dem confidential aiStudio können diese Unternehmen KI-Assistenten nutzen, ihre Abläufe optimieren und das Kundenerlebnis verbessern, während gleichzeitig ein Höchstmaß an Sicherheit und Compliance gewährleistet ist.
Bitte füllen Sie das Formular aus, und unsere Experten werden sich mit Ihnen schnellstmöglich in Verbindung setzen.
The form failed to load. Sign up by sending an empty email to contact@edgeless.systems. Loading likely fails because you are using privacy settings or ad blocks.
