Snowflake Startup Spotlight: Contextual AI

Willkommen bei Snowflakes Startup Spotlight, wo wir von großartigen Unternehmen erfahren, die auf Snowflake Geschäfte aufbauen. In dieser Ausgabe sprechen wir mit Douwe Kiela, dem CEO und Mitgründer von Contextual AI, einem Start-up, das Unternehmen bei der Entwicklung hochspezialisierter KI-Agenten auf Produktionsniveau unterstützt. Diese Agenten sind in der Lage, mithilfe von Retrieval-Augmented Generation (RAG) über Unternehmensdaten nachzudenken, wodurch sie in der Lage sind, den Kontext eines Unternehmens sehr genau zu verstehen. 

Was inspiriert Sie als Gründer?

Das Potenzial von KI inspiriert mich wirklich. Ich glaube, sie kann die Welt revolutionieren und kritische globale Probleme lösen.

Welches Problem möchte Contextual AI lösen?

Zwar ist es sehr einfach, eine überzeugende KI-Demo zusammenzustellen, aber es ist sehr schwierig, KI-Systeme in Produktion zu bringen. Das gilt insbesondere für Unternehmen, die ein hohes Maß an Genauigkeit, Auditfähigkeit und Sicherheit verlangen. 

Nachdem ich das Forschungsteam von FAIR geleitet hatte, das den Artikel 2020 über RAG geschrieben hatte, wusste ich, dass RAG eine wichtige Komponente bei der Entwicklung von KI für Unternehmen sein würde. Als RAG jedoch immer beliebter wurde, konnte ich feststellen, dass die Art und Weise, wie die Menschen das Konzept umgesetzt haben, suboptimal war. Ich habe Contextual AI ins Leben gerufen, um diesen Unternehmen eine bessere Möglichkeit zu bieten, KI zu nutzen, damit sie schneller die Ergebnisse erzielen können, die sie brauchen.

Was ist das Coolste an Daten? 

Derzeit implementieren Menschen RAG-Pipelines, die wie Frankensteins Monster aussehen. Sie müssen Extraktions-, Einbettungs-, Abfrage- und Sprachmodelle zusammenfügen, die nicht gut zusammenarbeiten können. Deshalb erreichen die meisten Unternehmen mit ihren RAG-Lösungen nicht die Produktionsqualität 

Unsere Plattform ist anders: Sie integriert und optimiert alle Komponenten, die für RAG-Workflows erforderlich sind, eng miteinander. Dank dieses Ansatzes erreichen unsere Kunden eine viel höhere Genauigkeit und können diese Lösungen schneller als ihre Mitbewerber in Produktion bringen. 

Wie wirken sich Sicherheitsbedenken auf die Bereitstellung Ihrer Plattform aus?

Unternehmen sind sehr sicherheitsbewusst, wenn es um ihre Daten und KI-Projekte geht. Die Plattform für kontextbezogene KI kann in der Virtual Private Cloud eines Kunden bereitgestellt werden. Doch hierfür müssen ihre Engineering-Teams die Infrastruktur einrichten und verwalten, auf der die Plattform ausgeführt wird.

Wenn sie Contextual AI als Snowflake Native App implementieren, erhalten sie die nötige Sicherheit, um die Plattform und die Datenverarbeitung in ihrer eigenen Snowflake-Umgebung auszuführen, während Snowflake die Komplexität der Infrastruktur – einschließlich Serververwaltung, Skalierung und Wartung – meistert.

Wie hat sich das Snowflake Native App Framework auf das Wachstum Ihres Start-ups ausgewirkt?

Große Unternehmen müssen darauf vertrauen und überprüfen, dass Anbieter ihre Daten richtig verarbeiten und schützen. Selbst mit unseren eigenen Zertifizierungen kann der Sicherheitsüberprüfungsprozess während der Geschäftszyklen langwierig sein und die Dynamik stark verlangsamen. 

Indem wir unsere Lösung als Snowflake Native App anbieten, beschleunigen wir die Verkaufszyklen, da Unternehmen die vollständig konfigurierte App in ihrer bestehenden Snowflake-Umgebung bereitstellen können, die bereits umfangreiche Sicherheitsprüfungen durchlaufen hat.

Wie wirkt sich die Mitgliedschaft auf dem Snowflake Marketplace auf die Kundengewinnung für Sie aus?

Wir freuen uns sehr, am Programm Marketplace Capacity Drawdown (MCD) teilzunehmen. Wenn Unternehmen unsere Plattform on demand mit ihren vorhandenen Snowflake-Credits bezahlen können, werden sich unsere Verkaufszyklen drastisch verkürzen. 

Wie lautet Ihre Vision, wohin sich KI entwickelt?

KI-Agenten standen in diesem Jahr ganz oben auf der Prioritätenliste, doch die meisten der auf den Markt gebrachten Produkte dienen allgemeinen Anwendungsfällen wie der Websuche. Wir glauben, dass Unternehmen Agenten benötigen, die für branchenspezifische Workflows optimiert sind und den Kontext interner Daten und Geschäftsprozesse verstehen, damit sie viel genauer sind. 

Unser Unternehmen konzentriert sich darauf, diesen Bedarf zu decken, und bietet eine Plattform für den Aufbau spezialisierter RAG-Agenten, die Anwendungsfälle wie Investitionsanalyse, technische Designunterstützung und technische Forschung unterstützen – Bereiche, in denen allgemeine Agenten weitgehend zu wenig sind.

Welchen Rat würden Sie anderen geben, wenn es darum geht, ihre Applikationen auf Snowflake zu entwickeln?

Ich würde sagen, tun Sie es! Snowflake bietet enorme Vorteile für die Markteinführung Ihres Produkts. Neben den bereits erwähnten Funktionen – darunter einfachere Sicherheitsüberprüfungen, schnellere Verkaufszyklen und das MCD-Programm – ist es auch erstaunlich, dass das globale Vertriebsteam von Snowflake mit Ihnen zusammenarbeitet. 

Erfahren Sie mehr über Contextual AI und wie sie Unternehmen hilft, hochgradig auditfähige und spezialisierte RAG-Agenten zu entwickeln und bereitzustellen, bei contextual.ai. Sie können die Contextual AI Platform auch selbst ausprobieren.