Direkt zum Hauptinhalt

Vergleich

AnythingLLM-Alternative: onAI für Ihr Team

AnythingLLM bietet Chat mit Dokumenten im Eigenbetrieb. onAI bietet integrierte DeepL-Übersetzung, eine aufgeräumte Browseroberfläche und direkten Support auf Deutsch und Englisch.

Die Kosten des eigenen Betriebs einrechnen

onAI beginnt bei 17 EUR pro Nutzer und Monat inklusive 5 EUR Modellnutzung. Grössere Teams zahlen weniger, oder Sie wählen einen Festpreis für das Unternehmen. Beim Festpreis sind Onboarding und Schulung enthalten.

Dieser Vergleich behandelt AnythingLLM als selbst betriebene Docker-Installation für mehrere Nutzer. Die MIT-Software hat keine Lizenzgebühr pro Nutzer. Infrastruktur und angebundene Modellzugänge stellen Sie selbst bereit; deren Nutzung wird separat berechnet. Cloud und optionales Desktop Pro sind eigenständige Angebote.

onAI
Ab 17 € pro Nutzer/Monat Inklusive 5 € Modellnutzung; grössere Teams günstiger, oder Festpreis
AnythingLLM
Keine Software-Lizenzgebühr pro Nutzer MIT-Software im Eigenbetrieb; Modellzugänge und Infrastruktur separat

Betrieb und Modellverarbeitung getrennt prüfen

onAI läuft auf Servern in Europa, Ihr Vertragspartner ist ein Schweizer Unternehmen. Auf Wunsch erhalten Sie einen eigenen Server oder betreiben onAI auf Ihrer Infrastruktur. Beim On-Premises-Betrieb lassen sich lokale Modelle anbinden, etwa über Ollama.

AnythingLLM Docker lässt sich ebenfalls auf selbst gewählten Cloudservern oder der eigenen Infrastruktur betreiben. Sie bestimmen Speicherorte sowie Modell- und Embedding-Dienste. Ein externer Anbieter hat einen eigenen Verarbeitungsweg. Auch wenn die Anwendung ihre Daten lokal speichert, können Modellaufrufe an externe Anbieter gehen.

onAI
Schweizer Vertragspartner, Server in Europa Auf Wunsch eigener Server oder On-Premises
AnythingLLM
Standorte im Eigenbetrieb selbst wählen Speicherung der Anwendung und angebundene Anbieter getrennt auf Standorte prüfen

Mit den eigenen Arbeitsdokumenten arbeiten

onAI bietet Mitarbeitenden eine aufgeräumte Browseroberfläche ohne technische Einstellungen. Laden Sie PDF-, Word-, Excel- und weitere Dateien direkt im Chat hoch und stellen Sie Fragen dazu.

AnythingLLM Docker stellt eine gemeinsame Browseranwendung bereit. Dateianhänge liefern den vollständigen extrahierten Text in den Gesprächskontext. Bei indexierten Workspace-Dokumenten ruft die Suche passende Ausschnitte ab. Im Mehrbenutzerbetrieb chatten Default-Nutzer nur in zugewiesenen Workspaces.

onAI
Aufgeräumte Oberfläche im Browser Ohne technische Einstellungen, keine Installation
AnythingLLM
Dateianhänge oder Suche im Workspace Vollständiger extrahierter Text im Kontext; indexierte Dokumente in Ausschnitten abrufen
onAI-Startseite mit Chat-Eingabe und Navigation
onAI Screenshot: Ein neuer Chat in onAI. Demo data.
AnythingLLM-Chat-Eingabe mit Kontextliste von vier angehängten Dateien, englische Oberfläche
AnythingLLM Screenshot: Angehängte Dateien in AnythingLLM, aus der Anleitung zum Dokumentchat. github.com

Die Verwaltung der Modelle festlegen

Bei onAI legen Administratoren pro Gruppe fest, welche Modelle erlaubt sind. Neue Modelle schalten wir kurz nach ihrer Veröffentlichung frei. Eigene Provider-Verträge und API-Schlüssel sind auf Anfrage möglich.

AnythingLLM Docker hat die Rollen Admin, Manager und Default. Manager verwalten Workspaces, können aber die System-Modelleinstellungen nicht ändern. Modelle werden auf System-, Workspace- und Agentenebene konfiguriert. Welche Modelle verfügbar sind, hängt vom angebundenen Anbieterkonto oder lokalen Server ab.

onAI
Modelle pro Gruppe freigeben Admins erlauben oder sperren jedes Modell
AnythingLLM
System-Modelleinstellungen durch Admins Manager verwalten Workspaces; Default-Nutzer chatten nur in zugewiesenen Workspaces
onAI-Chat mit geöffneter Modellauswahl
onAI Screenshot: Ein Modell in onAI auswählen. Demo data.
AnythingLLM-Einstellungen mit OpenAI, verdecktem API-Schlüssel und gewähltem Chatmodell, englische Oberfläche
AnythingLLM Screenshot: Anbieter- und Chatmodell-Einstellungen aus der AnythingLLM-Einrichtungsanleitung. github.com

Bilder im Studio oder im Chat erstellen

Im onAI-Bildstudio senden Sie einen Prompt an bis zu drei Bildmodelle nebeneinander. Stile können den Prompt automatisch verbessern. Für die Bearbeitung sind bis zu zehn Referenzbilder möglich. Die geschätzten Kosten sehen Sie vor dem Erzeugen.

AnythingLLM erzeugt Bilder im Chat über den Befehl /img, nachdem ein Administrator Anbieter und Modell eingerichtet hat. OpenAI und OpenRouter unterstützen die Bearbeitung mit Referenzbildern, ebenso kompatible Lemonade-Modelle. Der dokumentierte Ollama-Weg erzeugt Bilder aus dem Textprompt und verwendet angehängte Referenzbilder nicht.

onAI
Bildstudio mit führenden Modellen Drei Modelle im Vergleich, Stile, Bearbeitung mit Referenzbildern
AnythingLLM
Bilder über den Befehl /img Konfigurierter Anbieter nötig; Referenzbearbeitung abhängig von Anbieter und Modell
onAI-Bildstudio mit drei ausgewählten Modellen und Kostenschätzung
onAI Screenshot: Drei ausgewählte Bildmodelle im onAI-Bildstudio. Demo data.
Erzeugtes Bild in AnythingLLM mit den Befehlen Edit und Download, englische Oberfläche
AnythingLLM Screenshot: Ein erzeugtes Bild mit Aktionsmenü in AnythingLLM. github.com

Fallstudie

Sichere KI für 6'800 Mitarbeitende: Wie Manor mit onAI eine datenschutzkonforme Alternative zu ChatGPT im Unternehmen etabliert hat.

Dank der neusten KI-Möglichkeiten in onAI sind unsere Mitarbeitenden produktiver und nutzen diese auf sichere und konforme Weise - und das zum bezahlbaren Festpreis.
- Roberto Fedele, CIO Manor
Fallstudie lesen →

Wo onAI besser passt

onAI verbindet Alltagswerkzeuge mit Unterstützung durch den Anbieter. Sie können Zugriffsregeln für Gruppen vorbereiten und einen Festpreis für das Unternehmen vereinbaren.

  • Ein eigener DeepL-Arbeitsablauf

    Der Übersetzer verarbeitet Dokumente mit erhaltenem Layout, Firmenglossaren und Sie- oder Du-Form. Auch Stil und Ton lassen sich anpassen.

  • Gruppenrechte und Ausgabenlimits

    Geben Sie Funktionen wie Bildstudio, Übersetzer und Websuche pro Gruppe frei. Legen Sie Kostenlimits pro Organisation und Person fest und werten Sie die Nutzung nach Modell, Funktion und Person aus.

  • Direkte Unterstützung bei der Einführung

    Sie erreichen unser Team auf Deutsch und Englisch. Service-Level und Reaktionszeiten vereinbaren wir im Vertrag. Onboarding und Schulung sind im Festpreis für das Unternehmen enthalten.

Wo AnythingLLM besser passt

AnythingLLM passt zu einem Team, das seine Anwendung selbst betreiben und anpassen, wiederverwendbare Werkzeuge für Agenten erstellen und Modell- sowie Werkzeuganbindungen selbst pflegen möchte.

  • Agent Flows visuell erstellen

    Unter Docker und Desktop erstellt der visuelle Flow-Editor ohne Programmierung wiederverwendbare Werkzeuge für Agenten aus API-Aufrufen und Web-Scraping. Scheduled Jobs sind eine separate Funktion, die nur im Einzelbenutzerbetrieb verfügbar ist.

  • MCP-Werkzeuge in Ihrer Installation betreiben

    Selbst betriebene Installationen und Desktop unterstützen lokale und entfernte MCP-Server mit konfigurierten Zugangsdaten und Headern. Entwickler können ausserdem eigene Agentenwerkzeuge programmieren. Dafür richten Sie die Werkzeuge selbst ein. Die verwaltete AnythingLLM Cloud schliesst MCP und selbst programmierte Agenten ausdrücklich aus.

  • Eigene Codeänderungen pflegen

    Das Hauptrepository steht unter MIT. Sie dürfen den Code ändern und weitergeben, wenn Sie die vorgeschriebenen Hinweise beibehalten. Kostenpflichtige Cloudleistungen und Desktop-Pro-Leistungen bleiben von der Quellcodelizenz getrennt.

AnythingLLM ausprobieren

Was onAI noch besser machen könnte

  • Quellcode nicht öffentlich

    onAI ist proprietäre Software, der Quellcode ist nicht öffentlich. Wenn Ihre Beschaffung verlangt, dass Sie die gesamte Anwendung selbst anpassen und pflegen können, müssen Sie das vor der Auswahl klären. Open-Source-Bestandteile behalten ihre eigenen Lizenzen.

  • Anbindungen gemeinsam planen

    onAI unterstützt Werkzeuge und eigene OpenAPI-Aktionen, aber kein MCP. Eigene Agenten und Workflows bauen wir als Dienstleistung.

Auf einen Blick

Software- und Dienstleistungspreis

onAI
Ab 17 € pro Nutzer/Monat Inklusive 5 € Modellnutzung; grössere Teams günstiger, oder Festpreis
AnythingLLM
Keine Software-Lizenzgebühr pro Nutzer MIT-Software im Eigenbetrieb; Modellzugänge und Infrastruktur separat

Speicher- und Verarbeitungsorte

onAI
Schweizer Vertragspartner, Server in Europa Auf Wunsch eigener Server oder On-Premises
AnythingLLM
Standorte im Eigenbetrieb selbst wählen Speicherung der Anwendung und angebundene Anbieter getrennt auf Standorte prüfen

Modellverwaltung

onAI
Modelle pro Gruppe freigeben Admins erlauben oder sperren jedes Modell
AnythingLLM
System-Modelleinstellungen durch Admins Manager verwalten Workspaces; Default-Nutzer chatten nur in zugewiesenen Workspaces

Bildablauf

onAI
Bildstudio mit führenden Modellen Drei Modelle im Vergleich, Stile, Bearbeitung mit Referenzbildern
AnythingLLM
Bilder über den Befehl /img Konfigurierter Anbieter nötig; Referenzbearbeitung abhängig von Anbieter und Modell

Quellcodelizenz

onAI
Proprietär, Quellcode nicht öffentlich Open-Source-Bestandteile unter eigenen Lizenzen
AnythingLLM
Hauptrepository unter MIT-Lizenz Kostenpflichtige Cloud- und Desktop-Pro-Leistungen sind davon getrennt

Sie vergleichen onAI mit AnythingLLM?

Vereinbaren Sie eine Demo. Wir zeigen onAI mit Ihren eigenen Anwendungsfällen und beantworten Ihre Datenschutzfragen.

Demo vereinbaren

Häufige Fragen

Welche Version passt zum gemeinsamen Einsatz im Unternehmen?
AnythingLLM Desktop ist eine Einzelbenutzeranwendung. Docker bietet Mehrbenutzerverwaltung und eine gemeinsame Browseranwendung. Default-Nutzer chatten nur in zugewiesenen Workspaces; diesen selbst betriebenen Docker-Modus vergleichen wir hier mit onAI.
Ist beim Eigenbetrieb jeder Modellaufruf lokal?
Nein. AnythingLLM kann lokale Server oder externe Modellanbieter nutzen. Der Verarbeitungsweg folgt Ihrer Konfiguration. Auch onAI kann beim On-Premises-Betrieb lokale Modelle anbinden, etwa über Ollama.
Enthält die MIT-Lizenz Modellnutzung?
Die Lizenz der selbst betriebenen Software enthält keine Nutzungsentgelte Ihrer gewählten Anbieter. onAI beginnt bei 17 EUR pro Nutzer und Monat inklusive 5 EUR Modellnutzung. Grössere Teams zahlen weniger oder wählen einen Festpreis.
Wie kann unser Team beide Angebote prüfen?
AnythingLLM können Sie ohne Software-Lizenzgebühr selbst installieren. Bei onAI erhalten Sie nach einer persönlichen Demo einen Testzugang für Ihr Team.

So ist diese Seite entstanden

Recherchestand: • Methode: öffentliche Quellen der Anbieter, von KI-Agenten gesammelt und geprüft, bewertet nach dem onAI-Vergleichsraster v1.1.

KI-Agenten haben öffentliche AnythingLLM-Unterlagen und Quellen an festen Codeversionen gesammelt und unabhängig geprüft. onAI-Angaben stammen vom Inhaber. Dieser Vergleich behandelt den selbst betriebenen Docker-Mehrbenutzermodus. Die Aufnahmen stammen unverändert aus dem öffentlichen Dokumentationsrepository, onAI-Demodaten sind gekennzeichnet.

Verfasst von onAI. Wir bieten eines der beiden verglichenen Produkte an, dies ist also der Vergleich eines Anbieters. Jede Angabe zu AnythingLLM haben wir an einer öffentlichen Quelle geprüft; die Quellen stehen in den strukturierten Daten dieser Seite.