Proton veröffentlicht KI-Chatbot mit Fokus auf Privatsphäre und legt direkt nach

KI-Chatbots und Privatsphäre

LLMs bieten heutzutage zwar überraschend viele Möglichkeiten, sie bergen aber auch erhebliche Datenschutzrisiken. Du solltest dir dieser Risiken daher bewusst sein und gezielt Maßnahmen ergreifen, um deine sensiblen Daten zu schützen.

=> Proton ermöglicht dir mit dem KI-Chatbot Lumo nun, dies mit sehr einfachen Mitteln zu tun. Bevor ich jedoch zur News, meinen Erfahrungen nach ersten Tests und meiner Meinung dazu komme, möchte ich im folgenden Detailblock zunächst einmal einige grundsätzliche Fragen zum Thema für Interessierte klären.

Die Möglichkeiten, deine Privatsphäre bei der Nutzung von KI-Chatbots zu schützen

Datenschutzerklärungen prüfen:
Vor der Nutzung die Richtlinien der Anbieter lesen!
=> Das machen die wenigsten. Was aber, wenn angegeben ist, dass deine Daten zum Trainieren der KI verwendet werden?

Daten minimieren:
Gib keine sensiblen oder personenbezogenen Daten in LLMs ein!
=> Das ist einfach machbar. Aber was ist, wenn du es doch machen willst?

Lokale/private LLMs nutzen:
Einige Unternehmen bieten Modelle an, die auf eigenen Servern betrieben werden können, beispielsweise mit Open-Source-Lösungen wie Llama oder Mistral.
=> Das machen ebenfalls die Wenigsten. Du benötigst einen schnellen Rechner dafür und die Bedienung ist teilweise sehr technisch, obwohl die grafische Nutzung, wie bei Ollama, immer mehr Einzug erhält und du nicht für alles Befehle in einer Kommandozeile abschicken musst. Dieses Vorgehen ist daher (noch) nicht für die breite Masse geeignet.

Anonymisierungstools:
Sensible Informationen sollten vor der Eingabe unkenntlich gemacht werden.
=> Tools wie Intercompliance, Klippa DocHorizon, Delphix oder DataVeil versprechen das, aber wer nutzt diese privat? Und wer vertraut diesen Tools und möchte dafür auch noch zahlen?

Die News und eine tolle neue Lösung

Der Schweizer Softwareanbieter Proton hat mit Lumo einen eigenen KI-Chatbot [Wikipedia] veröffentlicht, der als europäische Alternative zu ChatGPT mit Fokus auf Privatsphäre positioniert wird. Die Anwendung ist im Browser oder als mobile App für Android und iOS nutzbar und unterstützt Aufgaben wie das Zusammenfassen von Dokumenten oder das Prüfen von Code. Ein zentrales Versprechen ist der Schutz der Privatsphäre: Chats sind verschlüsselt, werden nicht auf Servern gespeichert und weder an Dritte weitergegeben noch für das Training von Sprachmodellen verwendet. Lumo nutzt (rückblickend in der ersten Version) mehrere Open-Source-Sprachmodelle (u. a. Mistral Small 3, OpenHands 32B und OLMO 2 32B), die je nach Nutzeranfrage automatisch ausgewählt werden. Dieser multimodale Ansatz mit spezialisierten Modellen soll effizienter und schneller sein als der Einsatz großer Allzweckmodelle.

Lumo ist Open Source und kann auf lumo.proton.me kostenlos und ohne Anmeldung ausprobiert werden, allerdings wird dabei der Chatverlauf nicht gespeichert. Mit einem Proton-Konto bleibt die Historie hingegen erhalten. Der Chatbot beherrscht elf Sprachen flüssig (u. a. Deutsch, Englisch, Französisch und Spanisch) und antwortet Gastnutzern in der Sprache, in der sie ihre Frage stellen.

Es stehen drei Nutzungsoptionen zur Verfügung:

• Ohne Konto – Begrenzte wöchentliche Fragen, keine Historie.
• Kostenlos mit Proton-Konto (Lumo Free) – 100 Fragen pro Woche, einfache Historie, Upload kleinerer Dateien (die genaue Token-Grenze hängt vom Dokumententyp ab).
• Kostenpflichtig (Lumo Plus, 13 €/Monat) – unbegrenzte Chats, erweiterte Historie und größere Datei-Uploads. Lumo Plus ist nur im Proton Visionary-Plan enthalten oder als separates Abo buchbar.

Zusätzlich können Nutzer Dateien hochladen (die nicht bei Lumo gespeichert werden) oder eine datenschutzfreundliche Websuche aktivieren, um aktuelle Informationen abzurufen. Die Modelle verarbeiten normalerweise bis zu 128.000 Token (in der ersten Version waren es rückblickend ca. 300 Seiten Text), wobei es bei kostenlosen Accounts Einschränkungen gibt. Proton betont, dass die Websuche standardmäßig deaktiviert ist und nur auf Wunsch genutzt wird.

Proton legt noch einmal nach

Kurz nach der Veröffentlichung von Version 1.0 hat Proton Lumo mit Version 1.1 ziemlich fix getunt. Die Änderungen werden im offiziellen Blog von Proton beschrieben.

Dort verspricht das Unternehmen die folgenden Verbesserungen:

Kontext:
Deine Dokumente und Daten ermöglichen eine präzisere Beantwortung von Fragen, da sich das Kontextverständnis um 170 % verbessert hat.

Codierung:
Die Fähigkeit, Anfragen zu verstehen und korrekten Code zu generieren, wurde um 40 % verbessert.

Argumentation:
Ebenfalls gab es eine Verbesserung von über 200 % bei der Planung von Aufgaben, der Auswahl der richtigen Tools wie der Websuche und der Bearbeitung komplexer, mehrstufiger Probleme.

Wie ihnen das gelungen ist, wird im Blog nicht erwähnt. Auf Reddit habe ich die Vermutung gefunden, dass Proton die neue Open-Source-ChatGPT-Variante gpt-oss-120b hosten könnte. Ich habe jedoch keine offizielle Quelle dafür finden können. Daher bleibt es erst einmal bei dem Gerücht.

Proton gibt auch einen Ausblick und legt dar, dass der Anspruch darin besteht, Lumo weiterhin zu verbessern und neue wichtige Funktionen rasch einzuführen. Die Version Lumo 1.2 soll bereits im nächsten Monat erscheinen.

Leistung, Benchmarks und Erfahrungen

Mittlerweile ist Lumo schon seit einiger Zeit verfügbar. Ich habe angefangen, die Plus-Variante zu nutzen, nachdem ich von den respektablen Verbesserungen mit Version 1.1 gelesen hatte.

Dennoch ist es für mich recht schwierig, zu allen möglichen Fragestellungen der Leute, die sich auf meinem Blog tummeln, eine Einschätzung zu geben. Das kann ich nur aus der Perspektive eines Hobby-Bloggers und „normalen Privatmenschen“ tun.

Spezielle Benchmarks der von Proton abgesicherten Umgebung im direkten Vergleich zu anderen LLMs habe ich bisher nicht gefunden. Die im Hintergrund verwendeten Modelle Mistral Small 3, OpenHands 32B, OLMO 2 32B und möglicherweise nun gpt-oss-120 sind in ihren größten Ausbaustufen offensichtlich nicht so leistungsstark wie ihre großen Verwandten, aber dennoch ziemlich gut, wie ich finde. Hier findest du ein paar Benchmarks zu gpt-oss-120b im Vergleich von/auf the decoder, Alimbekov’s persönlichem Blog und Dubesors LLM Benchmark Tabelle (gpt-oss-120b: 48,9 % und GPT 5: 76,4 % in Summe, also ist letztere LLM klar besser).

Ich nutze LLMs, um Content für diesen Blog zu erstellen und um komplexere Fragen aus meinem privaten Leben zu beantworten, für die eine „normale“ Websuche nicht ausreicht. Beispielsweise für mein Allgemeinwissen, zur Reisevorbereitung oder bei Ernährungsfragen (Themen: Sport, Fitness, vegan, vegetarisch usw.). Wenn du Softwareentwickler oder Autor bist, hast du wohl etwas ganz anderes im Sinn. Privat teste ich momentan Le Chat Pro von Mistral AI aus Frankreich und Lumo Plus und als Angestellter auf der Arbeit ChatGPT Pro aus Sicht eines IT-Projektmanagers.

Ich kann sagen, dass ich mit Lumo Plus sehr zufrieden bin und ich es dir klar empfehlen kann! Nur der Ladevorgang der Android-App von Lumo könnte etwas schneller sein.

=> Die Privatsphäre ist hier ganz klar ein gewichtiger Punkt beim Für und Wieder, wenn du jetzt abwägst, ob du dich für Lumo Plus (Test?) entscheiden möchtest. Wie siehst du das?

---

Über den Autor: Hi! Ich bin Marcel. Hauptberuflich arbeite ich als IT-Projektmanager und lebe aktuell in Hamburg. Neben dem Bloggen reise ich gerne. Wenn ich nicht zu faul bin, treibe ich Sport. Wenn ich mich entspannen will, schaue ich mir gerne Inhalte auf Netflix und YouTube an oder höre SoundCloud und spiele parallel dazu z.B. Diablo 3. 🙂

Ich habe diesen Blog im Jahr 2018 gestartet, um über meine Erfahrungen im IT-Bereich zu berichten. Denn ich helfe gerne anderen Menschen. Derzeit bin ich mit keinem Betriebssystem so richtig zufrieden und bevorzuge Software, die überall läuft. Am liebsten als Web-App mit Ende-zu-Ende-Verschlüsselung.

⇨ Unterstütze den Blog und hilf mit! 😉

Hinweise: Bei den kursiv geschriebenen Wörtern kann es sich um eingetragene Marken oder Firmen handeln! Beispiele: Google, YouTube und Android. Alle Marken gehören ihren jeweiligen Eigentümern. Die Nutzung erfolgt ausschließlich zu Vergleichs- und Informationszwecken. Es kann sich aber auch um Fachbegriffe aus der IT-Welt handeln, die an diversen Stellen im Blog beschrieben werden.

Transparenz: Ich nutze KI-Tools wie DeepL Write Pro, LanguageTool Premium, Proton Lumo Plus und Le Chat Pro, um dir neuen Content schneller und komprimierter bereitstellen zu können und um Sprache und Grammatik zu verbessern. Für einige Bilder nutze ich den Inhalt von Envato Elements im Langzeitabonnement und besitze somit die entsprechenden Medienlizenzen. Das gilt auch für die Erstellung von Logos und Designs mit Canva und GIMP und weiteren Open-Source-Tools.

---