NotesOllama: Lokaler, kostenfreier KI-Chatbot in Apples Notizen-App

Herzstück und Motor hinter Textgeneratoren wie ChatGPT sind die sogenannten Large Language Models, kurz LLMs. Sprachmodelle, die auf statistischen Darstellungen von umfangreichen Textmengen basieren und den Chatbots ermöglichen, künstlich-intelligente Texte zu generieren, die menschlichen Formulierungen ähneln, Fragen beantworten und eigenständig Konversationen führen können.

Im Netz existieren mittlerweile eine Vielzahl von unterschiedlichen LLMs, die sich durch ihre Größe, das Lizenzmodell und das Volumen des zugrundeliegenden Textkorpus voneinander unterscheiden. Zu den prominentesten gehören die von OpenAI entwickelten Modelle GPT-3 und GPT-4, die Technologien hinter ChatGPT.

Lokal, offline und kostenfrei

Seit einiger Zeit bietet jedoch auch die Facebook-Mutter Meta ein eigenes LLM an. Das unter dem Kürzel LLaMA bekannte Modell (kurz für „Large Language Model Meta AI“), umfasst 70 Milliarden Parameter und kann ähnlich wie GPT-3 Konversationen in verschiedenen Sprachen durchführen. Für den privaten Gebrauch bietet LLaMA den signifikanten Vorteil, dass dieses kostenfrei verfügbar ist, direkt auf den eigenen Mac heruntergeladen werden kann und hier ohne Internetzugang nutzbar ist. Einzige Voraussetzung: Etwa 4 GB freier Platz auf der Festplatte. Wie dies am einfachsten funktioniert, haben wir euch bereits erklärt:

• Ollama: Mac-App führt KI-Chatbot von Meta lokal aus

KI-Chatbot für Apples Notizen-App

Ist LLaMA auf eurer Maschine bereits installiert, könnt ihr nun die Freeware NotesOllama nutzen, um das KI-Modell direkt aus Apples Notizen-Applikation heraus anzusprechen.

Sobald NotesOllama auf euren Mac installiert ist, zeigt euch die Notiz-Applikation einen kleinen Zauberstab (unten rechts im Fenster) an, wenn Text innerhalb einer Notiz ausgewählt wird. Dieser bietet euch dann die Möglichkeit, das lokale KI-Modell zu nutzen, um die Textauswahl zusammenzufassen, zu erklären, zu beantworten, neu zu formulieren oder mit einer Überschrift zu versehen.