Wie ich einem 7B-Modell Protokolle beigebracht hab, und dann das Antworten

Die schlechteste Zusammenfassung, die Meetre je geschrieben hat, war eine einzige offene Frage. Immer wieder dieselbe Zeile, bis dem Modell die Tokens ausgingen. 141 Sekunden lang, rund 18.000 Zeichen. Bei beiden 30-Minuten-Meetings in meinem Testset. So ein Ergebnis bringt dich kurz dazu, über deine Berufswahl nachzudenken.

Von da aus hab ich ein paar Wochen an dem Teil von Meetre gearbeitet, der tatsächlich nachdenkt. Das hat sich geändert.

Zuhören macht jetzt Parakeet

Transkribiert wurde bisher standardmäßig mit Whisper large-v3-turbo. Das gibt's weiterhin, die kleineren Whisper-Größen auch, aber Standard ist jetzt Parakeet TDT v3 von NVIDIA auf MLX. Es ist direkt in der Grundinstallation dabei, du musst nichts nachinstallieren. Ein 30-Minuten-Meeting ist meistens in unter einer Minute transkribiert. Im Juni war ich noch stolz auf zwei bis vier Minuten.

Leise Stimmen werden vor der Transkription außerdem angehoben. Klingt nebensächlich, ist es nicht. Die Kollegin, die einen Meter vom Laptop-Mikro weg sitzt, kam früher als Folge von glaubwürdig klingendem Unsinn raus.

K2 Horizon schreibt das Protokoll

Für Zusammenfassungen ist jetzt K2 Horizon 7B Standard, in einer 4-Bit-Version mit etwa 7 GB. Die Einstellung auto setzt es auf Platz eins und nimmt es auf jedem Mac, auf den es passt. Kleinere Rechner landen weiter bei Qwen 3.5 oder Gemma 4, und die großen Qwen-Modelle sind da, falls du zufällig ein Mac Studio rumstehen hast.

K2 ist ein Reasoning-Modell, und ich lass es mit niedrigem Denkaufwand laufen. Auf mittel hat es so lange nachgedacht, dass es sein eigenes Budget gesprengt und dann exakt dieselbe Zusammenfassung geschrieben hat. Auf niedrig ist ein Drei-Minuten-Meeting in etwa acht Sekunden zusammengefasst.

Einen Haken gab's. mlx-lm kennt die Architektur von K2 nicht von Haus aus, deshalb bringt das Modell-Repo eine eigene Python-Datei mit, die beim Laden ausgeführt wird. Neuere mlx-lm-Versionen machen das nur noch mit trust_remote_code. Beliebigen Code aus dem Repo von irgendwem auszuführen, fand ich keine schöne Vorstellung. Also pinnt Meetre das Modell auf einen bestimmten Commit, den ich durchgelesen hab, und gibt die Erlaubnis nur Modellen, die so festgenagelt sind.

Die Schleife reparieren

Zurück zu den 141 Sekunden. Ich hab den Prompt gegen echte Meetings zwischen einer und 31 Minuten getestet und vier Dinge geändert.

Das Transkript kommt zuerst, die Anweisung zuletzt, damit das Modell die Aufgabe direkt vor dem Schreiben liest. Das Transkript selbst ist jetzt eine schlichte Zeile Sprecher: Text pro Beitrag, ohne Zeitstempel und ohne Markdown, das spart etwa 30 % der Tokens. Jeder Abschnitt hat genau einen Job: Die Zusammenfassung liefert Kontext und wiederholt nicht die Entscheidungen, und ein leerer Abschnitt sagt einfach "Keine", statt aufgefüllt zu werden. Was die Spracherkennung an Müll produziert, fliegt raus, statt brav ins Protokoll kopiert zu werden. Und zum Schluss eine sanfte Wiederholungsstrafe (1,05 über die letzten 256 Tokens), dazu ein Wächter, der Zeilen in Endlosschleife abfängt und exakte Dopplungen entfernt, falls das Modell es trotzdem versucht.

Ergebnis bei denselben zwei Meetings: etwa 14 Sekunden, alle vier Abschnitte da, keine Schleife.

Den Prompt kannst du in den Einstellungen selbst bearbeiten, mit Zurücksetzen-Knopf. Irgendwer hat bestimmt seltsamere Meetings als ich.

Das Modell war nie das Problem. Mein Prompt hat es höflich gebeten, zu scheitern.

Unterwegs hab ich auch einmal alles kaputt gemacht. Beim Umschreiben des Prompts sind zwei Konstanten verschwunden, die Zusammenfassung und Titel noch gebraucht haben. Jede Zusammenfassung ist mit einem NameError gescheitert, jedes Meeting hat seinen Platzhaltertitel behalten. Hat einen Tag überlebt. Ich erwähn's nur, damit keiner denkt, das wäre alles geradeaus gelaufen.

Mit deinen Meetings reden

Die Bibliothek hat jetzt einen dritten Tab: Chat. Meeting auswählen, "was haben wir zum Launch entschieden?" fragen, und K2 antwortet aus dem Transkript, live gestreamt, mit Vorschlägen, solange der Chat leer ist. Das Modell bleibt geladen, solange das Fenster offen ist, Nachfragen gehen also schnell.

Dann kamen Tools dazu. K2 kann im Web suchen und Seiten abrufen, und es kann Dateien auflisten, finden und lesen, auch PDFs. Der Dateizugriff läuft pro Ordner: Wenn es zum ersten Mal in einen rein will, bekommst du Einmal erlauben, Immer erlauben oder Ablehnen. Manche Orte sind immer tabu, egal was du klickst, zum Beispiel ~/.ssh, Schlüsselbunde, die eigene Meetre-Konfiguration und .env-Dateien. Außerdem steckt ein kleiner MCP-Client drin, damit jeder MCP-Server, den du sowieso nutzt, andocken kann. Dazu gibt's ein Tools-Fenster mit Vorlagen und einem Import aus Claude Desktop.

Das Abrufen von Seiten hatte sein eigenes kleines Drama. Viele Seiten antworten auf eine schlichte Python-Anfrage mit 403. Meetre schickt jetzt zuerst vollständige Safari-Header mit. Wenn die Seite trotzdem blockt oder nur mit JavaScript etwas anzeigt, lädt Meetre sie in einer unsichtbaren WebKit-Ansicht, also mit derselben Engine wie Safari, und liest den Text dort aus.

Sprecher kriegen ihre Namen zurück

"Sprecher 1" stimmt zwar, hilft aber niemandem. Das lokale Modell ordnet den Labels jetzt echte Namen zu, wenn das Transkript eindeutige Hinweise liefert, und jede Vermutung wird gegen den Text geprüft. Die Regel, die ich nach dem ersten Test nachschieben musste: Nur Selbstvorstellungen zählen. Wenn jemand "danke, Ben" sagt, ist die Person, die das sagt, nicht Ben. Für dich offensichtlich. Für ein 7B-Modell am ersten Arbeitstag nicht.

Alles läuft weiter auf deinem Mac. Raus gehen nur die Websuchen und Seitenabrufe aus dem Chat, und die kannst du im Tools-Fenster abschalten. Der Code liegt auf GitHub. Ich frag es inzwischen, was ich Leuten in Meetings versprochen hab. Das war demütigender, als mir lieb ist.