TECHNISCHE NOTIZEN
Lange Besprechungen sind auch ein Warteschlangenproblem
Eine kurze Spracherkennungsdemo wirkt übersichtlich: Audio aufnehmen, transkribieren, Text an ein Sprachmodell senden und das Ergebnis anzeigen. In einem längeren Gespräch kommt der nächste Abschnitt an, bevor diese Folge fertig ist.
Menschen warten nicht auf die API
Wenn jeder neue Abschnitt eine eigene Anfrage startet, kann sich Arbeit aufstauen. Eine feste Warteschlangenobergrenze führt zu einer anderen Frage: Was passiert mit den Wörtern jenseits der Grenze? Verzögerung, Speicherbedarf, Anfragevolumen und verlorener Kontext hängen zusammen.
Meine Änderungen an TalkEcho verwenden einen aktiven Audiobatch und einen wartenden Batch, der neue Abschnitte aufnehmen kann. Wenn der wartende Batch aktiv wird, werden seine Transkripte zu einer KI-Anfrage zusammengefasst. So soll die Verarbeitung aufholen, ohne für jeden neuen Abschnitt eine eigene Anfrage anzulegen.
Wiederholungen brauchen einen Grund
Ein vorübergehender Verbindungsfehler ist etwas anderes als ein ungültiger API-Schlüssel. Das Projekt wiederholt vorübergehende Spracherkennungsfehler einmal und begrenzt die Laufzeit von Anfragen. Beim KI-Streaming gibt es einen neuen Versuch nur, wenn noch kein Antworttext erschienen ist.
Diese Grenzen sollen das Werkzeug auch unter Last verständlich halten. Untertitel sind hilfreich, wenn sie das Folgen eines Gesprächs erleichtern. Die interne Warteschlange sollte nicht zu einer zusätzlichen Aufgabe werden.
TalkEcho ist mein persönlicher Fork von Pluely. Das ursprüngliche Projekt liefert die Grundlage; das öffentliche Repository nennt die ursprünglichen Autoren und dokumentiert die Arbeit an Windows-Abläufen, Diktat und Anfrageverarbeitung.
Implementierungskontext: Robuste Besprechungsanfragen in TalkEcho.
Mit KI-Unterstützung aus den öffentlichen Projektbeschreibungen für dieses Portfolio aufbereitet.