Wähle das KI-Modell hinter deinen Shell-Änderungen

SeedSpindle unter Windows benötigt ein KI-Modell, um Änderungen zu planen und zu schreiben. Du kannst einen Cloud-KI-Anbieter, ein Modell auf deinem PC oder das integrierte Modell verbinden. Die Wahl bestimmt, wohin deine Prompts gesendet werden und wie große Aufgaben der Agent bewältigen kann.

Wähle deine Modellquelle

Cloud-KI-Anbieter

Ein Cloud-KI-Anbieter verbindet sich über einen Standard-API-Endpunkt, den du in den Einstellungen eingibst. Der Agent sendet deinen Prompt an diesen Anbieter, einschließlich des Inhalts jeder Datei, die er liest, wie deiner ~/.bashrc. Plane deine Nutzung entsprechend. Die Privatsphäre hängt vom gewählten Anbieter ab. Eine Shell-Datei mit Geheimnissen solltest du nicht an einen Dienst senden, dem du nicht vertraust. Ein Cloud-Modell eignet sich für große Aufgaben, die ein kleines lokales Modell nicht bewältigen kann. Du kannst den Endpunkt jederzeit ändern. API-Schlüssel bleiben auf deinem PC, und Prompts gehen nur an den von dir gewählten Endpunkt.

Lokales Modell auf deinem PC

Ein lokal auf deinem PC laufendes Modell antwortet auf derselben Maschine, auf der SeedSpindle läuft. Bei einem lokalen Modell verlässt nichts die Maschine, da der Prompt und jede Datei, die der Agent liest, auf deinem PC verbleiben. Das macht es zu einer guten Wahl für Shell-Dateien, die Pfade, Host-Namen oder andere Details enthalten, die du privat halten möchtest. Hardware ist wichtig. Ein kleines Modell kann bei einer langen Aufgabe langsamer oder weniger leistungsfähig sein. Überprüfe jeden Diff mit zusätzlicher Sorgfalt, und du kannst einen einzelnen schwierigen Schritt an ein größeres Modell senden, wenn du dich dafür entscheidest.

Integriertes Modell

Das integrierte Modell ist ohne eigenen Endpunkt sofort einsatzbereit, was den schnellsten Start ermöglicht. Du installierst SeedSpindle für Windows, öffnest einen Chat und gibst dem Agenten eine erste Aufgabe, wie das Hinzufügen eines ll-Alias. Keine API-Einstellungen sind erforderlich. Probiere es zuerst aus. Wenn sich eine Aufgabe als zu schwierig erweist, kannst du später einen Cloud-KI-Anbieter oder ein lokales Modell verbinden und im selben Chat-Fenster weiterarbeiten, mit denselben Genehmigungsmodi und derselben Diff-Überprüfung.

Verbindung testen

Die Schaltfläche Test prüft den eingegebenen Endpunkt und zeigt die Antwortzeit sowie das Kontextfenster des Modells an. Führe den Test direkt nach dem Hinzufügen eines neuen Anbieters oder einer neuen lokalen Adresse aus, da ein falscher Schlüssel oder eine falsche Adresse dort angezeigt wird, bevor du mit der eigentlichen Arbeit beginnst. Das Kontextfenster zeigt an, wie viel Text das Modell in einer Anfrage verarbeiten kann, was wichtig ist, wenn sowohl die ~/.bashrc als auch der Chat-Verlauf lang sind. Prüfe einmal. Wenn die Antwortzeit langsam erscheint, versuche ein kleineres Modell für kleine Änderungen und behalte das größere für schwierigere Schritte. Der Test ändert keine Dateien.

Wähle das richtige Modell für deine Aufgabe

Verwende ein größeres Modell für Refactorings und komplexe Logik und ein kleineres für kleine Änderungen wie das Hinzufügen eines einzelnen Alias. Ein größeres Modell kostet mehr in der Ausführung oder benötigt stärkere Hardware, daher macht es Sinn, es für die Schritte zu sparen, die es benötigen. Das Tool run_on_model sendet einen einzelnen schwierigen Schritt an ein größeres Modell, während der Rest des Chats mit deiner üblichen Wahl fortgesetzt wird. Denke über die Größe nach. Eine einzelne Alias-Zeile benötigt sehr wenig Logik, aber eine Aufräumaktion einer langen Datei mit mehreren Funktionen und vielen Aliases profitiert von leistungsfähigerer Hilfe, und du kannst die Diffs vergleichen, die jedes Modell vorschlägt.

Die Modellqualität variiert zwischen Anbietern und lokalen Einstellungen, also lies den Diff, bevor du etwas akzeptierst. Ask first pausiert vor Aktionen, die etwas ändern, was dir die Möglichkeit gibt, eine Zeile abzulehnen, die falsch aussieht. Plan only zeigt den Plan an, ohne eine Datei zu berühren. Vertraue dem Diff, nicht dem Modell. Ein Modell kann einen plausiblen Alias schreiben, der nicht das tut, was du meintest, und nur deine Überprüfung und ein Test in einer neuen Shell sagen dir, ob es das tut.