Kies het AI-model achter je shell-aanpassingen

SeedSpindle op Windows heeft een AI-model nodig om elke wijziging te plannen en te schrijven. Je kunt een cloud-AI-provider, een model op je pc of het ingebouwde model koppelen. De keuze bepaalt waar je prompts naartoe gaan en hoe groot een taak het agent kan aanpakken.

Kies de bron van je model

Cloud-AI-provider

Een cloud-AI-provider verbindt via een standaard API-eindpunt dat je in de instellingen invoert. De agent stuurt je prompt naar die provider, inclusief de tekst van elk bestand dat het leest, zoals je ~/.bashrc. Houd hier rekening mee bij je gebruik. Privacy hangt dus af van de provider die je kiest, en een shell-bestand met geheimen mag je niet sturen naar een dienst die je niet vertrouwt. Een cloudmodel is geschikt voor grote taken die een klein lokaal model niet aankan, en je kunt het eindpunt altijd wijzigen. API-sleutels blijven op je pc, en prompts gaan alleen naar het eindpunt dat je hebt gekozen.

Lokaal model op je pc

Een model dat lokaal op je pc draait, antwoordt op dezelfde machine waar SeedSpindle draait. Bij een lokaal model verlaat niets de machine, omdat de prompt en elk bestand dat de agent leest op je pc blijven. Dit maakt het geschikt voor shell-bestanden met paden, hostnamen of andere gegevens die je privé wilt houden. Hardware is belangrijk. Een klein model kan langzamer zijn of minder goed presteren bij een lange taak, dus bekijk elke diff met extra zorg, en je kunt een moeilijke stap naar een groter model sturen als je dat besluit.

Ingebouwd model

Het ingebouwde model is direct bruikbaar zonder je eigen eindpunt, wat de snelste manier is om te beginnen. Je installeert SeedSpindle voor Windows, opent een chat en geeft de agent een eerste taak, zoals het toevoegen van een ll-alias. Er zijn geen API-instellingen nodig. Probeer het eerst. Als een taak te moeilijk blijkt, kun je later een cloud-AI-provider of een lokaal model koppelen en verder werken in hetzelfde chatvenster, met dezelfde goedkeuringsmodi en dezelfde diffcontrole.

Test je verbinding

De knop Test controleert het ingevoerde eindpunt en toont de responstijd en het contextvenster van het model. Voer dit uit direct na het toevoegen van een nieuwe provider of een nieuw lokaal adres, omdat een verkeerde sleutel of adres daar zichtbaar wordt voordat je echt werk begint. Het contextvenster geeft aan hoeveel tekst het model in één verzoek kan verwerken, wat belangrijk is als de ~/.bashrc en de chatgeschiedenis beide lang zijn. Controleer één keer. Als de responstijd langzaam lijkt, probeer dan een kleiner model voor kleine aanpassingen en houd het grotere model aan voor moeilijkere stappen. De test wijzigt geen bestanden.

Kies het juiste model voor je taak

Gebruik een groter model voor refactoring en complexe logica, en een kleiner model voor kleine aanpassingen, zoals het toevoegen van één alias. Een groter model kost meer om te draaien of vereist sterkere hardware, dus het is verstandig het te besparen voor de stappen die het nodig hebben. Het hulpprogramma run_on_model stuurt één moeilijke stap naar een groter model, terwijl de rest van de chat doorgaat met je gebruikelijke keuze. Denk aan de grootte. Een enkele aliasregel vereist weinig redenering, maar een opruiming van een lang bestand met meerdere functies en veel aliases baat bij behulpzame hulp, en je kunt de diffs vergelijken die elk model voorstelt.

Modelkwaliteit varieert tussen providers en lokale setup's, dus lees de diff voordat je iets accepteert. Ask first pauzeert voordat acties iets wijzigen, wat je de kans geeft om een regel af te keuren die verkeerd lijkt. Plan only toont het plan zonder een bestand te wijzigen. Vertrouw de diff, niet het model. Een model kan een aannemelijke alias schrijven die niet doet wat je bedoelde, en alleen jouw review en een test in een nieuwe shell vertellen je of het wel doet.