셸 수정을 위한 AI 모델 선택하기

Windows용 SeedSpindle는 각 수정 사항을 계획하고 작성하기 위해 AI 모델이 필요합니다. 클라우드 AI 제공업체, PC에서 실행되는 모델 또는 내장 모델을 연결할 수 있습니다. 이 선택은 프롬프트가 어디로 가는지와 에이전트가 처리할 수 있는 작업의 크기를 결정합니다.

모델 소스 선택

클라우드 AI 제공업체

클라우드 AI 제공업체는 설정에 입력한 표준 API 엔드포인트를 통해 연결됩니다. 에이전트는 읽는 파일(~/.bashrc 등)의 텍스트를 포함하여 프롬프트를 해당 제공업체로 보냅니다. 사용 계획을 세우세요. 프라이버시는 선택한 제공업체에 따라 달라지며, 비밀이 포함된 셸 파일은 신뢰할 수 없는 서비스로 보내면 안 됩니다. 클라우드 모델은 작은 로컬 모델이 처리할 수 없는 대규모 작업에 적합하며, 엔드포인트는 원하는 대로 변경할 수 있습니다. API 키는 PC에 남아 있고 프롬프트는 선택한 엔드포인트로만 전송됩니다.

PC의 로컬 모델

PC에서 로컬로 실행되는 모델은 SeedSpindle이 실행되는 동일한 기계에서 응답합니다. 로컬 모델의 경우 프롬프트와 에이전트가 읽는 모든 파일이 PC에 남아 있으므로 데이터가 외부로 나가지 않습니다. 이는 경로, 호스트 이름 또는 기타 개인 정보를 유지하고 싶은 셸 파일에 적합합니다. 하드웨어가 중요합니다. 작은 모델은 긴 작업에서 더 느리거나 능력이 부족할 수 있으므로 각 diff를 더 주의 깊게 검토하고, 필요시 더 큰 모델에 단일 단계를 보낼 수 있습니다.

내장 모델

내장 모델은 별도의 엔드포인트 없이 바로 사용할 수 있어 시작하는 가장 빠른 방법입니다. Windows용 SeedSpindle을 설치하고 채팅을 연 후, ll 별칭 추가와 같은 첫 번째 작업을 에이전트에 부여하세요. API 설정이 필요하지 않습니다. 먼저 사용해 보세요. 작업이 너무 어렵게 느껴지면 클라우드 AI 제공업체나 로컬 모델을 나중에 연결하고 동일한 채팅 창, 동일한 승인 모드 및 동일한 diff 검토를 유지한 채 작업을 계속할 수 있습니다.

연결 테스트

테스트 버튼은 입력한 엔드포인트를 확인하고 모델의 응답 시간과 컨텍스트 창을 표시합니다. 새 제공업체나 새 로컬 주소를 추가한 직후에 실행하세요. 잘못된 키나 주소는 실제 작업을 시작하기 전에 여기에 표시됩니다. 컨텍스트 창은 모델이 한 번의 요청으로 처리할 수 있는 텍스트의 양을 나타내며, ~/.bashrc와 채팅 기록이 모두 길 때 중요합니다. 한 번 확인하세요. 응답 시간이 느려 보이면 작은 수정에는 작은 모델을 사용하고 더 큰 모델은 어려운 단계에 유지하세요. 테스트는 파일을 변경하지 않습니다.

작업에 맞는 모델 선택

리팩토링과 복잡한 논리에는 더 큰 모델을 사용하고, 별칭 하나 추가와 같은 작은 수정에는 작은 모델을 사용하세요. 더 큰 모델은 실행 비용이 더 많이 들거나 더 강력한 하드웨어가 필요하므로 필요한 단계에만 사용하는 것이 좋습니다. run_on_model 도구는 하나의 어려운 단계를 더 큰 모델로 보내고 채팅의 나머지 부분은 평소 선택한 모델로 계속 진행합니다. 크기를 고려하세요. 단일 별칭 줄에는 매우 적은 추론이 필요하지만, 여러 함수와 많은 별칭이 포함된 긴 파일을 정리하는 것은 더 강력한 도움이 필요하며, 각 모델이 제안하는 diff를 비교할 수 있습니다.

모델 품질은 제공업체와 로컬 설정에 따라 다르므로, 무언가를 수락하기 전에 diff를 읽어보세요. Ask first는 무언가를 변경하는 작업 전에 일시 정지하여 잘못 보이는 줄을 거부할 기회를 줍니다. Plan only 파일 수정 없이 계획만 표시합니다. 모델이 아닌 diff를 신뢰하세요. 모델은 의도한 대로 작동하지 않는 그럴듯한 별칭을 작성할 수 있으며, 그것이 실제로 작동하는지 확인하려면 당신의 검토와 새 셸에서의 테스트가 필요합니다.