Chọn mô hình AI xử lý các thay đổi trong shell của bạn
SeedSpindle trên Windows cần một mô hình AI để lập kế hoạch và thực hiện từng thay đổi. Bạn có thể kết nối nhà cung cấp AI đám mây, mô hình chạy trên máy tính của mình hoặc mô hình tích hợp. Lựa chọn này quyết định nơi gửi lệnh của bạn và kích thước tác vụ mà agent có thể xử lý.
Chọn nguồn mô hình của bạn
Nhà cung cấp AI đám mây
Nhà cung cấp AI đám mây kết nối qua điểm cuối API tiêu chuẩn mà bạn nhập trong cài đặt. Agent gửi lệnh của bạn đến nhà cung cấp đó, bao gồm nội dung bất kỳ tệp nào nó đọc, chẳng hạn như ~/.bashrc của bạn. Hãy cân nhắc việc sử dụng dựa trên điều đó. Vì vậy, quyền riêng tư phụ thuộc vào nhà cung cấp bạn chọn, và một tệp shell chứa bí mật không nên được gửi đến dịch vụ mà bạn không tin tưởng. Mô hình đám mây phù hợp với các tác vụ lớn mà mô hình cục bộ nhỏ không thể xử lý, và bạn có thể thay đổi điểm cuối bất cứ lúc nào. Khóa API vẫn nằm trên máy tính của bạn, và các lệnh chỉ được gửi đến điểm cuối bạn đã chọn.
Mô hình cục bộ trên máy tính của bạn
Mô hình chạy cục bộ trên máy tính của bạn trả lời trên cùng máy nơi SeedSpindle chạy. Với mô hình cục bộ, không có dữ liệu nào rời khỏi máy, vì lệnh và mọi tệp mà agent đọc đều nằm trên máy tính của bạn. Điều này khiến nó phù hợp cho các tệp shell chứa đường dẫn, tên máy chủ hoặc các chi tiết khác mà bạn muốn giữ riêng tư. Phần cứng rất quan trọng. Một mô hình nhỏ có thể chậm hơn hoặc kém hiệu quả hơn trong các tác vụ dài, vì vậy bạn nên xem kỹ từng diff và có thể gửi một bước khó cho mô hình lớn hơn nếu bạn quyết định làm vậy.
Mô hình tích hợp
Mô hình tích hợp sẵn sàng sử dụng mà không cần điểm cuối riêng của bạn, giúp bạn bắt đầu nhanh nhất. Bạn cài đặt SeedSpindle cho Windows, mở một cuộc trò chuyện và giao cho agent một nhiệm vụ đầu tiên như thêm một alias ll. Không cần cài đặt API. Hãy thử trước. Nếu một nhiệm vụ quá khó, bạn có thể kết nối nhà cung cấp AI đám mây hoặc mô hình cục bộ sau và tiếp tục làm việc trong cùng cửa sổ trò chuyện, với cùng các chế độ phê duyệt và cùng việc xem xét diff.
Kiểm tra kết nối của bạn
Nút Test kiểm tra điểm cuối bạn đã nhập và hiển thị thời gian phản hồi cũng như cửa sổ ngữ cảnh của mô hình. Hãy chạy nó ngay sau khi thêm nhà cung cấp mới hoặc địa chỉ cục bộ mới, vì khóa sai hoặc địa chỉ sai sẽ hiển thị ở đó trước khi bạn bắt đầu công việc thực tế. Cửa sổ ngữ cảnh cho biết mô hình có thể xử lý bao nhiêu văn bản trong một yêu cầu, điều này rất quan trọng khi cả ~/.bashrc và lịch sử trò chuyện đều dài. Hãy kiểm tra một lần. Nếu thời gian phản hồi chậm, hãy thử mô hình nhỏ hơn cho các chỉnh sửa nhỏ và giữ mô hình lớn hơn cho các bước khó hơn. Bài kiểm tra không thay đổi bất kỳ tệp nào.
Chọn mô hình phù hợp cho nhiệm vụ của bạn
Sử dụng mô hình lớn hơn cho các lần tái cấu trúc và logic phức tạp, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ như thêm một alias. Mô hình lớn hơn tốn nhiều chi phí hơn để chạy hoặc cần phần cứng mạnh hơn, vì vậy hãy tiết kiệm nó cho các bước cần thiết. Công cụ run_on_model gửi một bước khó cho mô hình lớn hơn trong khi phần còn lại của cuộc trò chuyện tiếp tục với lựa chọn thông thường của bạn. Hãy nghĩ về kích thước. Một dòng alias đơn giản chỉ cần rất ít suy luận, nhưng việc dọn dẹp một tệp dài với nhiều hàm và nhiều alias sẽ được hưởng lợi từ sự hỗ trợ mạnh mẽ hơn, và bạn có thể so sánh các diff mà mỗi mô hình đề xuất.
Chất lượng mô hình khác nhau giữa các nhà cung cấp và thiết lập cục bộ, vì vậy hãy đọc diff trước khi chấp nhận bất kỳ điều gì. Ask first sẽ tạm dừng trước các hành động thay đổi thứ gì đó, cho phép bạn từ chối một dòng có vẻ sai. Plan only hiển thị kế hoạch mà không chạm vào tệp. Tin vào diff, không phải mô hình. Một mô hình có thể viết một alias hợp lý nhưng không thực hiện đúng ý định của bạn, và chỉ việc xem xét của bạn và một thử nghiệm trong một shell mới cho bạn biết liệu nó có hoạt động đúng hay không.
