FauxPilot local Copilot Server

FauxPiolt 是一個採用 SalesForce CodeGen 模型加上 Nvidia Triton Inference Server 的 Copilot server 取代品. 也就是說，不需要使用 github 的 copilot 的服務就可以使用 copilot 了

因為之前想要在 Windows 玩遊戲，又想要學一些 AI 的東西，所以後來裝了 WSL2 加上 Nvidia driver

如果要在這個環境下跑 FauxPilot ，那就要裝 Docker Windows 版，然後開啟 WSL2 的支援，雖然 Microsoft 也有說明，我覺得 Docker 這邊的說明比較好

現在 FauxPilot 的版本已經可以支援 8GB 的顯示卡了，選 7GB 的 codegen 就可以了
如果更大 codegen model 的可以用二張顯示卡，這樣就可以支援了

我照圖中的步驟安裝沒有什麼問題，有問題的應該是 VSCode copilot 的部份，按照 Fauxpilot 設定，並不會轉到 localhost:5000 ，猜測可能已經拿掉支援了或是我沒設定好

不過上面那個 openai 的 Sample code 就是可以直接存取，那個 sample code 不需要取得 openai 的 api key，直接用就可以，應該是 Nvidia server 自帶的功能

有人寫了一個 vscode-fauxpilot 的 extension ，下載位置在這邊，試了一下可以玩，簡單的測試了一下
要什麼功能就先 ### 你要的的功能，接下來就會顯示程式碼，再用 tab 就可以補完了，還頗有趣的

ref.
跑在本機的 GitHub Copilot 替代品