2026年7月11日 星期六

利用LiteLLM Proxy,讓Claude Code調用第三方AI模型

20260710-巴威颱風假

Claude Code原生僅支援Anthropic官方模型,若要調用第三方AI模型(本例為Gemini API),可利用「路由代理工具」,目前主流的開源專案有LiteLLMclaude-code-proxy 專案,這類路由工具會在本機啟動路由伺服器,將Claude Code發出的Anthropic式請求,翻譯成第三方模型的請求格式。本篇將採用LiteLLM執行路由代理。

Windows 安裝命令
d:\                                    安裝於D: 槽
mkdir LiteLLM_proxy                    建立安裝目錄
cd LiteLLM_proxy                       切換到安裝目錄
python -m venv myenv                   建立虛擬環境
myenv\Scripts\activate.bat             啟動虛擬環境(Linux用 source myenv/bin/activate
python -m pip install --upgrade pip    更新 pip
pip install "litellm[proxy]"           安裝 litellm_proxy
litellm --version                      檢查版本,並確認litellm可正常執行
建立CONFIG.yaml(路由設定檔)

建立CONFIG.yaml檔案(檔名可自定),定義如何將Claude模型名稱對應到Google Gemini:

model_list:
  # 當 Claude Code 呼叫 claude-3-5-sonnet 時,實際走 gemini-2.5-pro
  - model_name: claude-sonnet-5
  # 到https://platform.claude.com/docs/en/about-claude/models/overview
  # 查詢精確模型名稱
    litellm_params:
      model: gemini/gemini-3.1-flash-lite
      # 有關gemini api key能用的模型之真正名稱,請到
      # https://aistudio.google.com/app/rate-limit 的Tools區段
      # 尋找RPD欄位不是 0/0 的模型,如果模型名稱右邊有(i)符號者,
      # 請點此符號查看個別模型的名稱。調用模式時需用:[模型主名]-[板本]-[類型]型式,
      # 例如:Gemini 3.1 Flash Lite的調用名稱為 gemini-3.1-flash-lite。
      api_key: "os.environ/GEMINI_API_KEY
      # 可以使用 "os.environ/GEMINI_API_KEY" 由作業系統的環境變數提供>KEY,
      # 亦可直接填入 API KEY,為不同模型指定不同 API KEY
  # 定義呼叫Claude Code的 AI(例如>claude-3-5-haiku)時,   # 要轉發的對象(例如 gemini-2.5-pro)   
- model_name: claude-opus-4-8     litellm_params:       model: gemini/gemini-2.5-pro       api_key: "os.environ/GEMINI_API_KEY"     - model_name: claude-haiku-4-5     litellm_params:       max_tokens: 1500       model: gemini/gemma-4-31b-it       api_key: "os.environ/GEMINI_API_KEY"   general_settings:   user_auth_key_required: false   allow_requests_on_db_unavailale: true  # 即使 db 無法連線,亦傳送請求   litellm_settings:   drop_params: true     # 自動過濾掉 Gemini 不支援的 Anthropic 特有參數   model_alias_map:       # 可讓多個claude-模式對應到同一個gemini模式,以解決相同性問題     claude-haiku-4-5-20251001: gemini/gemini-3.1-flash-lite
router_settings:   fallbacks:             # 設定降級機制     - claude-opus-4-8: [claude-sonnet-5]   # Opus 失敗就降級到 Sonnet   allowed_fails: 3       # 允許模型連續失敗幾次後,將它暫時踢出可用清單   cooldown_time: 30      # 失敗的模型要被暫停多久(見上項)   enable_pre_call_checks: true
#
environment_variables:   # 亦可將環境變數設在此處   # OPENAI_API_KEY: "sk-proj-kq OpenAI API金鑰"   # ANTHROPIC_API_KEY: "sk-ant-ap Claude AI API金鑰"   # GEMINI_API_KEY: "AQ.Ab8 Gemini AI API金鑰" 
為AI模型提供API Key
要調用gemini模型,需要API KEY,有三種途徑可設定:
1. 直接在CONFIG.yaml的個別模型上設定(見上面CONFIG.yaml的註解)
2. 在 CONFIG.yaml的「environment_variables」區段統一設定(見上面CONIG.yaml的「environment_variables」區段,已先註解掉)
3. 使用作業系統的環境變數,上面CONFIG.yaml就是透過作業系統的環境變數提供。
 
Gemini的環境變數是GEMINI_API_KEY,至於設定方式,請依不同作業系統而設定之。
 
設定Claude Code的Base-URL
Claude Code預設連接Anthropic的模式,為了讓Claude Code透過LiteLLM Proxy調用第三方模型,需在作業系統設定下列二個環境變數:
ANTHROPIC_BASE_URL=http://localhost:4000/
CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY=1
啟動LiteLLM Proxy
在Windows的命令提示字元或Powershell終端機執行下列指令:
d:\                                因安裝在 D: 槽,所換到 D:
cd LiteLLM_proxy                  >切換到安裝目錄
myenv\Scripts\activate.bat          啟動虛擬環境(Linux用 source myenv/bin/activate
litellm --config config.yaml

※   可以建立不同的CONFIG.yaml,依不同情境,在執行litellm指定不同CONFIG.yaml

LiteLLM啟動後畫面如下:
 
  • 工具調用(Tool Use / Function Calling)限制:Claude Code 極度依賴模型執行終端指令(如編譯、讀檔、寫檔)的能力。Gemini 雖然支援 Function Calling,但轉發過程中如果遇到複雜的架構,偶爾可能發生解析錯誤。建議優先使用 Gemini 2.5 Pro 或更高等級的模型來確保 Agent 運作順暢。
  • 無感切換:進入 Claude Code 介面後直接輸入 /model,便可看到轉發而來的 Gemini 模型選項,並自由切換。
啟動claude

完成各環境變數設定,且順利啟動litellm後,litellm會在 http://0.0.0.0:4000/ 接聽請求,接著啟動claude,下圖是claude透過litellm proxy調用gemini的情形。

由litellm的日誌訊息可發現,claude收到的回應來源是claude-sonnet-5,但真正回應此訊息的源頭是gemini-3.1-flash-lite。

2023年10月2日 星期一

以SonarQube掃描Gradle專案源碼

SonarQube 是一套白箱掃描工具,本例使用開源免費的Community版本,有關安裝方式可參考「在KALI Linux建置黑、白箱掃描系統(Arachni及SonarQube)」一文。

本文以SonarQube提供的範例「 sonar-scanning-examples-master\sonarqube-scanner-gradle\gradle-multimodule」做示範說明,置於「C:\sonar-scanning-examples-master\sonarqube-scanner-gradle\gradle-multimodule」目錄下。若想掃描其他gradle專案,請依該專案環境、結構酌作調整,尤其工具及Java版本。

一、必要需求

(一)適合待掃專案的JDK

1.本例使用Java 13,筆者將它放置於C:\JAVA\jdk-13.0.2。

2.建立環境變數「JAVA_HOME」,讓它指向「C:\JAVA\jdk-13.0.2」。

3.在PATH環境變數中加入「%JAVA_HOME%\bin」,讓作業系統可以找到javac.exe。

(二)gradle工具(用來建立 Gradle Wrapper)

1.至Gradle官網 下載Gradle工具包,直接解壓縮到自選目錄,例如「C:\gradle\gradle-8.0.2」。

2.建立環境變數「GRADLE_HOME」,讓它指向「C:\gradle\gradle-8.0.2」。

3.在PATH環境變數中加入「%GRADLE_HOME%\bin」,讓作業系統可以找到gradle.exe。

4.執行 gradle -v 確認gradle.exe可執行。

C:\>gradle -v
------------------------------------------------------------
Gradle 8.0.2
------------------------------------------------------------

Build time:   2023-03-03 16:41:37 UTC
Revision:     7d6581558e226a580d91d399f7dfb9e3095c2b1d

Kotlin:       1.8.10
Groovy:       3.0.13
Ant:          Apache Ant(TM) version 1.10.11 compiled on July 10 2021
JVM:          17.0.2 (Oracle Corporation 17.0.2+8-86)
OS:           Windows 10 10.0 amd64

C:\>

二、修改待掃專案的build. gradle,加入sonar scanner插件:

本例使用4.3.1.3277版插件,這裡可查詢gradle可用的各版本sonar scanner插件,請選擇合適的版本。

plugins {
    ……其他的plugin……
    // 為SonarQue加入適當版本的插件,參考建立Sonar掃描專案後,Sonar所提示的版本
    id 'org.sonarqube' version '4.3.1.3277'
}

三、執行掃描:

(一)啟動SonarQube Scanner Server,假設位於「 http://192.168.232.153:9000

(二)以瀏覽器連線SonarQube Scanner Server,並建立掃描專案(如重掃描舊專案,請備妥 Project Token)

1. 由Projects頁面選擇「Create Project」->「Manually」

2.社群版只能選擇「Locally」

3.填入「Project display name」(專案名稱)及「Project key」(專案鍵名)

4.產生Project Token(專案身分代號)

5.請記下Project Token



6.選擇要被掃描的專案類型(Gradle)


(三)開啟命令提示字元,將工作目錄切換到待掃描的Gradle專案目錄,本例係位於C:\sonar-scanning-examples-master\sonarqube-scanner-gradle\gradle-multimodule,此範例已自帶「gradle wrapper」。
若您的專案目錄下沒有gradle\wrapper」目錄,則需要於此專案目錄下執行「gradle wrapper」,完成後,會在此目錄下新增.gradle、gradle兩個目錄及gradlew、gradle.bat兩檔案。
若待掃專案已有.gradle、gradle兩個目錄及gradlew、gradle.bat兩檔案,可跳過此步驟。

(四)注意 gradle\wrapper\目錄裡gradle-wrapper.properties 檔的 distributionUrl 項目所指定之 gradle 版號(可至https://services.gradle.org/distributions/ 查看所有版號),及所使用的JDK版本。
若gradle service版號或JDK版本與待掃專案不匹配,建置過程會發生錯誤。

#Tue May 19 06:55:41 BST 2020
distributionUrl=https\://services.gradle.org/distributions/gradle-6.4.1-all.zip
distributionBase=GRADLE_USER_HOME
distributionPath=wrapper/dists
zipStorePath=wrapper/dists
zipStoreBase=GRADLE_USER_HOME

(五)如果已完成項一及項二的要求,便可直接複製及執行SonarQube所提供的命令。
由於此命令是Linux格式,本例是在Windows環境執行,需調整命令語句,將原始命的整理成單一列。

(六)執行過程如下所示(橘紅色部分是我所執行的命令

C:\sonar-scanning-examples-master\sonarqube-scanner-gradle\gradle-multimodule>gradlew.bat sonar -Dsonar.projectKey=Example-Gradle-Project -Dsonar.host.url=http://192.168.232.153:9000   -Dsonar.login=sqp_99a6eebeda445bce288e94afae9aa409e7454d75
> Task :sonar
SCM provider autodetection failed. Please use "sonar.scm.provider" to define SCM of your project, or disable the SCM Sensor in the project settings.
BUILD SUCCESSFUL in 39s
2 actionable tasks: 2 executed
<-------------> 0% WAITING
> IDLE 

如果前面各步驟無誤,應該可以完成掃描,最後會看到「BUILD SUCCESSFUL」。如果過程出現錯誤,請仔細研讀訊息,善用Google或ChatGPT找出解答。

完成掃描後,可在SonarQube Scanner Web UI看到專案結果~~


完成掃描後,可在SonarQube Scanner Web UI看到專案結果~~


關於 dotNet Framework 專案的掃描,請參閱:以SonarQube執行.netFramework專案的源碼掃描(白箱掃描)

關於 dotNet Core 專案的掃描,請參閱:以SonarQube掃描dotNet Core專案源碼(白箱掃描)

2023年9月28日 星期四

以 SonarQube 掃描 maven 專案源碼(白箱掃描)

SonarQube 是一套白箱掃描工具,本例使用開源免費的Community版 本,有關安裝方式可參考「在KALI Linux建置黑、白箱掃描系統(Arachni及SonarQube)

本文以SonarQube提供的範例「 sonar-scanning-examples-master\onarqube-scanner-maven\maven-multilingual 」做示範說明,若想掃描其他maven專案,請依該專案環境、結構酌作調整,尤其工具及Java版本。

一、必要需求

(一)maven

Apache Maven Project 下載合適版本的Maven(本例使用 maven-3.9.0),並解壓縮到自選目錄,例如「C:\maven\apache-maven-3.9.0」。

建立環境變數「M2_HOME」指向「C:\maven\apache-maven-3.9.0」。

在 PATH 環境變數中加入「%M2_HOME%\bin」,讓作業系統可以找得到mvn.exe。

(二)適合待掃專案的JDK

本例使用Java 11,位於C:\JAVA\jdk-11.0.2。

二、修改待掃專案的pom.xml,加入sonar scanner:

如果不想修改待掃專案的POM.XML,可參考「三、執行掃描」的第(四)點。

<build>
<pluginManagement>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<version>3.8.1</version>
</plugin>
<!-- 以下為SonarQube而建 -->
<plugin>
<groupId>org.sonarsource.scanner.maven</groupId>
<artifactId>sonar-maven-plugin</artifactId>
<version>3.9.1.2184</version>
</plugin>

這裡可查詢各個版本的sonar scanner插件,請選擇合適的版本,本例是使用 3.9.1.2184。

三、執行掃描:

(一)啟動SonarQube Scanner Server,假設位於「 http://192.168.232.153:9000

(二)以瀏覽器連線SonarQube Scanner Server,並建立掃描專案(如重掃描舊專案,請備妥 Project Token)

1. 由Projects頁面選擇「Create Project」->「Manually」

2.社群版只能選擇「Locally」

3.填入「Project display name」(專案名稱)及「Project key」(專案鍵名)

4.產生Project Token(專案身份代號)

5.請記下Project Token



6.選擇要被掃描的專案類型(Maven)



(三)開啟命令提示字元,將工作目錄切換到待掃描的Maven專案目錄,本例使用sonar-scanning-examples-master的sonarqube-scanner-msbuild專案做示範,下載後置於C:\sonar-scanning-examples-master\sonarqube-scanner-msbuild。

(四)如果已完成項一及項二的要求,便可直接複製及執行SonarQube所提供的命令。
由於此命令是Linux格式,本例是在Windows環境執行,需調整命令語句,將原始命的整理成單一列:

(五)若想靈活切換SDK版本,可以在開啟命令提示字元後,依續執行:

C:\>set JAVA_HOME=c:\java\jdk-11.0.2
C:\>set path=%JAVA_HOME%\bin;%PATH%                       #加在前面,確保被優先引用
C:\>cd c:\sonar-scanning-examples-master\sonarqube-scanner-msbuild
C:\sonar-scanning-examples-master\sonarqube-scanner-msbuild>
mvn clean verify sonar:sonar -Dsonar.projectKey=Examp-Maven-A -Dsonar.host.url=http://192.168.232.129:9000 -Dsonar.login=sqp_dba30fef39a3676dd2c2bba4ae197d96ae58aa03

   或者

C:\sonar-scanning-examples-master\sonarqube-scanner-msbuild>
mvn clean verify org.sonarsource.scanner.maven:sonar-maven-plugin:3.9.1.2184:sonar -Dsonar.projectKey=Examp-Maven-A -Dsonar.host.url=http://192.168.232.129:9000 -Dsonar.login=sqp_dba30fef39a3676dd2c2bba4ae197d96ae58aa03

(六)執行過程如下所示(橘紅色部分是我所執行的命令

C:\>java -version
openjdk version "11.0.2" 2019-01-15
OpenJDK Runtime Environment 18.9 (build 11.0.2+9)
OpenJDK 64-Bit Server VM 18.9 (build 11.0.2+9, mixed mode)

C:\>cd sonar-scanning-examples-master\sonarqube-scanner-maven\maven-multimodule
C:\sonar-scanning-examples-master\sonarqube-scanner-maven\maven-multimodule>mvn clean verify org.sonarsource.scanner.maven:sonar-maven-plugin:3.9.1.2184:sonar -Dsonar.projectKey=Examp-Maven-A  -Dsonar.host.url=http://192.168.232.129:9000 -Dsonar.login=sqp_dba30fef39a3676dd2c2bba4ae197d96ae58aa03
[INFO] Scanning for projects...
[INFO] ------------------------------------------------------------------------
[INFO] Reactor Build Order:
[INFO]
[INFO] Example of multi-module Maven project                              [pom]
[INFO] Module 1                                                           [jar]
[INFO] Module 2                                                           [jar]
[INFO] Tests                                                              [jar]

<<部分訊息省略>>


[
INFO] ANALYSIS SUCCESSFUL, you can find the results at: http://192.168.232.129:9000/dashboard?id=Examp-Maven-A
[INFO] Note that you will be able to access the updated dashboard once the server has processed the submitted analysis report
[INFO] More about the report processing at http://192.168.232.129:9000/api/ce/task?id=AYrZSjAxVbRR_GlSxZsf
[INFO] Analysis total time: 7.571 s
[INFO] ------------------------------------------------------------------------
[INFO] Reactor Summary for Example of multi-module Maven project 1.0-SNAPSHOT:
[INFO]
[INFO] Example of multi-module Maven project .............. SUCCESS [  9.495 s]
[INFO] Module 1 ........................................... SUCCESS [  6.353 s]
[INFO] Module 2 ........................................... SUCCESS [  1.566 s]
[INFO] Tests .............................................. SUCCESS [  1.851 s]
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time:  23.218 s
[INFO] Finished at: 2023-09-28T08:57:11+08:00
[INFO] ------------------------------------------------------------------------

C:\sonar-scanning-examples-master\sonarqube-scanner-maven\maven-multimodule>

如果前面各步驟無誤,應該可以完成掃描,最後會看到「EXECUTION SUCCESS」。如果過程出現錯誤,請仔細研讀訊息,善用Google或ChatGPT找出解答。

完成掃描後,可在SonarQube Scanner Web UI看到專案結果~~

完成掃描後,可在SonarQube Scanner Web UI看到專案結果~~


關於 dotNet Framework 專案的掃描,請參閱:以SonarQube執行.netFramework專案的源碼掃描(白箱掃描)

關於 dotNet Core 專案的掃描,請參閱:以SonarQube掃描dotNet Core專案源碼(白箱掃描)