大型語言模型（LLM）主要有訓練（Training）與推理（Inference）兩階段，下列描述何者正確？

題目

大型語言模型（LLM）主要有訓練（Training）與推理（Inference）兩階段，下列描述何者正確？ A. 訓練階段主要仰賴CPU 進行權重計算 B. 推理比訓練需要更多原始訓練資料 C. 訓練會持續修改權重，推理僅固定讀取權重 D. 推理階段的總計算量遠高於訓練

官方答案

• 答案：C. 訓練會持續修改權重，推理僅固定讀取權重

解析

訓練階段以大量資料反覆進行前向傳播與反向傳播，透過梯度下降持續調整模型權重，通常需要 GPU／TPU 等加速器；推理階段只是把已訓練好的權重固定載入，對輸入做前向計算產生輸出，不再更新權重，因此 C 正確。A 錯在訓練主要依賴 GPU 而非 CPU；B 錯在推理不需要原始訓練資料；D 錯在訓練涉及海量資料與多次迭代，整體計算量遠高於單次或一般量的推理。

AI 參考解析（推得答案已與官方答案比對一致），非官方公告內容，僅供備考參考。

官方資料

• 官方試題 PDF
• 官方答案 PDF

答案以考選部公告之測驗式試題標準答案 PDF 為準。