2025-03-04 01:53
【 Coding 應用AI的反思】
當 LLM 未出現的時候,自己編程的流程如下:
1. 如果簡單,利用經驗把執行步驟列出並實現
2. 如果複雜,就用邏輯+經驗把問題拆細,直至子問題可以用步驟 1 實現
LLM 出現後,工作方式變成:
1. 把問題按照LLM的能力定義複雜度
2. 把問題拆細為子問題再轉換不同的prompt,再指導對應的LLM 完成
3. 在每個問題上,驗證LLM 的輸出並修改成真正的實現
在步驟2上,轉換過程需要對 LLM 的一定認識,而子問題的顆粒度是一個驗證成本的取捨,大的問題可能能夠被直接解決,但要付出相應的驗證成本。而 reasoning 模型能改善子問題的顆粒度,但其他成本例如時間也應考慮在內。