舊版 Transformers trainer 使用 gradient accumulation 產生的 loss 比未使用 gradient accumulate 的 loss 還高的高中等級數學恆等式證明 利用正數相除大於等於1，最後再用完全平方式大於等於0來證明。 唉 我希望 transformers 已經把這 bug 都修好了，我可不是土豪可以不用 gradient accumulation 來訓練。