2024-04-25 04:39
參加今年AI EXPO的幾場講座發現幾個新想法,畢竟AI的資料已經多如雨了,沒太多新意。
1. AI在硬體端的議題外,有越來越多軟體公司、各種solution(存儲的pure storage 等)公司磨刀霍霍,可以看到大家都想要爭取終端的profit,理所當然的,除了training之外,inference的需求越來越大,把資料中心下放到邊緣端的進程越來越近,而且用量可能會遠超乎現在想像。
2. 由於資料中心的越來越多之外,power consumption per rack也越來越大,Meta的Zuckerberg 也提到,未來發展的瓶頸會是電力而非算力,這言論貌似有點lag,但我認為未來除了電源供應等等的之外,能夠提供reduced power solution的公司會有非常有潛力。