前天這篇長文，內容主要評論的是國內的軟體發展，雖然提及與硬體產業的相關性，但並非批判代工產業，也不大好簡化歸因「代工思維」。
我的基本立場是，代工是台灣產業的重要基礎，不宜藐視，但也必須與時俱進，不能故步自封。
現代完整的資訊系統解決方案的軟硬體供應鏈很複雜，其中很多委外研發、代工製造的項目，價值高低有差，提昇價值的關鍵在於技術門檻、智財權、以及是否有辦法做出差異化，如果只是靠價廉物美的人力資源和薄利多銷的戰術，特別是在一窩蜂（內卷）的情況下，會賺得很辛苦。
然而，固守在硬體供應鏈的思維，長期而言會讓多數的硬體業者的價值難以成長，是個隱憂；由硬體思維主導軟體開發的現況，也是國內軟體技術層次成長的障礙。
至於走品牌或新創路線，那是說得容易、做得難，尤其是軟體，不應該一昧鼓吹，要有配套和戰略，實情有點複雜，改天再談。
國內的軟體人才
昨天的演講邀請到大學時代曾經跟我做過專題研究的許秉倫，講他在美國留學就業後創立的Liger Kernel開源軟體專案。有別於一般的演講，我希望這場演講著重於技術面的分享，進而呈現開源軟體的世界給聽眾。主要的演講約一小時，但演講會上的問答以及會後聽眾找講者的交流，超過一個小時，可見得言之有物、意猶未盡。這場演講的錄影，如果臉友們回應熱烈的話，在徵得講者和贊助單位同意之後，我們會考慮上網公開分享。
秉倫做的這個Liger Kernel專案，技術門檻不低，因為要懂得如何駕馭含有GPU或硬體加速器的異質計算架構，不僅要能運用CUDA寫GPU程式，還在系統上使用效能工具找尋效能瓶頸加以優化，同時與其他開源專案（Triton）密切接軌。我將這類的開源專案稱之為開源系統與中介軟體，一直是我指導學生鑽研的方向，也是我希望國內產業界多加以重視並支持的領域，只可惜國內積極支持的業者太少。
很多學生從小為了考試而一路刷題到現在，還要繼續花時間刷題，我也管不著，只能建議各位趁著在校時多充實素養、學一些有用的東西。在科舉時代，熟背經史詩文的人可以上位當官，但不見得能做大事、解決問題。要知道，現在的AI比絕大多數人都要會刷題、會作刻板文章、寫程式，於是有人說學生們不用再學寫程式了。
的確，很可能不用再寫一些別人寫過的程式，但如果不學寫程式的話，如何懂得電腦科學中所蘊藏的道理（運算思維）呢？如果遇到未曾碰觸過的新領域，光靠嘴砲指揮AI就能研發程式來解決問題嗎？AI最可能淘汰的是只會照本宣科、依樣畫葫蘆的人，奉勸各位不要一昧從眾，而喪失個人的特色。
在這場演講中，秉倫不只一次被問到，LinkedIn為什麼願意讓他花大把時間做開源軟體專案，而且將這種專業的好東西分享給包含競爭對手的其他公司呢？其實這些問題正好曝露出國內業界的生態距離國外太過遙遠，聽眾不只難以置信，也會質疑在國內是否有這樣的機會。
首先，放眼國內開源社群所關注的專案，很多都是基於個人的興趣和熱情，只能利用個人閒暇時間參與，往往跟任職公司的業務脫節。理論上，如果參與的開源軟體專案與公司業務相關性頗高，公司或許會支持，但實際上國內硬體製造的思維中還有極濃厚的保護意識，與開源文化背道而馳，深怕公司機密洩漏，所以要這些公司支持開源軟體社群的發展是困難重重。
我認為，追求軟體的價值要有方法，心態與硬體製造截然不同，然而賺大錢的晶片系統廠網羅了許多頂尖大學培育的軟體人才，然後讓他們在硬體製造的思維框架中只做對公司有利的研發工作，這樣的大環境是相當不利於國內軟體人才培育和發展的。我這些年的個人經驗告訴我，在這個極度重視硬體製造的國度，願意積極探索和開創軟體價值的晶片系統廠少得可憐。
曾經，在中國製造的壓力下，有些晶片系統廠開始思考如何轉型，除了在原本擅長的硬體製造技術上精益求精之外，發展較為貼近硬體的系統軟體、培育相關人才。但意外幸運地，近年受惠於美中經濟戰，晶片和系統產業的成功，讓國內許多人引以為傲的同時，並沒有很積極投入資源培育系統軟體人才、致力於提升系統軟體技術，我認爲非常可惜。
曾經是晶片系統產業龍頭的Intel，為何這些年逐漸失去競爭力，是一個值得參考的案例。不過美國就算Intel不行了，也有很多資訊業的翹楚，除了炙手可熱的NVIDIA之外，更重要的是軟體業的霸主們，因為那是美國業者想要的價值。反觀國內，硬體製造之外，能夠追求哪些價值？
因為國內的系統產業如果真的想提昇價值，除了在原本擅長的硬體製造技術上精益求精之外，發展較為貼近硬體的系統軟體、培育相關人才，是最能借重原有的晶片、系統產業的利基的作為。但很可惜地，大多數廠商只想撿現成人才，沒有很積極投入資源培育人才，在系統軟體的技術上難以躍升，實在可惜。
話說曾經是晶片系統產業龍頭的Intel，為何這些年逐漸失去競爭力，是一個值得參考的案例。不過美國就算Intel不行了，也有很多資訊業的翹楚，除了炙手可熱的NVIDIA之外，更重要的是軟體業的霸主們，因為那是美國業者想要的價值。反觀國內，硬體製造之外，能夠追求哪些價值？
當我上個月在超級電腦年會（SC24）的展場上看到一票台灣系統廠都秀出長相差不多的GB200/NVL72的機櫃之時，我心想，能夠把超級電腦變成幾乎每家系統廠都會代工生產的盛況，真正厲害和賺大錢的是NVIDIA！而台灣廠商在NVIDIA獨大，各家做不出明顯的差異化，又彼此競爭的情況下，只能像小弟般跟著NVIDIA大哥做事分紅，遲早利潤會越來越薄的。
我絕對不是嫌棄代工，只是指出國內大量優秀的軟體人才集中在硬體製造產業，只限做一些有助於長官提升業績的研發工作，難以發揮其能力。我敢說，這並不是國內大學加強培養軟體人才就能解決的問題；相對地，不少國內培育的人才到了國外，卻能夠獲得重用，還能海闊天空地發展。
對了，有位學生問秉倫，你因為看到某個效能問題而開創出Liger Kernel，為什麼其他人沒看到？沒有被其他人解掉？
秉倫說，他在LinkedIn一開始用的都是配備80GB記憶體的GPU，因緣際會遇到朋友提及GPU只有40GB的記憶體，不夠訓練大模型的時候，才開始思考如何節省記憶體 -- 或許很厲害的人有用不完GPU，沒有碰到這個問題？
我在會後對學生說，這類問題很常發生，只要多碰觸實作問題就會看到。或許有人認為不夠學術性、不是SOTA，但絕對不要忽視這類工作對學術的貢獻。你看今年的諾貝爾獎頒給AI技術的引航者、應用工具的開發者，就有這個意涵。對我來說，只要學習做對人類有幫助的技術，就是學術。
沒有留言:
張貼留言