ChatGPT 有幾燒錢？(「木頭姐：市場未來兩個大機會」第2版)
初始投入十億美元 單日電費數萬美元
國盛證券估算，今年1月平均每天約有1300萬獨立訪客使用ChatGPT，對應晶片需求為3萬多片英偉達A100GPU，初始投入成本約為8億美元，每日電費在5萬美元左右。
1)計算假設：
英偉達A100：根據OneFlow報導，目前，NVIDIAA100是AWS最具成本效益的GPU選擇。
英偉達DGXA100伺服器：單機搭載8片A100GPU，AI算力性能約為5PetaFLOP/s，單機最大功率約為6.5kw，售價約為19.9萬美元/台。
標準機櫃：19英寸、42U。單個DGXA100伺服器尺寸約為6U，則標準機櫃可放下約7個DGXA100伺服器。則，單個標準機櫃的成本為140萬美元、56個A100GPU、算力性能為35PetaFLOP/s、最大功率45.5kw。
2）晶片需求量：
每日諮詢量：根據Similarweb資料，截至2023年1月底，chat.openai.com網站（即ChatGPT官網）在2023/1/27-2023/2/3這一周吸引的每日訪客數量高達2500萬。假設以目前的穩定狀態，每日每使用者提問約10個問題，則每日約有2.5億次諮詢量。
A100運行小時：假設每個問題平均30字，單個字在A100GPU上約消耗350ms，則一天共需消耗729,167個A100GPU運行小時。
A100需求量：對應每天需要729,167/24=30,382片英偉達A100GPU同時計算，才可滿足當前ChatGPT的訪問量。
3）運行成本：
初始算力投入：以前述英偉達DGXA100為基礎，需要30,382/8=3,798台伺服器，對應3,798/7=542個機櫃。則，為滿足ChatGPT當前千萬級用戶的諮詢量，初始算力投入成本約為542*140=7.59億美元。
每月電費：用電量而言，542*45.5kw*24h=591,864kwh/日。參考HashrateIndex統計，假設美國平均工業電價約為0.08美元/kwh。則，每日電費約為2,369,640*0.08=4.7萬美元/日。
資料來源：國盛證券
———
木頭姐：市場未來兩個大機會
方舟投資管理公司創始人（ARK Investment Management）Cathie Wood，外號木頭姐，最新發表了一份報告，提出了14個投資主題，但行業涉及港股的顛覆式機會，只有兩個。
1.人工智慧
最近一兩個月，ChatGPT大火，整條華爾街表現十分興奮。
木頭姐指出，OpenAI在2022年11月發佈的ChatGPT在發布後的五天內，用戶數量達到100萬，僅用了兩個月就達到1億活躍用戶，成為史上用戶增長最快的消費應用。
她認為，規模化運行模型的成本為每次查詢0.01美元，但萊特定律表明，到2030年，類似ChatGPT的應用將部署到谷歌等搜尋引擎，每天處理約85億次搜索。
在這裏，讀者需要留意，ARK整個研究都是圍繞萊特定律（Wright's Law）進行的。何謂萊特定律？核心內容就是說，某種產品的累計產量增加一倍，成本就會下降一個恒定的百分比。
所以，顛覆性的機會，一個條件就是成本需要大減。
木頭姐表示，購買特斯拉（TSLA.US）是投資者利用ChatGPT和更廣泛的人工智慧技術獲利的最佳方式之一。
特斯拉是目前最深刻的人工智慧公司之一，特斯拉不是一家汽車公司，而是一家科技公司。
她指出，人工智慧的崛起將顛覆谷歌母公司Alphabet（GOOG.US）等傳統科技公司，世界變化之快令人難以置信，但特斯拉處於最佳地位，可以利用人工智慧的崛起，因為它正在尋求主導自動駕駛計程車市場，這是未來十年的主題之一。
木頭姐相信，自動駕駛計程車平台是未來5到10年人工智慧領域最大的機遇，特斯拉預計在未來五年內將上漲到1500美元至1600美元之間。
ARK 報告認為，到2030年，人工智慧或將知識工作者的生產力提高4倍以上，將軟體工程師的效率提高10倍以上，創造約200萬億美元的價值。
此外，一個大型語言模型（LLM）訓練到GPT-3級的成本已從2020年的460萬美元下滑到2022年的45萬美元，估計成本將以每年70%的速度持續下降至2030年。
ARK指出， 以程式設計為例，在AI的幫助下，程式員編寫一套代碼的時間將減少55%。同時，由於培訓成本的不斷下降，到2030年，像Copilot這樣的人工智慧編碼助手可以將軟體工程員的產出提高10倍。
根據資料，AI可以在幾分鐘內生成圖片，所需成本為0.08美元，與平均150美元的人力成本相比，將為企業節省不少開支。
從提高知識工作者的生產力來看，根據ARK的研究，到2030年，人工智能使知識工作者的生產力提高4倍以上。在100%採用人工智慧的情況下，全球總支出約為41萬億美元，創造約200萬億美元市場價值：
如果供應商能夠獲得其產品所創造價值的10%，那麼在2030年，人工智慧軟體可以產生高達14萬億美元的收入並為企業創造90萬億美元的價值。
此外，根據MosaicML最近發佈的資料，將大型語言模型訓練到GPT-3級別，2022年僅需45萬美元，約為兩年前460萬美元的十分之一，ARK認為軟體及硬體成本的下降將進一步推動人工智慧訓練成本以每年70%的速度下降，甚至比此前ARK報告中估計的60%還要快，報告解釋稱：
根據萊特定律，人工智慧相對計算單元（RCU）的生產成本及軟件成本將分別以每年57%和47%的速度下降。換句話說，硬體和軟體的融合可以推動人工智能訓練成本在2030年前均以每年70%的速度下降。
最後，根據OpenBMB截至2022年10月的統計，全球代表性的語言模型、圖象模型，在港上市的股份只含百度 （09888） 。騰訊 （00700） 、阿里 （09988） 只涉及雲計算，而且均未入選，即係話，市場在這一刻並不將這兩股視為AI股。
2.電動汽車
其他內容，登入詳閱。
★★《2023年電子書系列》層出不窮 ★★
新書出爐：2023年hket 35周年 10大電子書系列陸續上架，股市篇之《中港美股市拐點贏面比拼》已經登場，訂戶可按此登入盡覽。
更多精彩電子書選擇，可按此登入電子書架，豐富藏書無限瀏覽。
...
【全新訂戶限定】$10訂閱指定計劃，即可飽覽三大頻道及電子書系列！
計劃詳情
撰文 : 陳建仁
欄名 : 大師見地
