目前有不少手機廠陸續發展生成式 AI,讓手機可以根據用戶輸入的指令,自動產生文字回覆、圖片等內容,然而這些功能會占用大量運算資源,對 RAM 記憶體的需求量將會暴增,主流的 8 GB 將會不敷使用。
金融集團 Macquarie 麥格理發表一份僅供授權人士可以觀看的 AI 調查報告,網友 @Tech_Reve 從中擷取了當中的圖表,得知不同程度的生成式 AI 在手機上所需要的 RAM 。
Macquarie has issued a report on the required RAM capacity to run on-device AI on smartphones, and it's intriguing.
— Revegnus (@Tech_Reve) November 13, 2023
1) The typical current smartphone is equipped with around 8GB of RAM.
2) On-device AI devices with image generation capabilities require approximately 12GB of RAM.… pic.twitter.com/gzsuQroyPc
從圖表來看,如果需要導入如同 Stable Diffusion,能夠自動生成圖片內容的 AI,手機的 RAM 至少要 12 GB;要達到數位人工助理等級,可以聊天、安排行程、辨別手機上所有資訊並統整與生成各式相關內容,則需要高達 20 GB 以上的 RAM 才足夠。
現階段就算是旗艦級手機,主流的 RAM 容量也大致落在 8 - 12 GB,例如 Samsung Galaxy S23 系列的 S23、S23+ 為 8GB,S23 Ultra 則為 12 GB,僅極少數如 OnePlus 推出的 Ace 2 Pro 有著高達 24 GB 的 RAM。
換言之,旗艦級手機在 RAM 配置上必須要有相當幅度的增長,才能滿足生成式 AI 的需求,當然這是在不依靠雲端運算的情況,若改為全雲端運算自然也就沒這方面的問題,但相對的,手機廠商的 AI 伺服器的需求就會急遽增加,且需要面臨設備維護、資安防護等問題。