支持端側AI大模型已成新趨勢，將推動智能手機內存容量突破20GB

11月16日消息，根據外媒wccftech報導，預計2024年將會流行的一件事就是終端AI的使用，該功能目前已內置于2024年發(fā)表的多款芯片組中，包括高通Snapdragon 8 Gen 3、聯發(fā)科天璣9300和三星Exynos 2400。

一份新報告提出，支持終端側AI大模型功能的智能手機將需要比以前更大容量的內存。因此，內置端側AI大模型功能的Android智能手機其內存容量至少需要20GB 將成為趨勢。

報告稱，雖然8GB內存仍然是當前Android智能手機市場的主流。然而，市場上很多旗艦智能手機也已經達到了比現階段多數筆記本電腦或臺式機具有更多的內存容量。接下來，為了讓設備上的AI更好的生產圖像，Android手機將需要至少1GB的內存。原因是為具有設備上人工智能助理，以及其他功能的設備將需要超過20GB的內存才能確保更流暢的操作。

在此前天璣9300的預溝通會上，聯發(fā)科無線通信事業(yè)部AI技術高級經理莊世榮就曾向芯智訊解釋稱，一款130億參數的AI大模型，大概需要13GB 內存 (INT8)才能運行，而智能手機本身運行安卓操作系統通常就要占用4GB的內存，如果還要相對流暢的運行其他常規(guī)APP任務并?；?，還需要6GB的內存，即總的手機內存容量需求將達到23GB。

但是目前主流的千元智能手機內存容量大多數都是在8GB/12GB左右，大多數旗艦智能手機的內存容量也才到16GB，僅有極少數旗艦手機內存容量達到了24GB。所以，要想在智能手機端運行130億參數的AI大模型將會面臨著內存限制的問題。

即便采用先進的內存壓縮技術，要流程的運行130億參數的AI大模型，智能手機也需要至少16GB的內存容量，如要要運行更大規(guī)模的330億參數的AI大模型，內存容量就需要進一步提升到20GB以上。

報導強調，過去市場上就已經有內存超過20GB的手機。比如，中國手機品牌一加先前也發(fā)布了一款24GB大容量內存的手機，但當時設備上的AI并不是焦點。然而，根據這份報告，如果期望人工智能功能能夠按預期工作，那么2024年的智慧型手機可能會配備更高的內存容量。不過，現階段不能確定是否所有Android手機廠商都會效仿。

報道進一步強調，這里需要注意的另一件事是，考慮到各個Android手機廠商對AI的投資，2024年發(fā)表的設備將重點放在AI上已成為顯而易見的事情。

編輯：芯智訊-浪客劍