东吴证券发表电子行业深度报告称,重点梳理了Writing Tools(写作工具)的一些功能,根据测评发现,除了Summary、Key Points、Table、List这四个较为复杂的功能仅支持接入网络的场景下使用,其他Writing Tools功能均可以在无网络的场景下直接使用。

  如何理解端侧AI对云端算力的依赖?展望AI手机在算力上的布局,认为云端or端侧算力都是未来中短期不可或缺的存在。一方面,在成本、功耗和隐私性优势较大的情况下,算力从云端分流到终端运行或为大势所趋。但当前无论从SoC算力水平还是端侧模型性能来看,仍然还有较大的提升空间。认为端侧算力落地的可行路径有:(1)端侧SoC硬件不断升级支撑AI需求。(2)端侧小模型针对主流功能做定向优化减轻算力负载。另一方面,端侧/云端算力不是此消彼长的关系,认为端侧AI对算力总盘子的拉动作用会长期存在。当前从0到1阶段,用户更关注端侧AI“有没有”或“效果好不好”,而不是“推理速度快不快”。而展望从1到10的阶段,推理速度一定会是重要的优化环节,认为在一些特定场景中云端推理仍然是不错的选择。

  如何测算手机AI算力需求?东吴证券将测算拆分为累计AI手机用户数及单日单机算力需求两方面。(1)累计AI手机用户数:IDC预计全球智能手机出货量稳定在12-14亿部/年,根据Canalys预测,2024、2028年全球AI手机渗透率或将达到16%/54%。东吴证券进一步预计到2030年AI手机有望渗透到“千元机”价格带,由此AI手机渗透率或将达到80%。(2)单日单机算力需求:根据“推理算力需求=2×参数量×token数”的公式,进一步拆分端侧/云端算力来计算。(3)结论:东吴证券测算得到端侧算力需求在2024-2027年间基本维持翻倍以上的增速,2027-2030年间增速依然在高双位数水平。云端算力需求若折算成Blackwell GPU卡的FP8算力,2025、2026年需求量约为12、103万张。