模型处理办法及相关设备”专利发布,该专利供给了一种AI模型处理办法及相关设备,用于提高AI模型的功用。
国家局同日发布的另一项发明专利“数据处理办法、交互办法、介质和设备”也来自华为,本专利也触及技术范畴。
摘要显现,在该办法中,电子设备经过大言语模型练习得到用于描绘使用功用的功用描绘张量。电子设备在接收到用户恳求时,可经过大言语模型对用户恳求和各个使用的功用描绘张量进行练习,得到用户恳求所要调用的方针使用。然后,由大言语模型根据方针使用的调用接口,调用方针使用履行用户恳求对应的功用。因为功用描绘张量是使用大言语模型进行练习得到,无需由人工进行重复修正,进程简略。而且,经过功用描绘张量来描绘使用的功用,还可以尽可能的避免开发人员经过自然言语描绘使用功用的主观性,可以更精确地描绘使用的功用,有利于提巨大言语模型确认出的方针使用的精确性。
1月28日,国家局发布的发明专利中有多项触及人工智能,其中有6项请求人为华为。傍边,华为请求的“人工智能模型的量化办法、处理系统和量化单元”专利备受商场重视。
摘要显现,量化单元可以根据运转AI模型的核算设备的各个核算单元的处理粒度,将量化矩阵分割成多个适用于各个核算单元的处理粒度的分块量化矩阵。量化单元可以对分块量化矩阵进行量化处理,以得到量化后的分块量化矩阵,并存储在存储器中,可以大大削减AI模型占用的内存。量化矩阵可所以权重矩阵,也可所以激活矩阵。
天眼查App显现,2025年以来,华为揭露的AI范畴专利已达26项。2月5日,华为公司董事长梁华在广东省高水平质量的开展大会上讲话时说到,当时,人工智能技术正处于加快开展阶段,在千行百业的使用也迎来关键时期,捉住新机遇的关键是立异。