milan(中国)官方IOS|Android手机app下载 英特尔因循的存储工夫让仅有16GB内存的PC也能驱动260亿参数模子

新的内存推广工夫使PC能在土产货运转更大的智能模子,同期裁汰内存需求。
九游体育(NineGameSports)官网
群联电子默示,其新的内存推广工夫能让一台仅有16GB内存的PC运转260亿参数的言语模子,从而可能让更先进的智能软件在土产货运转,而无需严重依赖云基础活动。
该公司在台北举行的Computex 2026上发布了这项名为aiDAPTIV的工夫,这是与英特尔配合的一部分。该系统集结了英特尔酷睿Ultra系列3处理器与群联基于存储确立的内存推广平台,以因循蓦地级PC上更大的模子和更万古分运转的使命负载。
跟着智能运用变得越来越弘大,它们需要越来越多的内存来处理更大的模子、珍重会话历史并本质多门径任务。好多现时的PC空匮满盈的DRAM来高效运转这些使命负载,迫使用户依赖基于云的干事。
群联默示,aiDAPTIV通过将使命内存从传统DRAM推广到高性能NAND闪存存储,来处理这一结果。该工夫使用公司称为Pascari aiDAPTIV Cache Memory的组件,为土产货使命负载提供特地的内存资源。
龙套内存结果
据群联称,里面测试表示,启用aiDAPTIV时,一个260亿参数的模子不错在配备16GB DRAM的系统上运转。而在换取的测试条款下,要是不使用该工夫,雷同的使命负载需要32GB DRAM。
该公司默示,该平台还因循KV缓存重用等运转时功能,milan(中国)官方IOS|Android手机app下载这有助于保留来自先前交互的信息,并减少相通处理换取数据的需求。
与英特尔的配合要点是在搭载酷睿Ultra处理器的英特尔AI PC平台上启用aiDAPTIV。两家公司还在戮力于于因循英特尔的OpenVINO器用套件,并正在评估优化的负载,以便将来进行性能演示。
“AI PC正在演变为运转更复杂土产货AI使命负载的平台,这些使命负载包括智能体运用和更大的MoE模子,它们对内存容量和反映速率建议了越来越高的要求,”群联电子首席本质官兼独创东说念主潘健成(KS Pua)默示。
“通过与英特尔的配合,aiDAPTIV有助于推广英特尔AI PC平台上可供AI使命负载使用的必要内存,让OEM、设备者和最终用户大略在土产货运转更弘大的AI运用,同期保握诡秘和基础活动后果。”
土产货模子推广
在Computex上,两家公司演示了一个土产货聊天界面,运转着一个常常超出可用系统内存的搀和众人模子。群联还展示了一个基于开源智能体框架OpenClaw构建的搀和大言语模子路由系统。
该演示允许更大的模子在土产货运转,仅在更复杂的肯求需要特地处理时才使用云资源。
英特尔默示,内存仍然是在客户端硬件上运转先进模子的主要阻塞之一。
“越来越多的用户和企业但愿在土产货运转AI——更快、更玄妙,且无需将所零散据发送到云表的资本,”英特尔客户端计较功绩部高等副总裁兼总司理Jim Johnson默示。
“咱们与群联的配合使英特尔AI PC平台大略以更苟简的内存确立因循更大的土产货AI使命负载,这么客户就能以更低的总资本将自己数据荡漾为灵验的运用和信得过的交易价值。”
这一音问是在台北Computex 2026上秘书的。
要是一又友们可爱milan(中国)官方IOS|Android手机app下载,敬请良善“知新清楚”!
