点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型训推一体机:“开箱即用”的人工智能
首页> 数字化频道> AI+ > 正文

大模型训推一体机:“开箱即用”的人工智能

来源:新华每日电讯2024-05-24 13:33

  新华社北京5月21日电 自美国开放人工智能研究中心(OpenAI)发布聊天机器人程序ChatGPT及其背后的GPT系列大语言模型以来,人工智能大模型热潮持续蔓延,全球科技企业竞相宣布研发或推出自己的大模型,数量迅速增长的大模型如何实现商业化落地成为行业关注焦点。

  除了OpenAI、谷歌等公司采取的提供云端大模型应用程序编程接口(API)的商业模式之外,另一条备受关注的商业化路径是销售“软硬件结合”的大模型训推一体机。这种商业模式在中国市场上热度较高,特别是多家中小型科技企业都推出了大模型训推一体机产品。这类“开箱即用”的人工智能产品可以在企业内进行本地化部署,使最新人工智能技术能够方便地在工业场景中落地应用,实现从人工智能技术到生产力的转化,加速人工智能与产业深度融合。

  大模型训推一体机一般指集成了大模型训练和推理功能的“全栈式”人工智能设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、深度学习模型等软硬组件,能通过大规模数据训练掌握数据处理和预测等能力。

  与通过应用程序编程接口使用大模型功能相比,企业利用训推一体机实现大模型部署具有多方面优势。首先,训推一体机可以针对企业的特定业务需求提供“开箱即用”的定制化大模型解决方案,并通过软硬件协同优化提高性能,降低大模型部署、业务方案建设和调适的门槛。例如,佳都科技基于华为“昇腾AI”基础软硬件平台推出了“佳都知行交通行业大模型训推一体机”,可面向轨道交通、城市交通、城市安全等智慧城市重点建设领域,提供智能化、高效实时的解决方案和决策支持。

  其次,由于训推一体机将所有计算资源集中到一台设备上,在大规模数据训练中可大幅减少数据传输时间,提高计算速度和模型训练效率,使企业能够更快捷地使用和管理资源。

  此外,本地化部署的训推一体机能最大程度保障数据隐私和模型安全可控,满足企业对数据安全监管的需求。英国《金融时报》日前报道说,在企业内部署的大模型训推一体机产品正在对一些大型科技企业提供的基于公共云的人工智能服务形成冲击。

  该报道说,近期曝出的人工智能企业安全漏洞加剧了用户对数据安全的担忧。例如,ChatGPT将用户搜索历史分享给他人,以及韩国三星员工在使用ChatGPT处理工作时无意间泄露了商业机密等。报道援引中国科大讯飞董事长刘庆峰的话说,机构需要能够保护他们的数据,而建立私有云是防止有价值数据泄露的方法。

  但也有观点认为,训推一体机性能会受到硬件技术限制,这提高了技术持有和更新的成本。《金融时报》的报道援引半导体行业研究机构SemiAnalysis的首席分析师迪伦·帕特尔的话说,相比于公共云服务或使用应用程序编程接口接入大模型,训推一体机效率更低下。该模式对人工智能大模型的使用非常零散,这意味着企业持有的昂贵人工智能硬件没有得到充分利用。

  许多企业在衡量利弊后选择了训推一体机,这正在成为中国算力行业的趋势之一。2023年7月,华为联合多家伙伴共同发布“昇腾AI”大模型训推一体化解决方案,加速大模型在各个行业落地应用。目前,科大讯飞等多家中国科技企业都发布了基于华为“昇腾AI”基础软硬件平台的训推一体机产品。

  华为董事、ICT(信息与通信技术)产品与解决方案总裁杨超斌在今年3月举行的华为中国合作伙伴大会上表示,2024年中国区人工智能训推一体机市场规模有望达到168亿元人民币。

[ 责编:刘昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2024海洋合作发展论坛在青岛开幕

  • 探洞研学欢乐多

独家策划

推荐阅读
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传“逐梦之路”媒体采访团走进延安宜川县,追寻“悬崖造林队”的故事。
2024-10-24 10:27
陕北说书最近火爆出圈,董宇辉在直播中表示向往陕北文化,想成为一个陕北说书人。这一段陕北说书,带你行走在延安的绿水青山间。
2024-10-24 10:21
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安数据(集团)有限责任公司董事长高延宏介绍,延安的地域特点适宜建立算力中心,要把平台搭建好,把更多的企业引到延安,建立归属在延安的算力中心,更好的服务延安、服务陕西。
2024-10-24 10:18
“圣地蓝”成延安靓丽新名片!近年来,延安出台多项措施积极推进环境治理,有效减少空气污染源,空气质量优良天数逐年增加,2023年达到323天,让蓝天白云常驻延安上空。
2024-10-24 10:07
如今,延安子午岭林区有目前已知的国内最大野生华北豹种群。随着延安生态环境的持续改善,其种群栖息地向北扩散近五十公里!
2024-10-24 10:05
10月22日,在南泥湾,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团采访南泥湾,齐声合唱经典曲目《南泥湾》,在歌声中,我们仿佛看到了昔日的开荒景象,感受到了那份自力更生的坚韧精神。一曲《南泥湾》,唱出了对美好生活的向往。
2024-10-23 17:03
入驻延安新材料产业园的延安市圣烯科技股份有限公司,研发的这款马甲借助石墨烯良好的热传导性能,只要插上充电宝就能实现发热取暖。入驻延安新材料产业园的延安市圣烯科技股份有限公司,研发的这款马甲借助石墨烯良好的热传导性能,只要插上充电宝就能实现发热取暖。
2024-10-23 16:55
“这么小个头的苹果树竟然能长出那么大的苹果!”10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传走进延安市安塞区南沟村,调研采访南沟村的苹果产业现代化发展之路,有记者在看到矮砧密植的苹果树后,直呼意外。
2024-10-23 16:47
加载更多