英伟达发布chatgpt专用gpu,处理速度快10倍
发布时间:2023-03-23
信息来源:澎湃新闻
字体: 【 】
3月21日,图形芯片巨头英伟达(nvidia)召开2023年gtc大会,其创始人兼ceo黄仁勋介绍了英伟达在人工智能(ai)领域的多款产品,包括为大型语言模型设计的新款gpu(图形处理器)、针对ai(人工智能)视频的芯片l4,以及ai超级计算服务dgx cloud等。黄仁勋多次提到,ai的iphone时刻已经到来,并表示“生成式ai将重塑几乎所有行业”。针对算力需求巨大的大型语言模型(llm),英伟达推出新款gpu——nvidia h100 nvl。h100基于英伟达的hopper架构,采用transformer引擎。其具有94gb内存,并配备了双gpu nvlink的pcie h100 gpu,能处理含1750亿参数的gpt-3。与用于处理chatgpt的hgx a100相比,搭载四对h100和双nvlink的标准服务器的处理速度最高可达10倍,能将大语言模型的处理成本降低一个数量级。(澎湃新闻)
往期推荐
- 券商资管申请公募牌照热情持续高涨2023-03-22
- 北京金融资产总量超190万亿元2023-03-22
- 电池级碳酸锂价格跌破30万元/吨2023-03-22