资讯

人工智能半导体初创公司Groq周一宣布,它已在欧洲建立了首个数据中心,正在加快国际扩张步伐。Groq由三星和思科的投资部门支持表示,该数据中心将位于芬兰赫尔辛基,并与Equinix合作。继其他美国公司加大对欧洲的投资之后,Groq也希望利用欧洲对人工智能服务日益增长的需求。北欧地区尤其受到数据设施的青睐,因为该地区拥有便捷的可再生能源和更凉爽的气候。上个月,英伟达首席执行官黄仁勋在欧洲签署了包括数 ...
Groq 对131,000-token 上下文窗口的支持解决了 AI 应用中一个核心瓶颈。 一般推理服务商在处理较大上下文窗口时面临速度和成本的挑战,而 Groq 则通过独特的语言处理单元(LPU)架构,专门为 AI 推理设计,显著提高了处理效率。
Groq的131,000-token上下文窗口技术,直击AI应用中的一个关键痛点。传统推理服务商在处理大型文本数据时,往往面临速度和成本的双重压力。而Groq凭借其专为AI推理设计的语言处理单元(LPU)架构,显著提升了处理效率。据独立评测机构Artificial Analysis的数据,Groq在部署Qwen332B时,每秒能处理高达535个 ...
而Groq凭借其专为AI推理设计的语言处理单元(LPU)架构,显著提升了处理效率。 据独立评测机构Artificial Analysis的数据,Groq在部署Qwen332B时,每秒能处理高达535个token,轻松应对实时文档处理和复杂推理任务。 与Hugging Face的合作,为Groq带来了前所未有的开发者资源。
Groq的主要产品不是芯片,而是AI推理云服务和AI计算中心 Groq的LPU显然是它在技术上的核心竞争力,但它没有直接卖芯片或是卖计算主机,而是做了 ...
Groq作为首家高速推理供应商正式接入该平台后,开发者仅需三行代码,便可直接在Hugging Face Playground或API中一键调用Groq服务,账单统一结算至平台账户。 此举使金融科技、工业研发等领域的AI原型验证周期缩短50%,为开发者提供了低门槛高性能工具链支持。
导读: 西门子近日宣布已完成对ebm-papst工业驱动技术业务的收购,该业务将作为“机电一体化系统”进入其产品体系;智元宣布发布哪吒机器人灵犀X2-N,它最大亮点在于其双形态设计,能在轮式和足式之间自由切换 ...
Groq与Hugging Face的合作标志着高性能AI推理变得更加易获取和高效。 通过三行代码,开发者可以轻松调用Groq的高性能推理服务,显著提升了开发效率。 然而,Groq面临的基础设施和成本问题也不容忽视。 随着AI应用的不断普及,高性能推理服务的需求将持续增长。
智东西6月17日消息,美国AI芯片创企Groq昨天宣布,其已正式成为Hugging Face Hub支持的推理服务提供商,推理服务已无缝集成至Hugging Face的JS和Python客户 ...