您的位置:首页>栏目首页 > 展会 >

云创数据:AI大模型推理是公司向量计算一体机主要应用场景之一-世界快讯

2023-06-30 19:57:18    来源:挖贝网


(相关资料图)

挖贝网6月29日消息,近日云创数据(835305)接待了上海龙猛私募基金管理有限公司的调研。云创数据重点介绍了公司“cVector向量计算一体机”的原理、应用、优势等情况。

云创数据表示,公司于3年前推出了“超大规模人脸向量比对一体机”。当时公司发现面向大规模人脸比对场景时(例如:在学校宿舍区,通过视频监控判断每一个进入区域的人员是否是校内人员,当发现校外人员进入时发出告警,提升校园安全等场景),如果采用业内常规的特征计算方法,需要大量的GPU支撑,费用十分高昂。公司通过自研算法和软件,将人脸数据转换成特征向量数据存放在一体机上,用优化后的CPU计算代替GPU进行高维向量计算比对,大幅提升搜索性能、降低成本,单台“超大规模人脸向量比对一体机”每秒可处理约7亿次人脸数据特征向量比对。

之后随着公司技术研发的推进,云创数据的向量计算的方法不仅可用于人脸数据,其他结构化和非结构化的数据都可以转化为向量数据。因此,公司经过技术升级与产品更新迭代,于2022 年6月推出了“cVector 向量计算一体机”,用以支撑大规模向量计算的应用场景。

云创数据强调,公司“cVector 向量计算一体机”是一款软硬件一体化的产品,具有类似向量数据库的功能。该产品主要应用于人工智能领域中的大规模图像检索和生成式AI大模型推理两大主要场景,目标定位是辅助解决仅依靠GPU不足以支撑所需算力的难题,具有更高的性价比优势。

关键词:

相关阅读