• 亿邦公众号
    • APP下载

腾讯云发布AI原生向量数据库 助企业步入AI时代

作者:北京亿商联动国际电子商务股份有限公司 文章来源:亿邦动力

2023-07-05 09:56

7月4日,腾讯云正式发布了国内首个AI原生向量数据库——Tencent Cloud Vector DB,并计划于8月上线腾讯云官网。这一数据库是腾讯自研的分布式向量数据库,基于多年的运营积累,经过腾讯海量业务场景验证。它具有高性能、大容量的特点,支持标量和向量的混合检索,同时支持全内存索引。该向量数据库主要面向大模型训练,极大地缩短了企业接入大模型的时间,从原先的一个月缩短到三天。

向量数据库核心引擎Olama的亮点

腾讯云自研了向量数据库核心引擎Olama,该引擎最早于2019年4月进行孵化,并已经支持十亿级别的单行向量数据索引。据了解,Olama的查询QPS达到百万,响应延迟仅为20毫秒。向量数据库源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适用于AI运算和检索。相较于传统方案,数据接入AI的效率提升了10倍。

向量数据库在大模型场景中的应用

针对大模型场景,向量数据库在接入层、计算层和存储层实现了全面AI化。在接入层,向量数据库智能化支持自然语言文本的直接检索。在计算层,通过AI算子替代企业寻找和调优AI算法,将接入工期从一个月缩短到3天。在存储层,腾讯云融合了智能压缩算法,将向量的存储成本降低了50%。

腾讯云的行业大模型研发进展

除了向量数据库,腾讯云在6月19日首次公布了其行业大模型研发进展。腾讯云利用腾讯云TI平台,打造了行业大模型精选商店,为客户提供了一站式的MaaS(Model-as-a-Service)服务。该服务的技术底座来自腾讯全栈能力,提供了高性能计算集群HCC、高性能网络、向量数据库等基础设施。

腾讯云为产业互联网的助力

作为中国云市场的头部厂商,腾讯云在产业互联网中的定位是做产业的“数字化助手”。目前,腾讯云已形成了四级加速框架,为产业输出提供全链条服务,包括从底层算力支撑到AI开发平台,再到AI产品解决方案,最后到顶层智能化转型方法。腾讯云将继续打磨技术能力,提供更坚实的AI基础设施,助力企业步入AI Native时代。

展望未来,腾讯云的向量数据库、大模型和数据将共同产生“飞轮效应”,助力企业迈向AI Native时代。企业可以借助腾讯云的技术能力,实现更高效的大模型训练和数据处理,推动产业的数字化转型。腾讯云将继续致力于技术创新,为企业提供更先进的AI基础设施。