卡카오于6日宣布,将其自主开发的支持人工智能决策的多模态模型‘卡纳纳-2-v-决策’公开在全球开源平台哈金脸上。
该决策模型与传统的大型语言模型(LLM)不同,它以概率(Noul)、选择(Choice)、评分(Score)等标准化形式提供判断结果,能够直接应用,减少从自然语言回答中提取结论的过程。这对于根据用户请求执行多步骤任务的人工智能(AI)代理非常有用。
卡카오采用了将问题和选项表示为数字集合的‘向量’形式,应用嵌入基础结构进行相似度比较。即使分类项较多,也能灵活使用,且相同选项的向量可以存储后重复使用,从而减少重复请求时的计算负担和响应延迟。
该模型在基于一块H200图形处理器(GPU)时,平均响应速度在0.04秒以内,比GPT-6 Luna快43倍。
在自主评估数据集‘卡纳纳决策基准’和公开评估数据集‘决策索引’中,该模型的性能在比较模型中最高。比较对象包括微软的‘决策-1’、TypeSafe AI的‘Zeb’、Perplexity的‘pplx-决策-v1.1-27B’、Upstage的‘Solar决策’等。
卡카오表示,此次模型不仅用于研究目的,还适用于商业用途,采用了‘卡纳纳开放许可证’,国内外研究者和企业可以利用该模型开发多种AI代理服务。
卡카오计划优先将该模型应用于内部项目,如网页搜索和商品类别自动分类,以在实际服务环境中持续改进性能。未来将朝着将搜索与判断整合为一个模型的方向提升技术。
卡카오应用AI模型的负责人崔东镇表示:“此次模型的发布在于拓宽最新AI技术在实际服务中的应用基础,未来将通过技术提升和公开,提供用户在日常生活中能够感受到的AI体验。”
此外,卡카오正在扩大自主开发AI模型的应用范围。继去年2月公开轻量级语言模型‘卡纳纳纳诺2.1B’后,今年7月又公开了四种小型语言模型,以及分析用户问题与文档意义并搜索相关信息的‘卡纳纳-2-嵌入’模型两种。此次决策模型的加入,使得AI代理所需的信息搜索和判断技术得以分别掌握。
※ 本报道经人工智能(AI)系统翻译与编辑。


