Kakao公开了一种能够根据用户对话上下文寻找所需信息的人工智能(AI)技术。该技术不仅能回答问题,还能通过嵌入模型搜索与用户过去对话或个体上下文相关的信息,并将其开源发布。
Kakao于29日宣布,将个性化AI代理的基础技术——嵌入模型“卡那那2嵌入”两种版本在开源平台Hugging Face上公开。
嵌入模型是一种将文本意义转化为数值以寻找与问题相关信息的技术。与一般语言模型专注于理解问题和生成回答不同,嵌入模型则计算问题与信息之间的语义相似度,从而搜索回答所需的资料。
例如,当用户想再次找到过去对话中提到的餐厅时,即使没有准确输入餐厅名称,也可以通过“之前提到的安静餐厅”或“适合聊天的地方”等包含上下文的表达来搜索相关信息。这种方式帮助个性化AI代理从过去的对话中找到所需信息并加以利用。
Kakao基于自身的小型语言模型“卡那那-2-SLM”训练语言理解能力,以便在信息搜索中加以应用,开发了3B模型。随后,采用知识蒸馏技术将大模型所学知识传递给小模型,构建了1.3B模型。此举旨在在缩小模型规模的同时,确保信息搜索所需的性能和应用效率。
Kakao统一基础模型成果负责人罗炳锡表示:“通过此次发布,我们希望帮助研究人员和开发者将具有韩语优势的嵌入技术应用于各种服务,并继续提升搜索性能和效率的研究。”
※ 本报道经人工智能(AI)系统翻译与编辑。


