一种基于代码生成模型的代码生成方法及系统与流程
本发明涉及计算机,具体涉及一种基于代码生成模型的代码生成方法及系统。
背景技术:
1、在代码生成领域,预训练代码模型能够根据自然语言需求自动生成代码,然而,代码生成模型的参数知识由往往训练语料决定,在面对训练阶段未覆盖的代码、持续更新的应用程序编程接口以及具有项目约束的代码生成任务时,仅依赖所述代码生成模型的参数知识往往无法生成准确的代码。
2、现有代码生成方法虽然能够通过检索外部代码辅助生成,但仍存在以下问题:检索结果信息冗余:检索外部代码后的候选代码片段往往高度相似,直接将大量相似的所述候选代码拼入所述代码生成模型的提示,会占用有限的提示词元,导致有用的提示信息被覆盖,影响目标代码的生成;检索结果与生成需求不匹配:外部代码的检索倾向于返回与代码生成需求相似的代码,导致外部代码的检索结果虽然与所述代码需求相似,却不一定对目标代码的生成有用;复检索方向不稳定:若仅将所述代码生成模型的上一轮生成的目标代码全文构建外部代码检索的查询信息,则所述上一轮生成的目标代码中可能存在错误或无关的代码,这些错误以及无关代码会污染复检索方向,若仅使用原始需求进行复检索,则与初始检索高度重复,无法获得新的效代码片段来进行最终的目标代码生成。
技术实现思路
1、本发明旨在克服上述现有技术的至少一种缺陷,提供一种基于代码生成模型的代码生成方法及系统,用于解决现有代码生成模型的提示信息冗余的问题。
2、根据本技术的第一方面,提供了一种基于代码生成模型的代码生成方法,所述方法包括:
3、获取代码需求,并基于所述代码需求从代码语料库检索,得到若干个初始候选代码片段;
4、从所述初始候选代码片段中提取程序结构信息;
5、基于所述程序结构信息,对所述初始候选代码片段进行筛选,得到筛选后的候选代码片段;
6、根据所述代码需求和所述筛选后的候选代码片段构造目标提示;
7、将所述目标提示输入代码生成模型,生成目标代码。
8、可理解的是,针对现有代码生成方法中存在的提示信息冗余的技术问题,本技术在代码生成过程中从所述初始候选代码片段中提取程序结构信息,并基于所述程序结构信息对所述初始候选代码片段进行筛选,使筛选出的候选代码片段在程序结构信息上具有多样性,避免了多个程序结构相似的代码片段重复占用有限的提示窗口,从而在有限的提示窗口内保留更完整的程序结构信息,有效解决了现有代码生成方法中因候选代码片段程序结构重复而导致的提示信息冗余的技术问题,使输入至所述代码生成模型的目标提示包含更丰富、更多样化的程序结构约束信息,更符合所述代码生成模型对所述程序结构信息约束的实际需求,从而提高生成的目标代码的结构完整性和正确性。
9、可选地,所述基于所述代码需求从代码语料库检索,得到若干个初始候选代码片段,包括:
10、基于所述代码需求,对代码语料库进行词法和语义联合检索,得到若干个所述初始候选代码片段。
11、可理解的是,通过词法和语义的联合检索,兼顾了词法检索对所述代码片段的匹配能力,以及语义检索对所述代码片段的匹配能力,有效避免了单一词法检索因所述代码需求表述方式差异而导致的漏检问题,以及单一语义检索因过度泛化而导致从代码语料库检索得到的初始候选代码片段的相关度较低的问题,从而使得基于词法和语义的联合检索能够提升所述初所述始候选代码片段的全面性和相关性,为后续筛选和生成奠定高质量基础。
12、可选地,所述基于所述代码需求,对代码语料库进行词法和语义联合检索,得到若干个所述初始候选代码片段,包括:
13、计算所述代码需求与代码语料库中的代码片段之间的词法匹配得分;
14、计算所述代码需求与所述代码语料库中的代码片段之间的语义匹配得分;
15、按照融合权重对所述词法匹配得分与语义匹配得分进行加权,得到所述代码语料库中的代码片段的混合检索得分;
16、从所述代码语料库中的选取所述混合检索得分最高的预设数量的代码片段,得到若干个所述初始候选代码片段。
17、可理解的是,分别计算词法匹配得分和语义匹配得分并根据融合权重进行加权选取,能够将词法匹配得分与语义匹配得分映射到统一的量化尺度上,使所述代码片段兼具可比较性,解决了单一检索方式难以在词法检索的精确性和语义检索的全面性之间取得平衡的问题,从而可以筛选出与所述代码需求更匹配的所述初始候选代码片段。
18、可选地,所述基于所述代码需求,对代码语料库进行词法和语义联合检索,得到若干个所述初始候选代码片段,还包括:
19、根据所述代码需求中的标识符、应用程序编程接口名称、函数签名中的至少一种,形成多个扩展查询;
20、在代码语料库中对所述扩展查询进行词法和语义联合检索,获得所述扩展查询的检索结果;
21、将所述扩展查询的检索结果去重合并,得到若干个所述初始候选代码片段。
22、可理解的是,针对单一查询可能导致检索遗漏,多个扩展查询可能导致检索冗余的问题,通过形成所述多个扩展查询,并将所述多个扩展查询的检索结果去重合并,能够在提高联合检索效率的同时减少检索得到的所述初始候选代码片段的冗余程度,使所述初始候选代码片段的有效覆盖率进一步提高。
23、可选地,所述基于所述程序结构信息,对所述初始候选代码片段进行筛选,得到筛选后的候选代码片段,包括:
24、根据程序结构覆盖增益,以及需求相关度、冗余度中的至少一个,对所述初始候选代码片段进行筛选,得到筛选后的候选代码片段;
25、其中,所述程序结构覆盖增益根据所述初始候选代码片段的程序结构信息获取;所述需求相关度为所述初始候选代码片段相对于所述代码需求的需求相关度,所述冗余度为所述初始候选代码片段之间的冗余度。
26、可理解的是,针对单一筛选维度难以全面评估所述初始候选代码片段的问题,通过程序结构覆盖增益,以及需求相关度、冗余度中的至少一个,对所述初始候选代码片段进行多维度筛选,综合评估使筛选结果在程序结构覆盖增益、需求相关度和冗余度之间取得平衡,有效避免因仅依赖单一维度导致的筛选偏差。
27、可选地,所述程序结构覆盖增益通过以下方式获取:
28、初始化已选集合为空集;
29、将所述初始候选代码片段通过迭代筛选方式选入所述已选集合,将所述已选集合中的代码片段作为所述筛选后的候选代码片段;
30、在迭代筛选过程中,将所述已选集合中所有代码片段的程序结构信息合并得到已选结构信息集合,将当前未选择的所述初始候选代码片段中未包含于所述已选结构信息集合中的程序结构信息数量作为其程序结构覆盖增益;
31、和/或,所述需求相关度通过以下方式获取:
32、计算所述代码需求与所述初始候选代码片段之间的词法匹配得分;
33、计算所述代码需求与所述初始候选代码片段之间的语义匹配得分;
34、按照融合权重对所述初始候选代码片段的词法匹配得分与所述语义匹配得分进行加权,得到所述初始候选代码片段的混合检索得分,作为所述初始候选代码片段相对于所述代码需求的需求相关度;
35、和/或,所述冗余度通过以下方式获取:
36、初始化已选集合为空集;
37、将所述初始候选代码片段通过迭代筛选方式选入所述已选集合,将所述已选集合中的代码片段作为所述筛选后的候选代码片段;
38、在迭代筛选过程中,当所述已选集合为空集时,将当前未选择的初始候选代码片段的冗余度设置为预设值;当所述已选集合为非空集时,获取当前未选择的初始候选代码片段与所述已选集合中各代码片段之间的语义相似度,将最大的语义相似度作为当前未选择的初始候选代码片段的冗余度。
39、可理解的是,本技术以迭代筛选方式,根据已选集合的程序结构信息合并结果计算程序结构覆盖增益,能够量化每个所述初始候选代码片段对所述已选集合在程序结构信息上的新增贡献,从而优先选择能够补充未覆盖程序结构信息的代码片段,提升筛选后的候选代码片段在程序结构上的多样性和覆盖广度,避免筛选结果集中在单一程序结构模式上,使所述代码生成模型能够获得更丰富的程序结构参考。
40、可理解的是,本技术通过计算所述代码需求与所述初始候选代码片段之间的词法匹配得分和语义匹配得分,并按照融合权重进行加权得到所述需求相关度,能够从文本关键词和语义理解两个层面综合评估所述初始候选代码片段与代码需求的相关程度,使筛选后保留的代码片段在内容上与所述代码需求更加匹配,避免将与所述代码需求不相关的代码片段输入代码生成模型,提高目标代码生成的质量和准确性。
41、可理解的是,本技术在迭代筛选过程中,当已选集合为空时将冗余度设置为预设值,当已选集合为非空时获取当前未选择的初始候选代码片段与已选集合中各代码片段之间的语义相似度并将最大的语义相似度作为其冗余度,从而在筛选过程中有效控制所筛选的代码片段之间的语义重叠,避免将内容高度相似的代码片段重复输入所述代码生成模型,在有限的上下文窗口内最大化信息多样性,进而提升所述目标代码生成的准确性。
42、可选地,所述根据所述代码需求和所述筛选后的候选代码片段构造目标提示,包括:
43、根据所述代码需求和所述筛选后的候选代码片段构造首轮提示;
44、将所述首轮提示输入所述代码生成模型,生成中间代码;
45、获取所述中间代码的程序结构信息;
46、基于所述代码需求、所述筛选后的候选代码片段以及所述中间代码的程序结构信息生成增强查询;
47、根据所述增强查询从所述代码语料库检索得到补充检索代码片段;
48、根据所述代码需求,所述筛选后的候选代码片段和所述补充检索代码片段,构建所述目标提示。
49、可理解的是,通过从中间代码提取的程序结构信息来构造增强查询,使补充检索代码片段是基于确定的程序结构信息,能够有效避免直接将可能含有错误或无关的中间代码作为查询依据,导致补充检索方向的偏移问题,使得补充检索代码片段是能够真正基于真正需要的接口签名、应用程序编程接口依赖和变量约束等的代码片段,在此基础上,对所述筛选后的候选代码片段和所述补充检索代码片段构建目标提示,使最终目标提示包含更完整的程序结构上下文,提高目标代码的生成准确率。
50、可选地,所述根据所述代码需求、所述筛选后的候选代码片段和所述补充检索代码片段,构建所述目标提示,包括:
51、对所述筛选后的候选代码片段和所述补充检索代码片段,执行相同标识符匹配、文本重合判断、语义相似度判断中的至少一种,以删除重复代码片段,得到删除后的代码片段作为待定代码片段;
52、按照筛选得分,从高至低从所述待定代码片段中选择代码片段,直至达到预设上下文预算,将所选择的代码片段作为去重后的代码片段;
53、根据所述代码需求和所述去重后的代码片段,构建所述目标提示;
54、其中,所述筛选得分根据所述待定代码片段的程序结构覆盖增益确定,或根据所述待定代码片段的程序结构覆盖增益、需求相关度和冗余度中的至少两个维度确定;所述待定代码片段的程序结构覆盖增益根据所述待定代码片段的程序结构信息获取;所述待定代码片段的需求相关度为所述待定代码片段相对于所述代码需求的需求相关度,所述待定代码片段的冗余度为所述待定代码片段之间的冗余度。
55、可理解的是,针对合并后的代码片段中可能存在的重复以及超出提示窗口预算的问题,通过相同标识符匹配、文本重合判断、语义相似度判断中的至少一种对所述筛选后的候选代码片段和所述补充检索代码片段执行多维度识别排序,并删除重复的代码片段,提升目标代码在结构正确性和功能完整性上的生成质量,有效减少了冗余的代码片段,从而在根据筛选得分选择得分较高的代码片段后,提升了目标代码在结构正确性和功能完整性上的生成质量。
56、可选地,所述程序结构信息包括函数签名、应用程序编程接口调用和变量约束中的至少一种。
57、可理解的是,函数签名反映了代码片段的功能接口信息,应用程序编程接口调用反映了代码片段对外部能力的依赖关系,变量约束反映了代码中的数据流动和类型信息,三者从不同维度刻画了程序结构信息对目标代码生成的约束作用,使得筛选过程不再仅依赖代码片段的文本相似度,而是从代码的功能接口、外部依赖等深层的程序结构信息层面进行评估,这样的评估方式能够筛选出对目标代码生成真正具有程序结构约束价值的代码片段,解决了仅凭文本相似度难以准确衡量代码片段对目标代码实际作用的问题。
58、根据本技术的第二方面,提供了一种基于代码生成模型的代码生成系统,所述系统包括:
59、候选检索模块,用于获取代码需求,并基于所述代码需求从代码语料库检索,得到若干个初始候选代码片段;
60、信息提取模块,用于从所述初始候选代码片段中提取程序结构信息;
61、代码筛选模块,用于基于所述程序结构信息,对所述初始候选代码片段进行筛选,得到筛选后的候选代码片段;
62、提示构造模块,用于根据所述代码需求和所述筛选后的候选代码片段构造目标提示;
63、代码生成模块,用于将所述目标提示输入代码生成模型,生成目标代码。
64、根据本技术的第三方面,提供了一种电子设备,包括:
65、存储器,用于存储一个或多个计算机程序;
66、处理器,当所述一个或多个计算机程序被所述处理器执行时,实现上述第一方面所述的基于代码生成模型的代码生成方法。
67、根据本技术的第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现上述第一方面的基于代码生成模型的代码生成方法。
68、基于上述任意一个方面,本技术实施例提供的基于代码生成模型的代码生成方法、系统、电子设备及存储介质,其有益效果如下:
69、(1)本技术通过从初始候选代码片段中提取程序结构信息,并基于程序结构信息对候选代码片段进行筛选,使筛选出的候选代码片段在程序结构信息层面具有多样性,有效降低了检索结果信息冗余程度,提高了代码生成模型提示窗口的有效信息密度。
70、(2)本技术通过将程序结构信息作为筛选依据,并结合需求相关度、冗余度中的至少一种进行多维度筛选,使筛选结果在程序结构覆盖增益、需求相关度和冗余度之间取得平衡,有效避免因仅依赖单一维度导致的筛选偏差。
71、(3)本技术通过词法和语义联合检索,兼顾了词法检索和语义检索,有效避免了单一词法检索因代码需求表述方式差异导致的漏检问题,以及单一语义检索因过度泛化导致的精确性不足问题,提升了初始候选代码片段的全面性和相关性。
72、(4)本技术通过根据代码需求中的标识符、应用程序编程接口名称、函数签名中的至少一种形成多个扩展查询,能够从不同维度捕捉代码需求的词法和语义信息,避免因单一查询视角导致的检索遗漏;通过将多个扩展查询的检索结果去重合并,在保证检索召回率的同时有效减少初始候选代码片段的冗余,进一步提升了初始候选代码片段的覆盖率。
73、(5)本技术通过迭代筛选维护已选集合的程序结构信息并集,将当前未选择的初始候选代码片段中未包含于已选结构信息集合中的程序结构信息数量作为其程序结构覆盖增益,能够精确量化候选代码对已选集合在程序结构层面的新增贡献,确保优先选择结构互补性强的代码片段,提升已选集合在有限提示窗口内的程序结构信息覆盖率;通过将初始候选代码片段的混合检索得分作为需求相关度,使筛选过程有明确的相关性量化依据,避免不相关代码被选入已选集合;通过将候选代码与已选集合中各代码片段之间的最大语义相似度作为冗余度,使筛选过程有明确的冗余程度量化依据,避免冗余信息占用有限提示窗口。
74、(6)本技术通过从中间代码获得程序结构信息构造增强查询,使补充检索基于确定性的程序结构信息而非可能含有错误或无关文本的中间代码全文,解决了补充检索查询信息的方向偏移问题,实现补充检索方向的精准;通过对筛选后的候选代码片段和补充检索代码片段构建目标提示,进一步提升目标提示中程序结构信息的质量。
75、(7)本技术通过相同标识符匹配、文本重合判断、语义相似度判断中的至少一种对合并后的代码片段执行去重,能够从多个维度识别并剔除重复的代码片段;按照筛选得分从高至低选择代码片段直至达到预设上下文预算,能够在有限的提示窗口内保留程序结构覆盖增益最高或综合筛选得分最高的代码片段,最大化提示窗口的利用效率。
76、(8)本技术通过函数签名、应用程序编程接口调用和变量约束中的至少一种作为程序结构信息,能够从不同维度刻画代码片段对目标代码生成的约束作用,确保方案能够适配多种编程语言环境下的代码生成任务。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com