根据 Salt Security，67% 的组织已在其开发团队中广泛使用人工智能代码助手，但仍有 38% 的组织主要依赖人工审查来验证代码。与此同时，十分之九的安全专业人员承认对人工智能生成的软件带来的风险感到担忧。
其他研究也指向同一方向。Sonar 《2026 年代码开发者现状调查》显示，开发者贡献的代码中有 42% 已经由人工智能生成或辅助生成。然而，尽管 96% 的专业人士并不完全信任这些代码的功能正确性，但只有 48% 的人表示他们在集成之前总会进行代码审查。
同样，ArmodCode发布的《2026年人工智能风险管理现状》研究报告指出，90%的组织声称能够全面了解其人工智能足迹，但与此同时，59%的组织承认其内部存在不受监管的影子人工智能。此外，70%的组织报告称已确认或疑似存在由人工智能生成的代码引入的漏洞，73%的组织承认人工智能的快速发展使得安全团队难以跟上步伐。
对于西班牙技术咨询公司h&k而言，这些数据表明，主要挑战不再是获取人工智能工具，而是将其应用于能够提供控制、可追溯性和安全性的实际商业环境中。“市场迅速从思考人工智能能否帮助开发软件，转变为将其融入团队的日常工作中。但使用人工智能与管理人工智能截然不同。挑战不在于如何在更短的时间内生成更多代码，而在于了解正在发生哪些变化、为什么会发生变化以及这些变化对整个系统的影响，”h&k联席总裁兼技术主管Javier Tejada表示。.
这个问题在成熟的企业应用中尤为关键，因为这些软件并非从零开始构建。许多组织都在使用遗留系统，这些系统历经多年发展，拥有数百万行代码，业务规则文档不完善，并且严重依赖于参与过各个项目的人员积累的知识。.
因此，h&k警告称，将人工智能应用于结构不合理的开发流程可能会增加风险而非降低风险。如果没有清晰的规范、可追溯性和持续验证，人工智能虽然可以加速任务，但也可能放大错误、产生难以审计的变更，或给关键系统引入漏洞。.
全新人工智能辅助解决方案：
针对这种情况，技术咨询公司 h&k 开发了一种全新的人工智能辅助开发解决方案，旨在帮助企业以更高的可预测性来演进其应用程序。该方案的核心在于，它摒弃了以往零散的、仅针对特定提示的人工智能临时应用模式，转而采用基于规范、结构化系统知识以及贯穿整个流程的持续验证的模型。
该提案旨在解决应用程序的维护和演进、遗留系统的现代化改造以及新解决方案的开发等问题。其目标并非取代软件工程实践，而是强化这些实践，从而使人工智能能够在更可控、可审计且符合业务需求的框架内运行。.
“如今的一个主要问题是认为，仅仅为模型提供更多上下文信息就足以更好地理解系统。在复杂的应用中，更多信息并不总是意味着更好的理解。重要的是要组织好知识，明确定义需要更改的内容，并能够追溯每个决策从业务需求到代码的整个过程，”Tejada解释道。.
在这方面，该公司认为，应用于软件开发的AI必须朝着更加确定性的模型发展，减少对实验的依赖。这意味着要知道如何定义每次变更的范围，识别其依赖关系，验证其影响，并保持功能需求、技术决策和最终结果之间的清晰联系。.
对于h&k而言，这种变革将在未来几年至关重要，尤其对于那些需要在不承担不必要风险的情况下实现关键任务应用程序现代化的公司而言更是如此。交付速度的压力将持续增长，但速度只有在兼顾控制、安全性和可审计性的情况下才能创造价值。.
