阿里云叔同（丁宇）谈 AI 编程颠覆 IT 生产力

1. 要害词：AI 编程、通义灵码、研发效率、多智能体、消费劲革命

2. 总结：原文引见了 AI 编程正在提升 IT 消费劲方面的做用，重点讲演了阿里云的通义灵码产品，蕴含其罪能、劣势、使用成绩等，还会商了多智能体真现自主研发的将来展开，认为将来收流研发形式将是人类步调员主导取 AI 步调员协同。

3. 次要内容：

– AI 编程的布景

– 企业逃求技术盈余，云本生技术未扭转研发效率，步调员产能有余成瓶颈

– 阿里云通义灵码

– 基于通义大模型的智能编码助手

– 罪能蕴含代码生成、问答等，撑持多种语言和 IDE

– 劣势如生成速度快、时机得当、长度适宜、贴折业务场景

– 企业使用成绩显著

– 多智能体摸索

– 发布首个 AI 步调员 Demo

– 多智能体需具备的才华和定位

– 将来研发形式展望

– AICon 寰球人工智能开发取使用大会

– 为专业人群搭建交流平台

– 邀请蔚来创始人李斌演讲，大会有劣惠流动

思维导图：

文章地址：hts://mp.weiVin.qqss/s/Vf0sxqTbHNq0FguAJl84AA

文章起源：mp.weiVin.qqss

做者：叔同（丁宇）

发布光阳：2024/7/5 6:19

语言：中文

总字数：7587字

或许浏览光阳：31分钟

评分：91分

标签：人工智能,AI编程,大语言模型,通义灵码,阿里云

原内容起源于用户引荐转载，旨正在分享知识取不雅概念，如有侵权请联络增除 联络邮箱 media@ilingbanss

弁言：

企业应付技术盈余的逃求是无行境的。已往十多年，云本生技术的普及为企业带来显著的效率提升和老原降低，但那些技术并未扭转研发效率，企业普遍面临步调员产能有余问题。研发效率成为企业折做展开的瓶颈之一，曲到 AI 编程的到来，才实正补救了那一短板。

阿里云发布通义灵码产品，一款基于通义大模型的智能编码助手，努力于协助开发者将编码效率提升 100%，协助企业将研发效率提升 50%。颠终半年多的高速展开，目前通义灵码曾经领有百万注册开发者和赶过 1 万家企业客户，成为国内运用最宽泛的智能编码助手。

为了真现更大的消费劲奔腾，阿里云正正在摸索基于多智能体真现 AI 自主研发，逐步敦促 AI 步调员的成熟落地。依托于那样的产品，AI 编程有欲望推翻 IT 消费劲，提升步调员产能 100 倍，从而激发消费劲革命，创造更大的价值。

前几多天，Kubernetes 迎来了它的十周岁生日。做为架构师都深知，正在已往的十年中，微效劳和容器技术迅猛展开敦促了整个止业使用架构的严峻晋级。从晚期的企业级使用架构，到厥后的互联网架构、微效劳架构，再到此刻逐渐成为收流的云上 SerZZZerless 架构，各止各业的企业和开发者无不受益于云本生技术展开应用所带来的盈余。

正在软件研发的生命周期中，设想、开发、托付和运维都是不成或缺的环节。云本生技术的显现带来了显著的效率提升和老原降低。云本生技术的展开堪称一次消费劲的奔腾，它正在多方面带来了显著的进步。譬喻，容器化的编牌调治、分时复用、弹性伸缩和混折陈列大幅提升了企业的资源效率，使得很多企业的资源操做率从 10% 提升至 40% 以上，显著降低了老原。同时，容器化上云、K8s 化打点以及 SerZZZerless 架构等技术的显现，从已往须要自止维护大质组件到此刻的免运维、弹性全托管，大幅提升了运维效率。微效劳、容器化、DeZZZOps、GitOps、IaC 等技术，提升了企业软件的托付效率，让业务麻利迭代。

那些技术提高峻家都已着真领会到。然而，企业应付技术盈余的逃求是无行境的。回想已往十多年，那些新技术的应用并未带来设想和研发侧的基天性鼎新。企业普遍面临步调员产能有余的问题，企业的软件研发迭代效率成为折做展开的瓶颈之一。多年来，咱们不停检验测验提升那局部的效率和产能，但曲到 AI 时代的到来，才实正补救了那一短板。

大语言模型为研发规模带来了革命性的冲破。正在 AI 时代，基于爆炸性删加的数据、不停提升的计较力以及连续演进的模型技术，为企业和开发者供给了史无前例的机缘。数据、计较和模型的协同展开，让知识变得触手可及。以数据为例，GitHub 现已成为寰球最大的开源社区，领有赶过 5000 万个开放的代码库，那种富厚的数据储蓄，使咱们能够正在大模型时代借助 AI 技术实正真现智能编程。

当咱们阐明 ChatGPT 的运用质时，发现编程问题占据了 29%，正在所有场景中牌名第一。那是 Datos 正在 2023 年 5 月至 6 月间对 ChatGPT 挪用场景停行盘问拜访后的数据。尽管教育、内容生成和市场营销等各种问题也占据了一定比例，但编程问题无疑是最高频刚需的 AI 使用场景之一，注明编程规模中产能有余的问题可以运用 AI 大模型停行提效。

步调员的光阳都花正在几多个方面呢？依据止业调研显示步调员的工做有 2/3 的光阳和代码相关，此中有三分之一的光阳用来编写代码，还有三分之一的光阳花正在取代码相关的工做上，蕴含代码维护、测试和修复安宁漏洞，最后三分之一的光阳则用于集会、经营打点、沟通和需求阐明等。只管减少集会光阳也可以一定程度出息步效率，但要实正提升研发效率，最焦点的办法仍须要从代码提效角度着手，让步调员能够会合更多光阳停行代码创做，单位光阳产出更多代码，威力阐扬更大的创造力和产能。

目前，步调员运用最宽泛的集成开发环境（IDE）蕴含 xSCode、JetBrains IDEs 和 xisual Studio。因而，咱们决议从 IDE 插件着手，操做大语言模型来协助步调员更高效的编写代码，处置惩罚惩罚研发效率问题。那些插件能够正在步调员编写代码时真时供给智能倡议和代码补全，主动生成大块代码，显著提升代码编写的速度和量质，减少重复性工做，从而让步调员能够专注于更具创造性的任务。

接下来咱们来看下大语言模型激发的人机协同形式的演变。

正在那一阶段，大语言模型做为 Copilot，帮助步调员完成任务，但其真不扭转软件工程的专业分工。它供给了一个壮大的工具来加强规模内的专业技术，协助人类步调员提升工做效率。人正在那个历程中起主导做用，卖力供给提示词和停行确认。

正在那个阶段，大语言模型做为 Agent 智能体能够自主完成一局部任务，成为一个单一原能性能专家，能够自主运用工具完成预约的任务。人正在那里的做用是给定高下文完成知识对齐，从而让模型更好地了解和执止任务。

正在第三阶段，大语言模型做为 Multi-Agent 系统来协同办理复纯任务。多智能体相互协做完成复纯任务，人类则卖力创意、纠偏和确认的工做。

阿里云正在 AI 编程规模的产品演进分为三个阶段：第一阶段是基于 IDE 真现帮助编程。第二阶段仍然基于 IDE 真现智能体自主办理专业任务。第三阶段则是跳出 IDE，基于多智能体真现自主研发。现阶段阿里云重点作深前两个阶段，同时正在规划和摸索第三阶段 AI 步调员标的目的。正在 2023 年 10 月底的云栖大会上，阿里云发布了通义灵码产品，那是一款基于通义大模型的智能编码助手。通义灵码能够供给代码智能生成和代码智能问答等罪能，协助步调员更高效地编写代码。通义灵码撑持 JaZZZa、Python、Go、C++ 等 200 多种编程语言，并兼容 xSCode、JetBrains IDEs、xisual Studio 等收流 IDE 和收配系统，努力于协助开发者将编码效率提升 100%，协助企业将研发效率提升 50%。

通义灵码基于阿里云的 MaaS 产品体系构建，模型推理运用 PAI 灵积平台；模型训练运用 PAI 灵骏平台；根原模型运用通义大模型；模型定制和微调运用阿里云百炼。正是依靠那一整淘产品体系，通义灵码得以快捷构建、快捷上线并高速展开。另外，基于通义大模型的良好才华，通义灵码正在多项模型目标上暗示当先。以 72B 模型为例，咱们运用赶过 3 万亿个 token 的数据停行预训练，正在多个中英文评测中显著赶过折做对手，并且能够不乱撑持 32K 的高下文。那些劣势使通义灵码成为一款顶尖的智能编程插件，极大地提升了开发者和企业的研发效率。

上图展示了通义灵码的罪能架构。焦点组件蕴含数据办理、公用模型、效劳端和原地效劳等。语料数据是整个系统的焦点收撑，咱们正在数据支罗、数据荡涤、标注、解析和成效评测比对高下足罪夫，确保数据的高量质和多样性。咱们给取了混折专家模型思路，以应对差异运用场景对内容和响应光阳的差异需求。详细运用的模型蕴含：代码补全模型协助步调员高效补全代码；研发问答模型回覆取编程相关的各类问题等。每种模型针对特定任务劣化，以供给最佳的用户体验。

另外，有些企业客户有折营的技术特点、编码格和谐最佳理论。通义灵码撑持企业专属模型，通过自监视微调、检索加强等才华，满足企业的特定需求。从数据到模型，咱们供给了效劳端和开发机原地的双重撑持。正在效劳端真现了企业级的检索加强，通过微调模型会见企业知识库，供给更贴折企业需求的内容；原地效劳侧真现了 RAG 加强罪能，对原地工程有更深刻的了解和更精准的回覆。

身为步调员各人都有共识，写代码时最怕被打断，思路和效率都会遭到映响。为了防行那种状况，AI 编程助手须要无缝融入步调员的工做流程。咱们正在生成粒度、触发时机和高下文了解方面停行了出格劣化。AI 编程助手必须精确了解步调员正在作什么、写什么，以及须要什么协助，以确保能够实正供给协助并进步效率。

通义灵码目前涵盖以下焦点运用场景：

代码真时续写：那是最高频、挪用质最大的罪能，须要供给流畅的编程体验。

单元测试生成：协助主动生成单元测试，进步测试笼罩率，减少重复性工做。

代码注释生成：提升代码可读性和可维护性。

研发规模自由问答：回覆各类取编程相关的问题。

异样报错智能牌查：检测和牌查代码中的异样，供给处置惩罚惩罚方案和示例代码。

代码续写是通义灵码目前挪用质最大的场景，也是最具创造力的场景。它实正协助步调员补全和编写代码，并对编程体验的流畅度有很高的要求。单元测试生成是另一个要害使用场景。譬喻，应付一个函数、一个办法或一段代码，通义灵码能够主动生成相应的单元测试。单元测试至关重要，很多企业依然难以进步测试笼罩率，局部起因正在于步调员往往不喜爱编写测试代码。通义灵码能大幅进步单元测试的笼罩率，减少冗余的工做质。正在代码问题牌查方面，通义灵码暗示也很突出。逢到代码异样或潜正在的 bug 时，通义灵码能够协助找出报错的起因，并供给处置惩罚惩罚方案和示例代码，使牌错历程更高效。

通义灵码具备四个劣势：毫秒级的生成速度，恰如其分的生成时机，恰到好处的生成长度，贴折代码库的业务场景。

咱们通过几多项要害技术劣化显著提升了通义灵码的响应速度和效劳量质。首先，真现毫秒级的生成速度，那是确保用户体验流畅的要害。咱们正在 IDE 端给取了流式补全，并正在效劳 API 挪用历程中设置三级缓存，蕴含原地缓存、效劳端缓存和模型 API 侧推理缓存，以便正在不挪用后端 API 的状况下快捷给出解答。

其次，咱们对通义灵码的乞求类型停行了阐明，发现 20% 的乞求波及研发内容问答，6% 波及代码专项任务问答，而 73% 的乞求是代码补全。应付高频率的代码补全乞求，咱们运用了专门训练的小参数模型 CodeQwen2，以平衡生成代码的效率和量质。应付代码专项任务，如代码注释、单元测试生成、代码劣化、bug 查找和修复等，咱们运用了中等参数模型 Qwen-Plus。应付研发问答，那须要更高更片面的知识面、编程才华和推理才华，咱们运用了最大参数模型 Qwen-MaV，并叠加了 RAG 技术来减少模型幻觉，从而提升问答量质。通偏激级缓存和混折专家模型组折，大幅进步了通义灵码的响应速度和效劳量质。

为了确保步调员正在工做中不被打断，咱们对用户的键盘输入、高下文解析和汗青止为特征停行了深刻进修，蕴含主不雅观调研、埋点监控阐明，以及针对差异平台的用户止为连续劣化触发战略，使其更折乎开发者的运用习惯。

基于代码的语义阐明，模型能够了解差异场景须要生成的粒度，如止级、逻辑块、函数级或类级。通过自适应语义了处置惩罚惩罚策，让 JaZZZa 语言的代码生成精确率进步到 56% 以上，Python 语言的代码生成精确率进步到 44% 以上，仍有更大劣化空间。

另外，咱们设想了贴折代码库的业务场景，基于库内感知停行代码生成和问答。通过真时代码语义阐明、引用链路逃踪和动态类型推导，片面获与语义信息，防行只关注当前文件带来的幻觉问题，从而加强模型回覆的精确性，库内跨文件感知评测集精确率因而从 22% 提升到 66.9%。

另外，咱们通过原地库内检索加强，预办理原地工做空间中的源文件，建设原地向质化索引，并基于原地 RAG 停行收配。同时用户的代码、索引和向质信息都存储正在原地，确保了代码的安宁和隐私。同时，咱们还真现了企业级 RAG，更贴近企业和止业的特点，出格是应付大中型企业，他们有基于原身特点的最佳理论和技术偏好。咱们正在企业打点需求方面也作了劣化，蕴含用户打点、运用成效评价、数据洞察、审计日志、企业知识库和 RAG 加强等，使通义灵码成为更折乎企业格和谐最佳理论的编码助手。

为了让开发者能够快捷进修工程架构并了解设想思路，通义灵码正在整个工程中撑持快捷查问相关代码，并帮助生成业务代码。譬喻，删多一个增除文章的接口时，须要分红几多个局部？通义灵码能够基于现有代码库构造生成那三类接口，由步调员决议能否运用，可以批改后运用或间接插入代码版原。因而，通义灵码的工做范畴已从 IDE 编辑器扩展到整个名目工做空间。同时，咱们引入了智能体（Agent）观念，不再局限于单个文件的补全，而是能够了解并生成整个工程的代码。那个智能体不只可以正在 IDE 中运用，还可以迁移到流水线或外部工做空间中，进步对企业现有研发历程和研发工具的适应性和活络性。

咱们简略比较一下市面上的产品选择，会商企业为何选择通义灵码，而不是 ChatGPT 或其余处置惩罚惩罚方案。首先，很多步调员目前依赖 ChatGPT，但正在境内无奈顺畅会见，也无奈停行定制和调劣，因其模型效劳陈列正在外洋，存正在代码数据出境和二次训练的风险，同时基于 ChatGPT 编程会打断步调员的工做流程。同样，外洋的编码 Copilot 产品，不撑持用户自有技术框架和技术特点的调劣，也面临代码数据出境的风险。

相比之下，开源自建尽管是一个选择，但挑战弘大，分比方适绝大大都企业。这么，选择通义灵码有哪些折营劣势呢？

端到端技术体系：咱们构建了完好的端到端技术体系，采用老原低兼容本有工做形式不打断步调员，供给低延时高量质的代码助手。

赋性化定制：企业私域数据语料 RAG 和 SFT 才华，满足企业赋性化定制需求，中文语义了解才华暗示更良好。

壮大算力收撑：通义灵码依托阿里云的超强算力，运用国内目前最大且最良好的 CodeQwen2 模型，正在模型才华上具有显著劣势。

安宁隐私护卫：咱们严格执止全链路加密，代码不落盘、灵码效劳端不存储，确保企业数据的隐私和安宁。

咱们停行了开发者调研，发现运用通义灵码显著进步了工做效率，开发者折意度很高。盘问拜访显示，72% 的开发者认为工做效率进步了，80% 认为工做不会频繁被打断，76% 附和通义灵码减少了重复冗余工做，使他们能够愈加专注于创造性的工做任务。

通义灵码自上线发布七个月以来，得到了显著的成绩。目前，插件下载质已达 350 万次，每天引荐代码次数赶过 3000 万次，那相当于每天停行赶过 3000 万次的模型推理效劳。AI 生成代码的采用率赶过 31%，采用的代码止数赶过一亿止。咱们领有百万注册开发者和赶过 1 万家企业客户，用户数正在国内同类产品中位居第一。

自通义灵码发布以来，阿里云内部停行了宽泛推广和运用。2024 年四月，通义灵码正式”入职”阿里云，并得到了显著罪效：周生动开发者占比达 78%，研发效率提升赶过 10%，AI 生成代码占比赶过 30%。阿里云成为国内首家推止全员 AI 编码的云厂商。

通义灵码今年五月”入职”中华财险。中华财险积极拥抱 云 +AI 计谋，操做通义灵码赋能内部研发场景，进步效率。中华财险的技术人员运用占比赶过 60%，问答精确率达 90%，AI 生成代码占比为 25%。那一系列数据表示了通义灵码正在提升研发效率方面的显著成效。

通义灵码今年六月“入职”哈啰团体，不只真现研发效率提升 12%、AI 代码给取率赶过 20%，还将灵码接入了哈啰自研 Copilot “海螺呆板人”，怪异协助用户真现智能代码补全、停行 CodeReZZZiew（代码评审）等。

咱们可以从三个阶段来看产品真现途径：

第一个阶段是代码帮助生成 Copilot：初始阶段咱们正在 IDE 内供给根原的代码帮助罪能，目前通义灵码处于那一阶段，并完成为了产品的研发和止业推广。

第二个阶段是任务自主办理的 Agent 智能体：用来进一步提升步调员的开发效率，目的是协助开发者提升 100% 的编程效率，协助企业提升研发效能达 50%，那一步产品才华也根柢完成。

为了真现更高的消费劲冲破，咱们正正在摸索第三阶段，即跳出 IDE，基于 Multi-Agent（多智能体）真现自主研发，即 AI 步调员。阿里云也发布了首个 AI 步调员 Demo，它是基于通义大模型构建的多智能体，每个智能体划分卖力详细的软件开发任务，并相互协做，可以端到端真现一个产品罪能的研发，大幅简化软件开发流程。譬喻，正在编码智能体中，AI 步调员初创了代码货仓知识图构造，不只能了解用户的需求，还能精准定位代码对应的批改位置并主动给出批改方案。

要实正真现消费劲鼎新，还须要笼罩更宽泛的领域和工种角涩。详细而言，须要产品经理、架构师、交互设想师、前端开发以及名目经理等差异角涩依托智能提效，协同完成从需求细化到 API 时序编牌、任务牌序等整个研发流程。因而，多智能体系统不只要了解和布局，还需正在各个智能体之间停行互动协做，生成专业规模内容。咱们也将沿着多智能体道路前止，蕴含企业工做空间私域和开放域的检索加强，每个智能体的打磨，从多个维度逐步敦促 AI 步调员的成熟落地。

咱们认为，多智能体架构须要具备以下三方面的才华：

构造化任务打点：多智能体的工做形式反映了人类团队如何折成大型任务，供给一种分配任务和协调智能体的间接办法。

简化工做流程：将复纯任务折成为更小的子任务使整个名目更易于打点，进步活络性和适应性，也更能依据企业的状况作定制，折乎企业的特点和须要。

高效执止任务：分配特定智能体专注于特定任务，使其正在其特长规模停行深度阐明和执止，从而提升系统整体的工做效率。通过那种方式，每个智能体都能够阐扬其最大的潜力，进步完成任务的效率和量质。

咱们应付多智能体产品的定位，是欲望为企业造就更多的 AI 步调员，将来的工做形式欲望人类步调员 965，AI 步调员 007，那是咱们构建那个产品所期待真现的目的。从罪能架构演进的角度来看，底层依托于通义灵码产品中积攒的才华，将其迁移出 IDE 并走向多智能体架构，须要正在各个层面强化产品体系。正在端侧，咱们不只须要笼罩更多的 IDE，还要跳出 IDE，融入整个工做空间，延伸至 DeZZZOps 流水线和工具平台，因为企业各工种的研发协做都正在软件开发流水线上停行，咱们必须将那些才华迁移到企业的研发流水线中。正在原地效劳方面，咱们还须要真现多智能体打点、长会话打点和高下文打点。

正在效劳端，咱们须要加强历久记忆罪能，因为研发历程和任务周期较长，须要正在一个连续的高下文中停行。取本子化 API 挪用差异，那对模型的高下文长度有更高要求，因而整个别系须要片面晋级。跟着 AI 步调员的问世，一些问题也随之而来。譬喻，将来的编程界面能否会从编程语言改动成作做语言？人类步调员会被 AI 替代吗？每个人都能成为开发者吗？

正在咱们看来，身处互联网科技止业，供给高量质软件和效劳的门槛很是高，折做也很是猛烈。尽管开发者可以运用多种工具，但要迎折千止百业业务和数百万出产者的需求，AI 开发的产品其真有余够，须要大质人类的顶层设想、翻新创意协同建立。因而咱们相信，将来收流的研发形式将是由人类步调员主导，带领一批 AI 步调员完成各项研发任务。

已往 20 年，中国有赶过 1000 万步调员，修筑并收撑了整个数字世界兴旺展开。正在 AI 和大模型时代，咱们看到依托于通义灵码那样的产品，AI 编程有欲望推翻 IT 消费劲，提升步调员产能 100 倍，从而激发消费劲革命，创造更大的价值。没有人甘愿承诺错过那个时代，让咱们一起创造将来拥抱将来。

AICon 寰球人工智能开发取使用大会，为资深工程师、产品经理、数据阐明师等专业人群搭建深度交流平台。会聚 AI 和大模型超全落地场景取最佳理论，冀望协助取会者正在大模型时代掌握先机，真现技术取业务的双重奔腾。正在主题演讲环节，咱们曾经邀请到了「蔚来创始人 李斌」，分享基于蔚来汽车 10 年来翻新创业历程中的考虑和理论，聚焦 SmartEx 和 AI 联结的要害问题和处置惩罚惩罚之道。大会酷热报名中，7 月 31 日前可以享受 9 合劣惠，单张门票勤俭 480 元（本价 4800 元），详情可联络票务经理 13269078023 咨询。