【ZiDongHua 之智能自动化收录关键词：中科闻歌  人工智能 科技创新 生成式人工智能 智慧教育 】
　　
　　学习时报 | 曾大军：激发生成式人工智能的创新活力与应用潜力
　　
　　来源：《学习时报》
　　
　　作者：曾大军，中国科学院科技基础能力局副局长、自动化研究所副所长
　　
　　链接：https://paper.cntheory.com/html/2024-10/14/nw.D110000xxsb_20241014_2-A5.htm
　　
　　习近平总书记强调，“科技创新是发展新质生产力的核心要素”，“要以科技创新推动产业创新，特别是以颠覆性技术和前沿技术催生新产业、新模式、新动能，发展新质生产力”。利用前沿科技培育和推动新质生产力发展，是建设现代化产业体系、推进高质量发展、提升国际竞争力的重要内容和必然要求。
　　
　　生成式人工智能是发展新质生产力的重要驱动力。以大模型为代表的生成式人工智能技术，通过在技术上集成多年积累的深度学习模型与训练算法，依靠大算力，充分利用海量多模态数据，实现了从特定任务处理到跨领域通用的人工智能系统能力的飞跃，在语言理解、图像识别、语音识别、内容创作等多个领域展现了强大的能力和广阔的应用前景。大模型具有丰富的常识，拥有强大的通用任务解决能力、较好的工具使用能力、卓越的人机交互能力以及出色的指令遵循能力，这些优势使大模型能够显著提升应用效率，辅助产业实现数智化转型，从而带来巨大的经济效益。
　　
　　近两年我国生成式人工智能取得了显著进展，技术路径基本探明，应用路径逐渐明确，产业化应用落地广泛。目前国产大模型数量已达数百个，涵盖金融、医疗、教育等多个行业，成为赋能千行百业的新抓手和支撑产业创新的新支柱。生成式人工智能的发展与应用趋势日益明朗。
　　
　　生成式人工智能不仅是一种新技术，更代表着生产应用的新范式，能够催生新产业和新业态。大模型的学习模式类似人类大脑的处理机制，基于一个通用底座，通过学习不同的数据，能够形成多样化的能力，而无须针对特定任务开发定制算法。通过自然的人机交互，用户可直接通过对话生成应用程序，用户就是程序员，数据和场景本身就是软件应用。这一突破改变了软件开发范式，使软件开发由代码驱动向语言描述驱动转变，在需求分析、代码编写、测试、部署等软件开发的各个流程，都显著降低了技术门槛、提高了开发效率。这种新范式同时也给软件系统的建设和应用带来了新模式，使各行业的体系变革和生态发展都有了新逻辑和新路径，促使新的产品、服务和商业模式不断涌现。新兴产业的形成和发展，将引领产业变革，成为新质生产力培育和发展的主阵地。
　　
　　生成式人工智能能够推动传统产业深度转型升级，为实体经济发展注入新动能。通过将大模型应用于各个领域，可实现各行业的降本增效，提升产业自动化水平，助力企业的智能化升级，促使实体经济再上新台阶。在工业制造领域，生成式人工智能可辅助实现研发设计的自动化，为生产制造提供智能化的解决方案，通过预测需求、制定生产计划助力经营管理，并提供故障预测、健康管理等运维服务。在教育领域，可为师生提供智慧教育产品，实现个性化的因材施教。在医疗领域，可辅助诊断，成为医生的诊疗助理和患者的健康助手。在金融领域，可为金融机构提供智能客服、智能风控、智慧营销等服务，为客户提升服务体验。据有关预测，2035年生成式人工智能有望为全球贡献近90万亿元的经济价值，其中我国将突破30万亿元，且对我国经济的赋能效应显著优于美国等其他经济体。生成式人工智能与实体经济的深度融合，将打造“人工智能+”千行百业的产业新格局，形成现代化、智能化的产业体系，促进由传统生产力向新质生产力的转型。
　　
　　生成式人工智能带来的安全风险和治理挑战不容忽视。由于大模型自身结构和生成机制存在漏洞，有被恶意攻击的风险，同时大模型自身的知识表达和学习模式还存在缺陷，经常出现常识性错误、杜撰内容等“幻觉”。
　　
　　为此，应建立针对大模型全生命周期的安全监管与治理体系，从数据安全、模型安全、内容安全、伦理安全等多个角度，保障大模型研发和应用安全可信。一方面，需制定技术标准，强化过程控制。建立严格的数据采集、存储和处理规范，确保数据来源合法可靠，同时保障数据隐私。对大模型进行安全攻击检测，提升其对恶意攻击的抵抗能力，并及时发现和修复安全漏洞。另一方面，系统推进大模型监管体系建设，制定和完善相关法律法规。强化内容审核和过滤机制，识别并过滤生成的虚假信息、恶意内容和违法信息。明确伦理规范，建立伦理审查机制，确保人工智能发展遵循人类道德和价值观。通过建立全流程的安全保障体系，降低生成式人工智能的安全风险，推动技术的安全、可持续发展。
　　
　　同时，为充分发挥大模型的带动作用，必须确保大模型的健康合理应用。然而，当前在大模型应用上仍存在一定误区。一是将生成式人工智能“工具化”，仅将其视为生成文案的办公工具。这种应用方式大大限制了生成式人工智能的潜力。大模型不仅可以用于文案生成，还能够在数据分析、决策支持、辅助管理等多个重要环节发挥作用，其应用价值远超办公自动化。二是将生成式人工智能“神化”，误将其视作万能助手。虽然大模型具备强大的通用能力，但在专业领域的赋能往往依赖专业知识，通用大模型难以满足需求，只有与根据专业领域的知识和需求定制专用模型相结合，才能实现更为精准和有效的支持。
　　
　　树立立体思维，保障应用健康发展。着力促进各类大模型之间、人与机器之间的灵活配合与协同进化，充分激发大模型的创新活力与应用潜力，最大化释放大模型的应用价值。
　　
　　一是形成各类大模型各司其职、共同发展的创新生态。大模型可分为三类：底座大模型、领域大模型和任务大模型。底座大模型通过在大规模无标注数据上进行训练，学习人类常识，能够形成举一反三的强大泛化能力，具有基础的通用功能，相当于完成了人类的通识教育。底座大模型可看作智能时代的基础设施，方便更多开发者在其基础上做进一步开发，从而促进大模型的普及和应用，加速构建更加活跃多元的技术生态系统。相比通用的底座大模型，领域大模型和任务大模型则更为专用。领域大模型专注于特定行业或领域的知识，通常基于领域相关专业数据进行预训练或微调，相当于完成了专业教育，成为领域“专家”。任务大模型针对具体任务进行微调和优化，以提升其在具体任务上的效果。应引导各类模型共同发展，培育多元化的创新生态。在实际应用中，应根据场景选择相应的模型，充分发挥各类模型的优势，从而更好地满足多样化需求，实现最佳的应用效果。
　　
　　二是形成大模型通专结合、高效协同的创新体系。通用大模型与专业大模型各有优势，它们之间的关系应辩证看待。通用大模型作为跨领域的通用平台，能够提供广泛适用的解决方案，满足不同用户的基本需求，具有适用范围广、灵活性强等优势。在依赖常识的通用场景，如主要面向公众的消费型业务和虚拟互联网应用等，能够发挥不可替代的作用。专用大模型专注于特定领域，通过深耕行业的专业知识，发挥领域纵深优势，提供针对特定业务场景的高质量解决方案，具有专业精度高、定制性强等特点。在实体经济、工业应用等更依赖专业知识的场景中，能够提供更加精准有效的支持。因此，应鼓励两类模型协同发展，支持互联网头部企业研发通用大模型，增强大模型的综合能力，同时支持各行业发挥行业优势，在通用大模型的基础上深耕专用模型，形成通专协同的创新体系。在实际应用中，通过实现两类模型的协同合作，使其充分发挥各自的优势，提高整体应用效果。
　　
　　三是形成人机融合、混合增强的创新机制。大模型自然流畅的人机交互能力，颠覆了传统的人机交互范式，大幅提高了人机协同的效率和灵活性。为实现基于大模型的人机高效协同，需从业务体系层面进行系统性的重构。首先应明确界定大模型、人类和专家各自的职责范围，统筹发挥各自的优势。大模型在系统设计中应担任自动化任务者的核心角色，充分发挥其能够快速处理大量信息、高效执行重复性任务的优势，显著提升系统的整体运行效率；人类应发挥创造力强、决策能力强的优势，对系统起到整体设计和引导的作用；对于需要深入理解和判断的任务，例如复杂情境中的任务或非标准问题，需由经验丰富的专家团队来主导，确保决策的科学性和有效性。其次应面向实际需求，设计人机协同工作流，建立有效的人机沟通机制和协作策略，确保人机能够高效合作。通过形成人机协同的创新机制，不断优化资源配置，提升系统的灵活性，实现更高效的系统性能，用人机融合新机制促进新质生产力的发展。