张莹代表：建议加强人工智能规则治理 健全专业人才培养模式

1月14日，北京市第十六届人民代表大会第三次会议举行，市长殷勇作**工作报告。报告提出，要提升优势产业发展能级，完善新一代信息技术、人工智能等产业支持政策。

对于人工智能的发展和落地，北京市人大代表张莹就把人工智能应用到了日常工作中。作为中国电信股份有限公司北京分公司10000号服务中心员工，她将算法与用户实际诉求相结合，参与研发了服务大模型，以进行全流程的智能辅助。

北京市人大代表张莹 图/受访者供图

张莹告诉新京报记者，本次上会她带来了加强人工智能规则治理与健全人工智能领域专业人才培养模式两项建议。

构筑大模型安全能力，用“魔法打败魔法”

张莹表示，当前在人工智能规则治理方向中，恶意误导模型、虚假信息传播、有害的信息传递三个方面的问题较为突出。具体来看，恶意误导模型使得模型训练结果受损，浪费算力资源；模型生成的不真实或不良信息的传播会影响公众的价值观和认知，进而被别有用心的人用于制造社会舆论，甚至涉及司法犯罪；大模型的普遍应用一方面方便了工作生活，另一方面也造成了大模型生成有害信息无法事前拦截的问题。

对此，她建议针对受众群体较大或训练成本较高的模型，采取必要的安全监管措施，一方面针对数据的安全监管，对敏感数据进行加密和脱敏处理，确保数据存储、传输及使用安全的基础上，建立严格的数据访问、处理控制机制，并构建完善的审计流程，防止数据被恶意篡改或泄露。另一方面针对参与训练的技术人员建立完备的权限管理机制，按照“最小化”原则访问其所需资源并对访问及使用过程运用自动化安全检测工具或平台实时进行审查及监管，发现潜在的风险并及时修复。

张莹认为，在模型生产内容安全风险加剧的情况下，需要迭代更新新型安全治理技术，构筑大模型安全能力，用“魔法打败魔法”。对可能存在的各类大模型安全风险相关数据进行收集，构筑完备的数据底座来为风险识别奠定基础，并在数据底座的基础上运用合理的技术手段，如相似度匹配、语义分析等进行有效的风险识别及风险等级评估。算法升级方面，针对模型结构进行优化，基于当前模型的特点可以针对性地进行模型结构改进和训练策略调整。

试点在中小学开设人工智能实践体验课消除就业不确定影响

作为在行业一线进行人工智能应用落地的代表，张莹也观察到当前企业内人工智能高层次人才不足，青年科技人才更多是应用层人才，能力偏重于数据资源应用与数据加工挖掘，研发颠覆性成果需进一步提升人才培养的深度与针对性。

在她看来，为减少人工智能出现“幻觉”，保持AI模型的自洽性需要在模型训练、推理、微调等不同环节由具备在交叉学科融合过程中运用适当的技术来选择符合逻辑的合理结果的专业人才，帮助模型自洽性的保持和提高。随着人工智能技术的不断进步，未来的就业环境更加复杂，部分传统职业用工需求将极速下降，而相应地也会产生新的与人工智能领域相适应的新型职业。

对此，她建议企业内部针对人才培养加强顶层设计及战略规划，深化企业与高校联合高层次人才培养模式改革，聚焦机器人、教育、医疗、文化、交通等领域，持续推进交叉学科人工智能领域人才培育。

“适时试点在中小学开设人工智能实践体验课程，鼓励有条件的科技型企业与教育集团或学校建立战略合作关系，共同培养拔尖创新人才，使学生及家长对就业市场未来发展有一个客观的认知，对行业趋势保持敏感，以消除未来就业环境的不确定性带来的影响。通过针对性的培养专业素养及职业技能，鼓励学生发展创新思维、逻辑思维和实施变革的能力，为未来新型职业尤其是行业颠覆性职业的人才缺口做足充分的准备。”张莹说。