日前，中国信息通信研究院发布《人工智能发展报告（2024年）》（以下简称《报告》），全面总结梳理人工智能技术创新方向、产业升级重点、行业落地趋势和安全治理进展。
《报告》指出，人工智能在服务经济社会发展的同时，也诱发出数据安全、隐私保护、虚假信息传播等诸多风险。2023年以来，全国已发生多起不法分子利用人工智能换脸、换声技术实施诈骗的案例，涉案金额高达百万元人民币。为寻求应对策略，全球纷纷调整人工智能安全治理布局，积极构建人工智能治理体系、建设标准体系，提升技术安全能力。
《报告》指出，在标准规范方面，ISO、IEC、SAC-TC28-SC42等国内外标准组织就人工智能安全已开展大量标准化工作。我国人工智能标准化工作也在不断提速，2024年6月，工业和信息化部等4部委联合印发《国家人工智能产业综合标准化体系建设指南（2024版）》，加快构建满足人工智能产业高质量发展和“人工智能+”高水平赋能需求的标准体系。
《报告》指出，人工智能安全治理工作迈向深水区，探索切实有效、多方共治敏捷应对的落实方案成为全球共同议题。要加速完善人工智能安全风险识别方法论，不断强化风险评估与防范策略，持续加强人工智能安全技术治理，开展人工智能安全治理的基础理论研究和共性技术研发，推动技术标准和指引的深入实践与应用，有效防范和应对治理风险。