近日，平安证券发布研报称，在2024世界人工智能大会暨人工智能全球治理高级别会议上，中国AI(人工智能)企业不仅在技术研发方面取得了显著成效，还在应用落地、生态构建等方面展现出强劲势头。中国AI企业在多个领域实现了突破，为全球AI治理和应用提供了宝贵的中国方案。
今年的WAIC2024，AI治理被置于前所未有的高度，而AI安全正是其中的重中之重。
“AI与安全，是数字化转型与可持续发展的必修课。”7月6日，奇安信董事长齐向东在大会相关论坛上表示，要积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用AI去驱动安全，又要做好AI自身安全，护航数字化转型与可持续发展。
“AI作为引领未来的战略新兴技术，已成为发展新质生产力、推动科技革命和产业升级的核心引擎。”中国数实融合50人论坛智库专家洪勇在接受《》记者采访时表示，随着AI的高速发展，尤其是生成式AI的突破，其复杂效应也不断显现，既释放巨大的技术红利，也衍生出超越以往范畴的挑战，涉及数据安全、伦理治理、算法歧视、能源环境、数字鸿沟等问题。
AI安全受关注
技术发展，协同共治。面对挑战，全球AI安全治理的进程正加速推进，已形成各国政府主导、国际组织积极推进、企业协同治理的多方参与格局。全球AI界正积极平衡“发展”与“安全”这一体两面，推动AI“两翼齐飞”。
AI安全相关企业也抓住产业发展黄金机遇，乘势而上。聚焦国内，深信服、天融信(002212)、启明星辰(002439)、奇安信等公司均已发布安全大模型产品。腾讯、蚂蚁集团等也积极构建AI安全平台。放眼全球，微软在今年5月份已正式商用了MicrosoftCopilotforSecurity(一种基于生成式AI的安全产品)，旨在“帮助用户以机器的速度进行防御”。谷歌去年也发布了网络安全专有大模型，并应用到了云安全能力中心。
据TheInsightPartner预测，2030年，全球AI安全市场规模将达到710亿美元，未来十年复合增速将达到29%。艾媒咨询数据显示，预计到2027年，我国网络安全市场规模有望增至884.4亿元人民币。
产业链公司在行动
中金公司认为，AI的安全风险涉及多个维度。AI体系安全是基础，包括软件、硬件等基础设施的供应安全，以庞大市场为基础的需求安全，应用部署安全等，需确保AI生态系统的独立性、完整性和抗攻击能力。数据安全是AI系统能否有效、高质量运行的关键。AI应用中广泛出现的错误与虚假信息、“信息茧房”、隐私泄露等问题也会对社会安全带来挑战。
针对上述问题，产业链上市公司正在行动。
“公司打造了以‘数据+AI’为核心，以‘应用场景’为依托的系列产品，形成了七大解决方案及产品线，其中就包括风险与合规产品线，涉及智能风控、监管报送等。公司信创及安全类产品也有利于降低信息安全风险。”法本信息相关人士在接受《》记者采访时表示。
永信至诚在投资者互动平台上称，公司发布AI大模型安全测评“数字风洞”平台，为AI大模型的持续演进和应用提供坚实的安全保障。在内容安全测评方面，平台借助检测插件，形成检测模板、检测场景分类和测评数据集，测评出各类安全风险；在系统安全测评方面，平台对目标系统进行深入的安全评估，帮助AI大模型系统迅速发现潜在的安全漏洞。
“除了在技术上推动AI系统的可解释性和可控性外，由于AI问题往往跨越国界，各方还应促进国际合作，建立全球共识，共享最佳实践。”洪勇如是说。
本届WAIC2024还发布了《人工智能全球治理上海宣言》，倡导共推发展、共护安全、共商治理、共汇民智、共享成果。呼吁各国加强交流和对话，推动人工智能更好地造福人类。
