10月18日，中(zhōng)央网信办(bàn)发布《全球人工(gōng)智能(néng)治理(lǐ)倡议》（后文(wén)简称為(wèi)《倡议》）。《倡议》明确提出，发展人工(gōng)智能(néng)应坚持相互尊重、平等互利的原则，各國(guó)无论大小(xiǎo)、强弱，无论社会制度如何，都有(yǒu)平等发展和利用(yòng)人工(gōng)智能(néng)的权利。

《倡议》核心内容包括：坚持以人為(wèi)本、智能(néng)向善，引导人工(gōng)智能(néng)朝着有(yǒu)利于人类文(wén)明进步的方向发展；主张建立人工(gōng)智能(néng)风险等级测试评估體(tǐ)系，不断提升人工(gōng)智能(néng)技(jì )术的安(ān)全性、可(kě)靠性、可(kě)控性、公(gōng)平性。细则中(zhōng)提出“ 积极发展用(yòng)于人工(gōng)智能(néng)治理(lǐ)的相关技(jì )术开发与应用(yòng)，支持以人工(gōng)智能(néng)技(jì )术防范人工(gōng)智能(néng)风险，提高人工(gōng)智能(néng)治理(lǐ)的技(jì )术能(néng)力”。

在我國(guó)，针对使用(yòng)人工(gōng)智能(néng)技(jì )术滥用(yòng)问题，监管机构极為(wèi)重视针对人脸识别领域的潜在风险，从2018年开始不断有(yǒu)相应法规问世，仅2023年便有(yǒu)《生成式人工(gōng)智能(néng)服務(wù)管理(lǐ)办(bàn)法》与《人脸识别技(jì )术应用(yòng)安(ān)全管理(lǐ)规定（试行）》两大法规面世。

人工(gōng)智能(néng)技(jì )术為(wèi)我们带来众多(duō)便利，随之而来的是不法分(fēn)子滥用(yòng)技(jì )术导致的公(gōng)共安(ān)全事件，如网络暴力、人工(gōng)智能(néng)诈骗与攻击人脸识别防护系统风险，目前已成為(wèi)人脸安(ān)全领域的重大威胁。

网络暴力方面，如果施暴者借助AI技(jì )术制作(zuò)出极為(wèi)逼真的照片、视频，丰富其编造的故事，对受害者的伤害将增加到无法承受的地步。

人工(gōng)智能(néng)诈骗方面，普遍是先获取目标人脸图像信息，利用(yòng)软件分(fēn)析面部特征→换脸→活化图像，依靠用(yòng)户对AI换脸技(jì )术的轻视和对社交软件中(zhōng)视频聊天内容的信任进行诈骗。

攻击人脸识别防护系统方面，由于人脸识别算法普遍基于深度學(xué)习算法，是依靠海量人脸数据进行特征提取、训练和识别，过度依赖数据因素，缺乏一定的可(kě)解释性。黑灰产(chǎn)可(kě)基于人工(gōng)智能(néng)技(jì )术利用(yòng)漏洞进行多(duō)种模式的绕过与攻击，為(wèi)企业及客户带来巨大损失。

IT研究和分(fēn)析机构Gartner于10月17日2024年十大战略技(jì )术趋势，其中(zhōng)包括：全民(mín)化的生成式AI、AI信任和风险与安(ān)全管理(lǐ)，目前不仅监管部门均高度重视生成式AI与AI技(jì )术的应用(yòng)风险，各类机构也在努力提高从业者对相应领域的重视度。

爱加密坚持探索前沿技(jì )术，将技(jì )术创新(xīn)应用(yòng)于更多(duō)的业務(wù)安(ān)全场景，出色的技(jì )术实力曾获Gartner认可(kě)入选《Gartner全球App防护市场指南》。

為(wèi)协助企业全面加强人脸识别安(ān)全性，爱加密推出了人脸安(ān)全综合防护系统，可(kě)全面加固任意人脸识别系统。通过集成检测算法的“查、打、防”三位一體(tǐ)的人工(gōng)智能(néng)安(ān)全应用(yòng)體(tǐ)系，能(néng)够有(yǒu)效抵御对抗样本攻击、深度伪造攻击等新(xīn)型安(ān)全风险，从应用(yòng)的生命周期进行检测，治疗和预防，大幅提升人脸识别系统的安(ān)全性。