首页(yè)> 技(jì )术观点 > 科(kē)技(jì )向善|触碰法律底線(xiàn)的AI黑科(kē)技(jì ),该退场了

科(kē)技(jì )向善|触碰法律底線(xiàn)的AI黑科(kē)技(jì ),该退场了

发布时间:2023-06-26

近日,某女性的照片在网络上引起了不小(xiǎo)的舆论风波,本来该女性发布的照片是正常生活照,但是被有(yǒu)心人利用(yòng)AI的软件一键脱衣,并在网络上广泛传播,给当事人造成了极其不好的影响。如此龌龊的互联网行径,引发了國(guó)内很(hěn)多(duō)女性的恐慌。这些虚假的图像或视频不仅导致受害者名(míng)誉和形象受损,带来难以想象的精(jīng)神压力,甚至很(hěn)可(kě)能(néng)被用(yòng)做勒索、骚扰的手段。

 

不少网友怒斥“人工(gōng)智能(néng)不应该用(yòng)在这上面”。利用(yòng)AI技(jì )术“脱去”女性衣服,属于情节严重的侮辱女性的行為(wèi)。希望有(yǒu)关部门强化源头治理(lǐ),坚决取缔这种非法应用(yòng),还要倒查到底是谁在开发这种龌龊的APP,追究相关APP的开发运营者相关法律责任。

“一键脱衣”APP可(kě)以说是毫无下限,那么目前应用(yòng)市场中(zhōng)该类型的移动应用(yòng)具(jù)體(tǐ)情况是怎样的呢(ne)?

(一)疑似具(jù)有(yǒu)脱衣功能(néng)的移动应用(yòng)概况分(fēn)析

根据爱加密移动应用(yòng)大数据平台提供的数据,大数据平台监测范围覆盖1400+个应用(yòng)渠道截止到当前共计疑似具(jù)有(yǒu)脱衣功能(néng)的Android 536款。根据该功能(néng)的应用(yòng)所属區(qū)域来看,广东省应用(yòng)数量占总量的35.07%,位居第一;北京市应用(yòng)数量占总量的18.84%,位居第二;上海市应用(yòng)数量占总量的6.72%,位居第三。下图為(wèi)移动应用(yòng)區(qū)域分(fēn)布top10的情况:

移动应用(yòng)區(qū)域分(fēn)布TOP10

(二)疑似具(jù)有(yǒu)脱衣功能(néng)的移动应用(yòng)案例分(fēn)析

在AI技(jì )术的加持之下,脱衣类功能(néng)的应用(yòng)实现人物(wù)替换、背景替换都会很(hěn)逼真,有(yǒu)的软件甚至通过敏感词汇和功能(néng)介绍诱导下载。

(1)点击哪里擦除哪里

该应用(yòng)是一个可(kě)以单击去除身體(tǐ)部位的脱衣应用(yòng),相应的部位会通过暴露皮肤的颜色来进行填充,看起来就像是真的脱衣一样:

(2)利用(yòng)敏感字眼吸引下载

该应用(yòng)采用(yòng)“真人去衣服”、“美女资源”等字眼来吸引用(yòng)户点击下载使用(yòng):

任何新(xīn)技(jì )术和工(gōng)具(jù)的创新(xīn)都是一把双刃剑,既可(kě)為(wèi)日常生活带来便利,甚至于可(kě)以改变未来的生活状态和方式,也会出现被别有(yǒu)用(yòng)心之人利用(yòng)而作(zuò)恶的可(kě)能(néng)性。这种“一键脱衣”技(jì )术,可(kě)能(néng)会对人们的身心健康造成不良影响,还可(kě)能(néng)会对社会稳定和公(gōng)共秩序造成影响,比如引发社会纷争、破坏社会道德(dé)风尚等。希望相关监管机构能(néng)加强法律法规的制定和实施,对恶意使用(yòng)“一键脱衣”技(jì )术的行為(wèi)进行严厉打击和惩罚,加强技(jì )术监管和管理(lǐ),公(gōng)众也要提高法律意识和安(ān)全意识,保护自身合法权益。

(三)脱衣类移动应用(yòng)植入恶意程序情况概况

“一键脱衣”类APP持续引发了公(gōng)众对个人隐私安(ān)全的关注和讨论,受高额利益驱使,一些人员通过制售木(mù)马病毒、开发攻击软件,窃取数据牟利,威胁企业、个人数据安(ān)全,甚至威胁关键信息基础设施安(ān)全。本章主要介绍全國(guó)移动互联网恶意应用(yòng)的分(fēn)布情况并进行分(fēn)析。

(1)主要恶意程序风险描述

截至当前,该功能(néng)的应用(yòng)中(zhōng)含有(yǒu)恶意程序的有(yǒu)35款,其中(zhōng)恶意程序类型以“流氓行為(wèi)”為(wèi)主,这些恶意程序主要存在对移动用(yòng)户的隐私数据收集、恶意扣费、流量资源消耗、系统破坏和广告推送等多(duō)种恶意行為(wèi),对移动用(yòng)户的个人信息及财产(chǎn)安(ān)全带来巨大的威胁。详见下图:

恶意程序类型统计表

(2)恶意应用(yòng)區(qū)域分(fēn)布情况

从區(qū)域分(fēn)布来看,北京市存在恶意应用(yòng)的数量占恶意应用(yòng)总量的28.57%,位居第一;广东省存在恶意应用(yòng)的数量占恶意应用(yòng)总量的14.29%,位居第二;上海市存在恶意应用(yòng)的数量占恶意应用(yòng)总量的8.57%,位居第三。详情见下图:

各恶意应用(yòng)區(qū)域分(fēn)布top10

(四)共同营造健康、和谐、有(yǒu)序的网络环境

网上不少非法网站还提供“一键脱衣”的AI技(jì )术,并且这些技(jì )术主要针对女性,即使上传的是男性的照片,这些网站仍会P上女性的裸體(tǐ)。如此龌龊的黑科(kē)技(jì ),侵犯到当事人的多(duō)项权利,也触犯了國(guó)家法律和道德(dé)底線(xiàn)。我國(guó)刑法规定了侮辱罪”传播淫秽物(wù)品罪”,网络本身就是一个公(gōng)共空间,利用(yòng)AI技(jì )术脱去女性衣服,属于情节严重的侮辱女性的行為(wèi),已经达到可(kě)以追究刑事责任的程度。今年1月10日开始施行的《互联网信息服務(wù)深度合成管理(lǐ)规定》中(zhōng)提出:任何组织和个人不得利用(yòng)深度合成服務(wù)制作(zuò)、复制、发布、传播法律、行政法规禁止的信息,不得利用(yòng)深度合成服務(wù)从事危害國(guó)家安(ān)全和利益、损害國(guó)家形象、侵害社会公(gōng)共利益、扰乱经济和社会秩序、侵犯他(tā)人合法权益等法律、行政法规禁止的活动。

作(zuò)為(wèi)公(gōng)众,在遇到此类事情时应勇敢向平台举报,拿(ná)起法律武器保护个人隐私和权益,遠(yuǎn)离不良信息和行為(wèi)。无论是人工(gōng)智能(néng)还是其他(tā)科(kē)技(jì ),最终目的都应该是向善的,存敬畏,莫侥幸,滥用(yòng)技(jì )术从事危害他(tā)人权益的行為(wèi),必将受到道德(dé)的谴责和法律的制裁。

 

爱加密倡导健康、文(wén)明的网络环境,积极推动网络伦理(lǐ)和道德(dé)建设,加强对网络违法和不良行為(wèi)的监管和打击,為(wèi)网络空间的健康发展和人民(mín)群众的身心健康保驾护航。

 

 

加入收藏