当你最爱的女明星成为了“小电影”的女主角,当你的女朋友登上了不良网站的热搜榜,你第一个想法是什么?
5 h+ g0 o' X l3 p T' T1 W( G女明星塌圈?女朋友出轨?还是什么别的原因?但你有没有想过。她们其实是是被AI 换脸了呢?
- s/ s$ h1 a9 F* a9 H E/ x$ n' l不要觉得这种事情很遥远,在AI发展越来越成熟的今天,这种事情可能就发生在你我身边。AI技术有这么强大吗?这条产业链又是怎么运作起来的呢?0 \+ J1 k/ r; n+ O4 [. q
8 [* o1 p: V4 F! V0 A
! h& h1 U+ U/ b, x; `. A
AI技术的兴起# S0 }! c: X& D7 d
7 M# T9 T/ f' t, G" T
AI技术正在广泛应用于各个领域,从机器人到语音识别再到图像生成,正在改变着我们的生活。其中,最为人熟知的恐怕要数近期兴起的AI绘图技术了。+ a9 d, E9 F: q3 j% i- a
但与此同时,另一种被称为"AI换脸"的技术也正悄然兴起。这种技术利用机器学习算法,能够将一个人的面部特征无缝地移植到另一个人的视频或图像上,制作出看似逼真的"换脸"效果。
, m. O1 v' E5 v d4 X# v" @- w/ q, j4 S3 |2 [6 ]
3 P: L% m, y B但随着技术的进步和社会环境的变迁,这种AI换脸技术却被一些不法分子滥用,制作出各种违法和不道德的内容,给社会带来诸多危害。
+ J$ l% o9 n7 n2 ^有不少看出里面漏洞的人,在里面发现了“商机”,开始大肆利用这项技术牟利,其手段恶心程度令人发指。
+ n ]1 a# u, h/ q4 v# v" J( B: s% k2 T, C5 v
# r! S3 [7 ~7 D. {* K5 s
谁偷走了我的脸
" W& E; K4 ]. G6 B' F/ F3 p6 y
& J2 W+ W. o7 j; y* }最开始的时候,AI换脸技术还只是被应用于真人写真的拍摄,方便那些没时间出门或者是懒得去摄像馆但是又想拥有一套属于自己写真的人。
- R. a4 o- c- h" j7 m6 K: p但是有一些不怀好意的人在这其中看到了漏洞,他们把AI换脸作为一场意淫的狂欢,到处去找那些女明星女网红的脸,换到他们想看的不雅视频上,然后肆意的观赏打量。: F" L5 c) z5 |7 j
j+ R, ^2 M; d# a& `5 p T% n
: Y* B, f, |$ m. m: B# k渐渐的,他们不再满足于一个人“观赏”,开始传播手中制作的小视频。在不知不觉下,“AI换脸”成了一股歪风,越来越多的人成为了受害者。
+ j7 `$ v5 V# A' O0 p# I“大约在半年前,我的视频评论区,突然涌来了很多人说看过我的‘视频’……”
5 n% @3 g) o, ?4 ] 1 o+ j9 O |1 r1 _& U9 }6 V
, `* a# u6 X* G
某平台上,一个化名“小菲”的博主,突然在自己的直播弹幕里看见了很多匪夷所思的言论,还有人源源不断的涌入她的直播间,称“我看过你的那种视频”“多少钱一次”“没想到你是这种主播”。
% {4 d1 Q. j6 d5 u& Q
& _6 x8 |3 ]& H7 @# c* C一开始小菲还没反应过来什么情况,但是随着他们你一言我一语,小菲反应过来,她的“脸”好像被偷了。+ {+ n' M0 y. s% L* q0 P
6 b' b. [' r$ _0 F5 M: B: v" N1 v% j3 H! w! g& ^2 d/ k6 @: h5 }
视频里那个做着不堪入目的动作的女生,跟小菲长着一模一样的脸,更让小菲震惊的是,视频里女主的脸部表情动作都十分自然,如果不是自己真的没做过这种事,场景和地点也对不上,小菲都要怀疑自己是不是被下药或者失忆了。* B3 @; b8 p: e7 k# c% ~8 H
不仅如此,她还在境外的社交平台上发现有人冒充她的身份注册了社交账号,除了搬运了她的日常和社交账号里本来就有的内容,还在粉丝群里以会员的方式贩卖视频,以她的脸创作的换脸视频好像形成了一条产业链,这些不法分子通过倒卖视频卖钱,肆意侵犯着他们的权益。; F3 P% c w$ G9 U* B5 ~9 E* f
; z) U5 a# I! c+ |. P
) T! M" T; R/ A- R1 s3 F+ _$ R' e
& w4 g0 o6 a' U3 d" R8 w随着了解的更多,小菲才发现他们的产业不止如此。
9 g$ i7 i1 L1 e- ?1 F& A完整的犯罪产业链+ e: Q2 |5 ~1 M& C" V8 B7 A% Q$ x
: {1 \( \* Z# C
除了将换好脸的视频拿去售卖。他们还接“私人定制”服务。不管是素人还是明星,只要能看见脸,他们都能搞定。/ o. E7 z$ T6 M; ~9 b
这些不法分子有一个专门的小群,“女神群”,群内不仅有已经换好的明星脸,还能根据你喜欢的类型私人订制。
! x/ F% G5 X$ \5 Z% g5 c! L. m- a* A+ c& b* e) p9 B
+ {9 c$ v+ N3 O }+ d' x$ H光进群就要交198到498不等的“会费”。在群里,你不仅可以看见杨幂,范冰冰的换脸视频,各大网红只要有点姿色的脸都被偷了过来。群主宣称只要有图就能定制,甚至还有会员永久半价服务... ...
; V+ l! p Y- U( G里面的女性像商品一样被明码标价,还按照粉丝量进行了区分,从30元到50元不等,定制明星的则要100起,据说杨幂的脸已经被炒到了888。. e$ n) i+ B/ K9 e: [! Y
9 W- N" [1 r8 P+ j4 a( [
' l* n9 R$ N X这些视频制作粗劣,但通过AI技术手段,杨幂标志性的五官特征却被无缝移植其中,让人一眼就能认出她来,甚至专家来了都很难辨别真伪。2 u7 S" i' I- u1 E
4 F% u, Y5 C1 H2 ]4 l4 S/ r有不少粉丝被这样的视频误导,他们对自己偶像的滤镜碎了一地,尽管有公司及时补救,但也拦不住层出不穷的犯罪分子。5 P2 H1 F3 q$ Z- l# t2 B D( @) ?2 o
8 p! U- a. ~* x7 P
/ j- i- ?8 W$ @1 l8 @4 ?6 ]- s; k( w还有人钻空子通过收集网络上公开的个人照片,利用AI换脸技术将受害者的面孔无缝移植到色情视频中。然后他们会以恐吓的方式,向受害者发送含有"不雅视频"的讹诈信息,要求支付赎金才不会将视频公开。
' c4 }, [7 ~7 c4 p- l# T+ q
7 a$ ]; f. ?( R1 W" A% {. j
5 X% |* `5 R* D( ]4 @8 f! `) V令人发指的是,这个犯罪团伙的手段十分隐蔽。他们会提前收集受害者的个人照片,甚至是一些无关紧要的自拍照片,通过AI技术完美地将其合成到制作好的色情视频中。这种视频与现实中的受害者几乎无法区分,让人防不胜防。
, W: j: G- M4 h5 t4 ~8 q& _! G. @" t
; r, O5 m! y) c( ]: M
2 R5 `; O, J* O1 ]# w8 ?4 `而且,他们的IP地址大多在海外,即使找到了犯罪分子本人,部分视频也已经多次转手,很难全部收回。1 X8 L) w5 b5 J' O( t; [
造谣成本低的难以想,辟谣所需要的精力却举步维艰。在这种场景下,任何女孩都有可能成为受害者。) ^* D; R- r: e1 z6 `/ `
层出不穷的黑心商家
4 U. F- l- D4 f) W- r, y0 @- c _% S, u% t% n4 G& G5 \
现在,在网上搜索"明星换脸"等关键词,仍旧可以发现大量售卖明星脸部模型的商品。这些不法分子和不良商家商家,打着各种幌子在网上公开售卖这些非法制品。" p: y# K" w9 A* C
~# C2 A4 @% o% N' @9 l9 R1 ~2 R: f# }% M
: K) t, l1 V ^; V) @$ _
有的商家声称提供"高清头像图片素材"服务,实则是在变相销售明星脸部模型。另一些则自称提供"AI绘画"功能,实际上也是在为"换脸"黑灰产业链输送原料。
+ j/ G' z! p* _' Y% D3 g9 S( U% A有的商家声称提供"高清明星头像素材包",价格从几十元到上百元不等。点开商品详情页,商家声称这些素材可以用于"头像制作"、"PS合成"等用途。
m. v, q* @) I
' O. k& U0 ^. ~; [- p$ D4 k
' V" m; p/ N4 U+ M* W& T) Y, |- t6 P但仔细一看,这些所谓"素材"无疑都是擅自截取明星肖像的 AI生成模型。这完全违反了明星的肖像权和隐私权,严重损害了他们的名誉。
* V! x8 A8 t6 @/ m+ D: M+ s而另一些商家宣传提供"AI绘画"服务,价格从几十元到上百元不等。点开商品页面,商家介绍称可以通过AI技术,将用户上传的照片"无缝"转换成画作。; `/ t5 x% T- S: F* w+ Q1 g- K
5 d( n7 K: j" G. B' i6 J, t. q, Z( Q5 O- `* Y" t: R
但实际上,这些商家也在变相销售非法的明星脸部模型。他们会利用这些模型,将用户上传的普通照片合成成明星的画像,甚至还有一键脱衣等功能。
a+ B' F. _: F7 F l1 }. w
# ~6 W% Y4 D) u! v9 ?% i; x. ~! K* ~0 k
2 B" X" V( \" ]+ d
这种利用AI技术侵犯他人肖像权和隐私权的行为,无疑是在破坏社会公德,也严重损害了普通公众和明星的合法权益。5 M( }; V& s9 Y% K) u' H- U8 ?
不过,相关部门对这类事件也在严惩和打击,这些犯罪分子一个也别想跑。
# m) g; K3 @+ s& v, N' d) L严惩犯罪分子4 U* Q; e: S z/ y
+ Q- a& M4 {+ s8 i警方已经联手相关监管部门,对这个隐藏在网络中的"AI换脸"暗黑产业链发起了强力打击。+ w7 Z s/ s2 P, Q3 |- T
在一次集中收网行动中,警方成功查获多家从事非法"AI换脸"服务的网店,并依法将其负责人一一拘捕归案。在这次活动中,警方一共查获了1200余部视频、图片1600余张。经鉴定,这些都属于淫秽物品。
! f- J* M# Z, G. x, o- W. I; F& t# s+ a. M# a. V
; }1 } J( u+ ~0 s* W+ {$ X根据我国《刑法》第三百六十三条对制作、传播淫秽物品牟利罪的规定,以牟利为目的,制作、复制、出版、贩卖、传播淫秽物品的,处三年以下有期徒刑、拘役或者管制,并处罚金;情节严重的,处三年以上十年以下有期徒刑,并处罚金;情节特别严重的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。* e! M. W* `: n/ u% h% k9 ~+ w
此次涉案的犯罪分子也将面临三到十年有期徒刑。不过据律师讲述,由于影片中包含大量明星产品,属于对明星名誉的严重损害,他面临的刑事处罚可能不止这么少。
) O: e1 L4 P) H, q+ I1 R' D! s4 s3 g: i7 l4 T
8 K1 A9 a3 O2 q5 a/ G1 @
更何况,任何组织或个人不能利用信息技术手段伪造等方式侵害他人的肖像权。使用AI换脸技术,订制他人淫秽物品,买方与卖方构成共同侵犯他人肖像权。如若公开传播此类视频,还将构成侵犯他人名誉权,甚至构成侮辱诽谤罪。$ W f4 L0 T2 b, H7 e# L! {/ M
# F7 p+ U2 }5 Q. s7 K2 a
警方将继续加大对这种利用AI技术侵犯他人权益的违法行为的打击力度。一方面要从源头上切断犯罪分子的利益链条,另一方面也要加强对新兴技术应用的监管,防止其沦为犯罪分子的工具。
4 ^$ ?; q6 J$ ?$ c* }结语2 ^3 M( `; N6 m m4 t: q7 A
) L) s# e3 ?* C& {& Q4 e( M. i6 i科技是把双刃剑,有好处的同时也滋生着各种层出不穷的蛀虫,不过希望在不久的将来,我们能看到这种令人发指的"AI换脸"暗黑产业链能够彻底遏制和根除,让科技真正服务于社会公众的利益。
+ m) M8 P9 m3 O1 p: Q* K1 n. O1 b% A$ \! w9 ]# k+ d% y2 _
同时,一定要提高警惕,一旦身边或者自己遭受此类骚扰或勒索,一定要及时报警,积极配合警方调查。只有全社会共同维护网络安全,才能切断这种"AI换脸"暗黑产业链的生存空间。
6 S* Y: p' z, U/ r! E参考链接
3 \) ~" z+ q4 X2 ~$ L7 }- N
# h6 a+ x2 H2 Y! P: K, I男子用“AI换脸”伪造女明星淫秽视频牟利,律师:或将面临3至10年有期徒刑-今日头条 https://www.toutiao.com/article/7220682142219502092/?channel=&source=search_tab' N; x( K! C% q- N9 \; g
“AI换脸”背后的生意经:超百部“明星、网红换脸”色情视频仅售几十元-今日头条 https://www.toutiao.com/article/7253960994869871138/?channel=&source=search_tab
2 D: [7 D8 b' e多位女明星受害!内幕曝光,检察机关提醒 https://baijiahao.baidu.com/s?id=1794476779980887719&wfr=spider&for=pc
/ R! I$ E& V8 Y# c4 |# o
( K5 c$ ]0 N0 y1 H% R) W( \4 I7 A/ q6 S( M/ n/ O* e
|