最近刷抖音、小红书的朋友,肯定对foxy2这个名字不陌生,一堆教程打着“免费10秒换脸和偶像同框”“一键生成你的AI大片”的旗号,看得人心痒痒,我身边不止一个朋友来问我:foxy2靠谱吗?真的能用吗?会不会有坑?刚好上周我收到粉丝小夏的私信,她的遭遇真的给我敲了个警钟,我特意查了国内外安全机构的最新报告、行业动态,今天就把foxy2这事说透,别等出事了才追悔莫及。

从Github测试项目到全网刷屏,foxy2为什么突然火了
foxy2其实是今年3月份才上线的野生AI换脸工具,最初只是海外一名小众开发者放在Github上的测试项目,主打“无注册、免下载、效果自然”,上线不到一个月就出圈了,根据全球流量统计平台SimilarWeb2024年5月的最新数据,foxy2的全球月访问量已经突破2900万,比上线初期涨了超过20倍,其中16%的访问量来自中国国内,换算下来每个月有四百多万中国人访问这个工具,这个热度甚至超过了很多老牌正规AI工具。
它能爆火,本质上踩中了普通人两个最普遍的需求:第一是追星需求,很多粉丝没抢到演唱会门票、没机会和偶像见面,花大几百找P图师修同框框太贵,用foxy2只要上传一张自拍照,10秒就能把自己换到偶像的互动视频里,效果自然到连头发丝边缘都不糊,对年轻粉丝的吸引力太大了,第二是猎奇娱乐需求,很多人喜欢玩恶搞,把朋友的脸换到经典电影片段里,发朋友圈开玩笑,或者满足一下自己“当电影主角”的好奇心,foxy2的免费门槛刚好满足了这种轻需求。
粉丝小夏就是典型的例子,小夏是浙江传媒学院的大三学生,今年21岁,是韩国男团SEVENTEEN的死忠粉,今年五月份团开亚洲巡演,她蹲了三次抢票都没抢到,在B站刷到一个UP主发的foxy2换脸教程,说“全程免费不用会员,10秒就能和偶像握手同框”,小夏一下子就动心了,按照教程点进了一个标注“foxy2国内镜像站”的网站,页面做的和原版一模一样,她按照提示上传了自己最满意的一张高清正面自拍照,再上传了一段偶像和粉丝打招呼的15秒直拍,不到10秒真的出片了,换出来的效果自然到粉丝群里都夸太逼真。
小夏当时高兴坏了,把视频存进手机还转了朋友圈,根本没多想,结果半个月后麻烦找上门:她开始接到源源不断的骚扰电话,有推销贷款的、问她要不要买留学服务的,更可怕的是,一个陌生账号加她微信,发来一张把她的脸P到低俗图片上的截图,威胁她转2000块钱“赎图”,不然就把图发到学校贴吧和所有她的社交账号,小夏当时吓得哭着给我发私信,后来报警才知道,这个镜像站就是专门偷用户信息的灰产站点,偷来的人脸信息一部分批量卖到暗网,一部分挑长相好看的用户单独做低俗内容敲诈,小夏刚好撞在了枪口上。
免费换脸的背后,你的隐私正在被明码标价
很多人觉得,我就是换个脸玩,能有什么大损失?不就是一张照片吗?这种想法真的大错特错,我特意去翻了原版foxy2的用户协议,英文原版里写的明明白白:“用户上传至平台的所有内容,授予平台永久、全球范围内、免费、可再授权的使用许可,平台可将内容用于任何用途,包括训练AI、商业推广、数据转让”,说白了,你上传的你的脸,从你上传的那一刻起,就变成了平台的资产,人家想怎么用就怎么用,你根本没有话语权。
如果是仿冒foxy2的站点,比这更可怕,今年6月3日,国内头部安全厂商360互联网安全中心发布了《2024野生AI工具风险预警》,专门点了foxy2的名:安全研究员检测了国内现存的17个仿冒foxy2站点,其中15个都嵌入了数据窃取脚本,只要你上传照片,脚本就会自动把照片、你的IP地址、手机定位、甚至你手机里的通讯录权限信息一起打包,发到黑客的服务器里,截止预警发布,这些站点已经窃取了超过12万条用户人脸信息,这些信息在暗网的报价是多少?我查了暗网最新的交易报价,一套带人脸、社交账号、IP地址的完整个人数据,批量购买只要0.5元人民币一张,散买也不到5块钱一套,你免费换了一次脸,还把自己打包卖给了灰产,人家赚得盆满钵满,你丢了隐私,去哪说理?

除了隐私泄露,foxy2已经成为骗子作案的工具,今年五月份佛山警方刚刚通报了一起新型AI诈骗案,骗子就是用foxy2做的案:嫌疑人提前从公开渠道拿到了某公司老板的公开演讲视频,用foxy2把自己的脸换成老板的脸,再用AI模仿老板的声音,拉着公司出纳开视频会议,说有一个紧急项目需要立刻汇款430万,出纳看着视频里就是老板本人,脸和声音都对得上,没多想就转了账,等到发现不对的时候,钱已经被转到境外了,追回的难度极大,欧盟今年6月也已经把foxy2纳入了数字服务法(DSA)的监管名单,要求foxy2立刻整改,否则就直接下架,原因就是foxy2没有按照要求对AI生成内容做标注,也没有建立用户信息保护机制,已经成为深度伪造、诈骗、侵权的重灾区。
更让人愤怒的是,现在网上90%的非法AI深度伪造色情内容,都是用foxy2这类无监管工具做的,根据全球反深度伪造组织Sensity2024年5月发布的最新报告,现在网上新增的深度伪造内容里,超过90%都是色情内容,其中70%的受害者都是普通女性,很多受害者和小夏一样,只是在网上发过自拍照,或者在不知名站点上传过照片,就被别有用心的人换脸制作成色情视频,散布在各个灰色网站,哪怕你最后维权删掉了内容,也已经有无数人下载保存,对你的名誉和生活造成一辈子的影响,去年我就看到过一则新闻,成都一个女生和男友分手之后,男友怀恨在心,花了不到10块钱买了foxy2的第三方会员,把女生的脸换到色情视频里,发到了女生的公司群和校友群,最后女生得了抑郁症,丢了工作,打官司打了一年才拿到赔偿,但伤害已经造成,根本没办法挽回。
普通人玩AI换脸,如何避开foxy2这类坑
很多人看到这里会说,那以后AI换脸都不能玩了吗?其实不是,技术本身没有对错,错的是无监管的工具和别有用心的使用者,AI换脸本身是个好技术,现在用在老电影修复、影视剧补拍、传媒内容制作这些领域,已经帮行业解决了很多问题,我们普通人想要玩个乐呵,也完全没问题,只要记住三个原则,就能避开绝大多数坑:
第一,绝对不要在非正规平台上传你的高清正面人脸照片,不管是foxy2还是什么其他的野生AI工具,只要是不知名的小网站、不知名的小程序,让你上传照片换脸,一律拒绝,你要记住,人脸信息是独一无二的生物信息,和密码不一样,密码泄露了你可以改,人脸信息泄露了,你一辈子都改不了,随便哪个骗子都能用你的脸做诈骗、做违法内容,这个风险不是普通人能承受的。
第二,一定要用正规大平台的AI换脸服务,现在抖音、快手、百度这些大平台都推出了合规的AI换脸特效,这些平台按照国家《生成式人工智能服务管理暂行办法》的要求,不会存储你的人脸信息,用完就会删除,也不会拿你的个人信息去售卖,哪怕出了问题,你也找得到主体维权,不像那些野生站点,站长跑了你连追责的地方都没有。
第三,一旦发现信息被滥用,一定要立刻维权,不要忍气吞声,现在我国《个人信息保护法》《民法典》都明确保护公民的肖像权、隐私权,未经允许收集、使用、买卖个人信息,制作传播深度伪造内容都是违法行为,如果你遇到了被侵权、被威胁的情况,立刻保留证据报警,要求平台下架内容,还可以起诉要求赔偿,今年4月份深圳就判了一起这样的案子,一个女生发现自己的脸被陌生人用foxy2换脸放到色情网站,立刻报警起诉,最后法院判侵权者赔偿5万元精神损失费,还要求平台删除所有内容,很好地维护了自己的权益。
这两年AI技术的发展速度远远超出了很多人的想象,从ChatGPT到AI绘画,再到foxy2这类AI换脸工具,越来越多的普通人可以用极低的门槛用上AI技术,这本来是技术进步带来的好事,但反过来,门槛降低不代表风险也会降低,很多不良商家就是抓住了普通人喜欢占便宜、对风险不敏感的特点,用“免费”“好玩”当诱饵,偷你的隐私,赚黑心钱,foxy2的爆火不是个例,未来肯定还会有更多类似的新工具出来,我们作为普通人,能做的就是多留一个心眼,记住一句话:你的脸,永远比10秒的快乐值钱多了。
