当前位置:首页|资讯|元宇宙|ChatGPT|人工智能

一键生成用户隐私照?这种AI,我劝你最好别用

作者:雷科技发布时间:2023-04-23

原标题:一键生成用户隐私照?这种AI,我劝你最好别用

如果说2022年是元宇宙元年,那2023年,绝对可以被称为「ChatGPT和AI」元年。

小雷敢说,很多人肯定没想到,科幻大片里的人工智能这么快就能来到我们身边。

ChatGPT谈诗歌谈人生样样都会,还是工作的得力小帮手,有事它真能解决问题。

AI也不再是个很远的概念,比如AI绘画、合成就玩出很多新花样,让人眼花缭乱。

但是,小雷要说但是了嚯。

都说「科技是把双刃剑」,突然崛起的人工智能,也早就被一些灰色地带盯上。

今年的AI画图,想必小伙伴们都见识过了吧? 这以假乱真的程度已经越来越高。

小雷发现有些人竟然选择利用强大的AI,生成了一些少女性感照片以此牟利。

更离谱的是,他们还真挣到钱了。。。

AI合成少女性感照

事情发生在Reddit网站,有个名叫「Claudia」的19岁少女,因为自拍照火起来了。

她的这条动态简单粗暴,附上自己美美的自拍,还有「今天感觉很漂亮」的留言。

女孩一头乌黑秀发、一双会说话的大眼睛、姣好的面容,加上19岁花一般的年纪。

Claudia这高颜值,很快就引来了一批老司机的跟帖留言。

图源:Reddit

有人直接夸,女孩看起来真漂亮。

图源:Reddit

也有的从现实主义角度出发,表示自己的生活里真的需要这样的好姑娘。

图源:Reddit

除了以上瞅着还算正常的发言,小雷发现嗷,更多的留言是偏向「少儿不宜」的。

由于留言尺度太大,这些我就不放出来,大伙都是文明人,一定能理解吧。

其实老司机们之所以车速这么猛,和Claudia后边一系列骚操作,可逃脱不了关系。

图源:Reddit

喏,只要帖子底下评论的留言风格稍微热辣一点,Claudia就会让人家给她私信。

这还没完,帖子还能看到Claudia自己发布的,一些衣着清凉的性感大尺度照片。

结合留言区来看,好家伙,合着Claudia是在做生意,卖自个儿的性感照片……

「花季少女卖性感照」这个噱头的确很大,于是乎,不少老司机早已经上了头。

图源:Reddit

然而,随着Claudia在Reddit网站的走红,性感照背后的真相也慢慢浮出了水面。

原来啊,Claudia并不是一个真实存在的用户,而是一个由AI整成的美少女形象。

除了她的自拍照以外,那些看似火辣的性感照,同样也是由AI生成的千层套路。

而使用AI生成Claudia的,其实是两个学生,目前他俩已经靠卖照片挣了100美元。

就是不知道得知真相后的付费用户们,心里会作何感想啊。。。

图源:washingtonpost网

AI以假乱真,越来越强

这波付费用户之所以会上当被骗,还是和AI生成能力大大提高,人眼难分辨有关。

AI生成图片的原理很容易理解,先生成低分辨图片,再逐渐丰富细节和复杂程度。

这其中会利用到深度学习模型,AI会根据输入的指令,生成符合语义信息的图像。

喏,深度学习模型越先进的话,AI生成的图像也会越逼真,达到以假乱真的程度。

比如,近期的Midjourney和Stable Diffusion,它们AI生成图片的进展就尤其迅速。

前阵子和大伙提过的Midjounrney V5模型,就让AI「画人」的本事有了质的飞跃。

之前一直都画不好的手指,现在已经画得惟妙惟肖,基本也看不出什么违和感了。

So,生成Claudia这样一个美少女形象,对于现在的AI来说,压根就不是什么难事。

图源:推特

不知道小伙伴们有没有发现,实际上Claudia的图像还不完美,仔细看能找出毛病。

眼睛里瞳孔位置、锁骨形状和正常人的有区别,背景光线阴影和人物脸上的打光关系也不太对。

只能说在「颜值即是正义」面前,很多老司机都忽略了以上这些奇怪的地方了。。。

害,这也算花钱买个教训吧。

图源:Reddit

除了让AI生成美少女性感照,之前提到过,AI甚至还能整出「一键脱衣」的离谱操作。

经过发展后的AI,靠着照片中人物的脸部和四肢细节,就能精准还原身体肤色,生成本不存在的「脱衣照片」。

关键是这算法真的强,身体和环境边缘等细节处理非常自然,不细看根本发现不了问题。

同样的,这些「脱衣照片」会被不法分子拿来面向特殊癖好的人群销售,以此赚取不义之财。

当高速发展的AI撞上「擦边」和「色情」,AI貌似就从帮人的工具变成了伤人的武器。

图源:网络

我们该如何对待AI?

就像很多新型技术一样,发展到2023年的AI,已经显示出具备改变很多行业方向的潜质。

小雷经常听到,有消息又说AI会替代人工如何如何,这些其实都是后话,如今AI行业该怎样继续发展才是值得思考的问题。

首先咱们应该能达成共识,AI在现阶段乃至未来还是得继续发展的,总不能因噎废食。

一方面,AI能够帮助我们更好地学习、工作和生活,比如经常需要找资料的小雷,用AI加持的搜索引擎查东西,就是比普通搜索引擎快准狠。

另一方面,AI在不怀好意的人手里,也容易滋生诸如美少女性感照骗局、一键脱衣侵犯他人权益等的事情。

AI就像一把双刃剑,既能造福人类,也会带来一系列问题,重点在于对「度」的把控。

小雷注意到嚯,目前国家互联网信息办公室已经出手。

发布了关于《生成式人工智能服务管理办法(征求意见稿)》公开征求意见的通知。

大概内容说的是:

首先,国家是支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源;

其次,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,符合一定要求;

接着,提供AI服务需要先报备,使用AI服务需要先实名,生成违规内容用户和平台都会有相应处罚。

最后,还有一些抠细节的其他规定。

图源:公众号@网信中国

这份管理方法还在征求意见阶段,有兴趣的小伙伴可以反馈一波自己的意见。

总的来说,其实这份管理方法(征求意见稿),考虑得还是相对很全面的。

既有AI内容提供商和使用者的监管,又有使用要求和生成内容的管理,还不错。

小雷也希望,其他地区能够抓紧上线AI相关管理条例,让AI早日回归发展正规吧。

封面图源:Reddit


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1