一键生成用户隐私照？这种AI，我劝你最好别用
如果说2022年是元宇宙元年，那2023年，绝对可以被称为「ChatGPT和AI」元年。
小雷敢说，很多人肯定没想到，科幻大片里的人工智能这么快就能来到我们身边。
ChatGPT谈诗歌谈人生样样都会，还是工作的得力小帮手，有事它真能解决问题。
AI也不再是个很远的概念，比如AI绘画、合成就玩出很多新花样，让人眼花缭乱。
但是，小雷要说但是了嚯。
都说「科技是把双刃剑」，突然崛起的人工智能，也早就被一些灰色地带盯上。
今年的AI画图，想必小伙伴们都见识过了吧？ 这以假乱真的程度已经越来越高。
小雷发现有些人竟然选择利用强大的AI，生成了一些少女性感照片以此牟利。
更离谱的是，他们还真挣到钱了。。。
AI合成少女性感照
事情发生在Reddit网站，有个名叫「Claudia」的19岁少女，因为自拍照火起来了。
她的这条动态简单粗暴，附上自己美美的自拍，还有「今天感觉很漂亮」的留言。
女孩一头乌黑秀发、一双会说话的大眼睛、姣好的面容，加上19岁花一般的年纪。
Claudia这高颜值，很快就引来了一批老司机的跟帖留言。
图源：Reddit
有人直接夸，女孩看起来真漂亮。
图源：Reddit
也有的从现实主义角度出发，表示自己的生活里真的需要这样的好姑娘。
图源：Reddit
除了以上瞅着还算正常的发言，小雷发现嗷，更多的留言是偏向「少儿不宜」的。
由于留言尺度太大，这些我就不放出来，大伙都是文明人，一定能理解吧。
其实老司机们之所以车速这么猛，和Claudia后边一系列骚操作，可逃脱不了关系。
图源：Reddit
喏，只要帖子底下评论的留言风格稍微热辣一点，Claudia就会让人家给她私信。
这还没完，帖子还能看到Claudia自己发布的，一些衣着清凉的性感大尺度照片。
结合留言区来看，好家伙，合着Claudia是在做生意，卖自个儿的性感照片……
「花季少女卖性感照」这个噱头的确很大，于是乎，不少老司机早已经上了头。
图源：Reddit
然而，随着Claudia在Reddit网站的走红，性感照背后的真相也慢慢浮出了水面。
原来啊，Claudia并不是一个真实存在的用户，而是一个由AI整成的美少女形象。
除了她的自拍照以外，那些看似火辣的性感照，同样也是由AI生成的千层套路。
而使用AI生成Claudia的，其实是两个学生，目前他俩已经靠卖照片挣了100美元。
就是不知道得知真相后的付费用户们，心里会作何感想啊。。。
图源：washingtonpost网
AI以假乱真，越来越强
这波付费用户之所以会上当被骗，还是和AI生成能力大大提高，人眼难分辨有关。
AI生成图片的原理很容易理解，先生成低分辨图片，再逐渐丰富细节和复杂程度。
这其中会利用到深度学习模型，AI会根据输入的指令，生成符合语义信息的图像。
喏，深度学习模型越先进的话，AI生成的图像也会越逼真，达到以假乱真的程度。
比如，近期的Midjourney和Stable Diffusion，它们AI生成图片的进展就尤其迅速。
前阵子和大伙提过的Midjounrney V5模型，就让AI「画人」的本事有了质的飞跃。
之前一直都画不好的手指，现在已经画得惟妙惟肖，基本也看不出什么违和感了。
So，生成Claudia这样一个美少女形象，对于现在的AI来说，压根就不是什么难事。
图源：推特
不知道小伙伴们有没有发现，实际上Claudia的图像还不完美，仔细看能找出毛病。
眼睛里瞳孔位置、锁骨形状和正常人的有区别，背景光线阴影和人物脸上的打光关系也不太对。
只能说在「颜值即是正义」面前，很多老司机都忽略了以上这些奇怪的地方了。。。
害，这也算花钱买个教训吧。
图源：Reddit
除了让AI生成美少女性感照，之前提到过，AI甚至还能整出「一键脱衣」的离谱操作。
经过发展后的AI，靠着照片中人物的脸部和四肢细节，就能精准还原身体肤色，生成本不存在的「脱衣照片」。
关键是这算法真的强，身体和环境边缘等细节处理非常自然，不细看根本发现不了问题。
同样的，这些「脱衣照片」会被不法分子拿来面向特殊癖好的人群销售，以此赚取不义之财。
当高速发展的AI撞上「擦边」和「色情」，AI貌似就从帮人的工具变成了伤人的武器。
图源：网络
我们该如何对待AI？
就像很多新型技术一样，发展到2023年的AI，已经显示出具备改变很多行业方向的潜质。
小雷经常听到，有消息又说AI会替代人工如何如何，这些其实都是后话，如今AI行业该怎样继续发展才是值得思考的问题。
首先咱们应该能达成共识，AI在现阶段乃至未来还是得继续发展的，总不能因噎废食。
一方面，AI能够帮助我们更好地学习、工作和生活，比如经常需要找资料的小雷，用AI加持的搜索引擎查东西，就是比普通搜索引擎快准狠。
另一方面，AI在不怀好意的人手里，也容易滋生诸如美少女性感照骗局、一键脱衣侵犯他人权益等的事情。
AI就像一把双刃剑，既能造福人类，也会带来一系列问题，重点在于对「度」的把控。
小雷注意到嚯，目前国家互联网信息办公室已经出手。
发布了关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知。
大概内容说的是：
首先，国家是支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源；
其次，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合一定要求；
接着，提供AI服务需要先报备，使用AI服务需要先实名，生成违规内容用户和平台都会有相应处罚。
最后，还有一些抠细节的其他规定。
图源：公众号@网信中国
这份管理方法还在征求意见阶段，有兴趣的小伙伴可以反馈一波自己的意见。
总的来说，其实这份管理方法（征求意见稿），考虑得还是相对很全面的。
既有AI内容提供商和使用者的监管，又有使用要求和生成内容的管理，还不错。
小雷也希望，其他地区能够抓紧上线AI相关管理条例，让AI早日回归发展正规吧。
封面图源：Reddit