在元宇宙世界中，我要怎么证明「我是我」？

昀离936

前阵子接触了一些元宇宙的介绍展示，被投射出来的虚拟人震惊到了，这只是现阶段做的比较好的混合现实技术。如今，国内外互联网公司纷纷在VR/AR、AI技术方面对元宇宙加强布局，虚拟世界里的沉浸式体验一定会越来越逼真，所以我不经在想当我们真的进入元宇宙，是不是真的可以随时制造出一个甚至是数个一模一样的自己，那么到时候我要怎么证明我是“我”？我们有没有办法分辨AI的「欺骗」？AI技术还有哪些风险？如何有效治理和解决？

我能陪你变老

这几年翻车最频繁的是哪些群体？不是什么明星，也不是什么大腕。而是那些网红美女帅哥，随着短视频的盛行 ，突然周期性冒出来一堆的帅哥美女，然后周期性的被爆出「路人照骗」，最后泯然于众人。


古话有云，“耳听为虚，眼见为实”，但是古人不知道现在有PS这种技术，俗话说P图大法好，不管什么东西经手PS后，都能给你改的自己认不出来。


更别说现在的AI自动修图了，一键美颜，一键瘦腿，一键变身超模，相比起以前的PS，自动修图这个技术已经可以在随便一个手机里运行了，你很难依靠肉眼去分别一张照片背后这个人到底长什么样。
可以说化妆+修图+美颜这一套组合拳，可以彻底让一个人在虚拟世界里改头换面。
元宇宙作为虚拟世界的最终版本，在脱离了实体的虚拟世界，按道理说会让诈骗变的更加容易，再加上其去中心化的特征，导致被骗的追回难度也指数级别的升高。
但并不代表者元宇宙对这个问题就毫无办法，AI确实可能会成为犯罪分子的有利工具，但AI同样也可以制止这种恶意。
AI用来技术作恶？

我发现了AI的各种技术应用最先部署的往往的就是那些黑色产业，比如造谣和网骗，因为现在的造谣和网骗成本实在是太低了，手机上就可以完成各种照片的PS，甚至换脸。
Deepfake是前几年特别火的一个应用，可以一键将原图中的脸换成别人的，刚开始大家玩的还是一些梗，比如男换成女的，也就是图一乐。
比如前段时间爆火的肌肉金轮


但是换脸这种工具会不会辅助犯罪，我的答案是会的，而且已经发展到了一定的规模，比如之前就有把奥巴马的脸换到别人身上表达政治观点，后来的deepfake更是能让人轻松的制作出虚拟的假视频甚至色情视频。
AI管AI？

但并不是说这种招式就无法应对了，解铃还须系铃人，AI造的孽总得通过AI来解决。
前两天回答了一个问题，是关于AI进行图像识别的弊端。
下面这两只猫，你能分辨出来有什么不同吗？


对于计算机来说这种像素级别的反应就非常敏锐。


计算机认为左边是猫，右边是键盘。
原因就是AI在识别图像的时候考虑的像素级别的特征，而人眼往往对于这种改变视而不见。这个技术就是GNN对抗机器学习，它其实最开始是用在数据增强上的，也就是数据不多的时候可以人为的制造一些数据出来，后面发现微小的改动就可以造成模型的鲁棒性急剧降低，后面发现微小的改动就可以造成模型的鲁棒性急剧降低。
照片的问题AI是可以针对解决的，相比起图片，视频造假的识别难度更高。



同样的，在未来的元宇宙构造的虚拟现实世界，视频会充斥在整个世界，因为你在元宇宙中作为一个虚拟人，自己既是视频的一员，又是其他人视角上的视频。
简单的视频造假其实是比较容易分辨的，一个视频可以分为很多帧，每一帧单拎出来就是一张照片，而照片可以转化为时域和频域，我们平时看视频的视角是在时域，但是通过频域的分析就能看出一个视频是不是经过处理。
经过处理的视频在频域上往往不是平滑的。
元宇宙的视觉欺诈风险到底如何？

这种风险会在元宇宙更加严重，去年英伟达的老板黄仁轩GTC线上峰会上用视频做了演讲，直到三个月后英伟达才宣布，以下的这段视频从黄仁勋到厨房，再到其它细节，全部都是假的，都是渲染出来的。NVIDIA通过精细的建模还原了老黄家的厨房，又聘请了专业的动作捕捉团队，将捕捉到的演员动作渲染成老黄的样子。


反正我当时也没看出来，后期他们披露的视频中，可以看到N多个单反（太有钱了），对他进行人物建模，精细到几乎每根头发丝。


元宇宙说到底现在都是各搞各的，目前还没有统一的框架，也没有很成熟的产品，大多都停留在捏脸游戏的那个程度，但是风险这个问题在技术发明的同时就要同步跟进。
而AI技术作为元宇宙中重要的组成部分，不仅可以加速建设元宇宙世界，同时在安全防范方面更有着不可取代的优势。让AI帮助发现和防范AI系统可能存在的风险，在人和AI之间增加一道技术护盾，这就是阿里巴巴以及其安全团队着眼于的目标。
AI在防欺诈防骗方面已经相对来说很成熟了，银行使用AI可以发送移动警报以帮助防止欺诈。例如，如果你的帐户发生了一笔异常大的交易，你的手机上可能会收到警告警报。或者，如果你突然开始以其他状态进行购买，则可能会被标记为预防欺诈，要求你打电话给银行以亲自验证购买。
这背后是因为跟踪您的日常财务交易，因此可以进行此类通知，从而使AI能够识别您的消费习惯中的异常模式。
我估计有小伙伴会问了，那么隐私的隐私问题如何防范呢，其实也有不少的成果出来了，联邦学习和差分隐私就是合适的例子，重要的数据都在本地处理，这样可以有效的防止隐私泄露。
未来的元宇宙到底安全吗？

这个问题可能会永远得不到解答，首先元宇宙的状态还未确定，最简单的就比如元宇宙真的你真的是你吗？光这个问题可能暂时就没有答案，因为未来你进入元宇宙的方式到底是什么形态都无法估计，可以是高精度扫描的你，也可以自由捏脸的脸，你可以是你，也可以不是你。
但有一点可以确认的是，未来的元宇宙中的每一个都会一个特殊的标识，这个标识必定是唯一且伴随终身的，毕竟在现实社会中，所有的一切也都可以伪造。
静静等待就好了。

忆神姆原们

《经典国粹》

这照片是你吗？
是我！那时我还很瘦。
这就不是你。
你说他不是我？
不是！
我说他也不是我！这根本就不是我！
那到底是怎么回事呢？
我还想知道是怎么回事。

<hr/>如何看待诈骗分子 PS 环球影城票务门面上传地图被 AI 发现？AI 技术在反诈骗上有哪些应用和进展？近日媒体报道，有用户试图提交伪造的环球独家旅游咨询点线下门脸图像，被 AI 技术迅速自动识别该图像的 PS 痕迹。地图工作人员收到反馈后，经线下核实，确认实际区域并无该咨询点，且该「票务咨询」电话为诈骗电话，于是拦截了这一申请。阿里高级安全专家渡明表示，「近年来大量的网络诈骗案引入了伪造各类证件、转账记录等手段，若篡改检测技术能大量普及应用，也能一定程度遏制网络诈骗。」
事实上，近年大量诈骗违法人员引入伪造各类证件、转账记录等技术手段骗取用户信任、伪造个人身份实施诈骗，识别破解难度大幅增加。对于普通人而言，无法确定对方晒出的身份信息、生活信息是否为真，甚至无法确定跟你聊天语音视频的好友性别，以至于网恋奔现发现对方是同性的事件层出不穷，“有图有真相”的时代也一去不复返。

如何在互联网中证明我是「我」？
十年前，你用QQ给朋友发消息借钱，朋友会直接转给你；
五年前，你找父母要生活费，父母要你发照片过去验明身份；
如今，你从银行APP登录都需要张嘴、眨眼、扭头等方式配合检测；
互联网在拉进人类社交距离的同时也剥离着「信任感」，网络上为所欲为的发言、诈骗等行为的背后正是基于这个问题：没有人能确认互联网的我是「我」。
历史会不断重演，曾经在互联网上发生的一切都会在元宇宙内再发生一遍。既然如此，在此背景下先给大家介绍下互联网发生的身份伪造技术：DeepFake，即Deep Learning (深度学习) + Fake. 起初是一名为“deepfakes”的Reddit用户在网上发布了一段利用名人面孔合成的色情视频，引发各界关注。通过一种神经网络模型——GAN（生成对抗网络），在基于海量人脸数据训练后，他们拥有了无中生有的生成图片的能力，随着技术的进步，深度伪造技术已经发展为包括视频伪造、声音伪造、基于文本生成视频、换脸以及微表情合成等多模态音视频欺骗技术。
下图展示其中部分，包括但不限于给定正脸生成侧脸、给定文字生成图片、多角度换脸等；



Faceid-GAN - CVPR 2018



Stack GAN - ICCV 2017



CageNet - ICCV 2017

经过一系列研究，我们惊恐的发现在互联网上伪造一个人变得异常简单，只需要用AI换头拟声加表情，人人都可以变成吴彦祖。于是又回到了问题：在元宇宙世界中，我要怎么证明我是「我」？


事实上，这些技术只需要你一张照片、一段语音就能伪造出一位虚拟身份的网络用户，目前的技术水平已经达到肉眼无法识别的地步，而人类的认识水平还处于「视频是不会被PS」的阶段，认知上的巨大鸿沟决定着其中存在着海量潜在的危害。



假作真时真亦假

只有魔法才能打败魔法。庆兴地是，阿里巴巴等技术企业正在积极探索可用、可靠、可信的新一代人工智能技术，让AI帮助发现和防范AI系统可能存在的风险，在人和AI之间增加一道技术护盾，更有助于AI技术可持续发展与创新。例如在伪造音频检测 (Fake voice detection)中，通过AI找到伪造的声音和真实声音的差距来区分它们。





ACM MM2020 - DeepSonar

我始终秉持着这样的观点：技术是在对抗中螺旋上升的，伪造和检测伪造技术也如此。起初，拙劣的P图技巧仅凭肉眼即可识别，扭曲的门框和地板成为新手P图用户最常见的细节失误；随后，字迹伪造、证书P图等事件则需要专业人士的鉴定才能判断真伪，鉴伪逐渐成为一项专业技能；如今，高端的伪造技术如DeepFake则可以欺骗所有肉眼，实现真假难辨的效果，检测这些伪造技术成为科技最前沿的挑战之一。
元宇宙的世界将会是个更加开放、更加未知的世界，相应的危险也会更多。例如，元宇宙世界的个人隐私如何保护？当我们将整个活动全部暴露在元宇宙世界时，产生的数据到底是企业的私有物品，抑或是个人隐私数据还尚有异议；在VR等设备采集我们动作信息、身体信息和环境信息时，该如何界定其中的安全性？我们该如何行动才能证明我是「我」，保证个人身份的唯一性呢？
为了研究论证这些潜在问题，学术界也在激烈讨论如何确定数据要素所有权、如何界定和保护用户隐私；在这几年的立法过程中着重强调，《个人信息保护法》、《数据安全法》的落地也给这些问题带来了讨论的法理依据；中国信息通信研究院安全研究所组织召开元宇宙安全研讨会，跟踪掌握元宇宙技术发展情况，深入研究元宇宙核心技术特点，及时发现和预测风险点，结合现有的安全防护和治理工作基础，有序推进元宇宙安全生态建设。
3月6日，阿里安全技术专家、白帽黑客大佬、游族CTO一起参与的一场圆桌论坛的直播视频，围绕元宇宙的热议话题，行业的机遇与挑战，普通人会面临的安全风险问题等展开了激烈的讨论，具体内容如下：

阿里巴巴关于元宇宙安全问题讨论
https://www.zhihu.com/video/1484913882833178624
技术的发展离不开群众的关注与讨论，元宇宙作为一项尚未成熟的新鲜事物，需要各方共同参与构建其真正的生态，也希望能激发更多形式的讨论。只有国家层面（如信通院）、企业层面（如阿里巴巴等）以及个人层面（开发者、使用者）的相互配合，才能让科技生态迸发更有创造力的成果。

維健_廣律

我觉得最重要的是授权问题，能否让每一个人都公平地获得“拥有互联网最底层框架权限”的资格，才能有效证明我是“我”。
其实现在很多人觉得互联网是一种自由开放世界，都属于严重误解。如果按照之前包括张捷等人的说法，目前互联网的最底层框架依然是由美国等国家所把持，而其他国家想要彻底“自由”的难度非常高。
你看，最近乌克兰问题爆发之后，出现一种要没收俄罗斯那边加密货币的消息，其实就是等同于暴露了加密货币一点儿都不保密。
在这种情况下，无论元宇宙吹得怎么天花乱坠，“安全性”都不可能有绝对保障。
只要这个安全无保障，后果就是即便我们看起来能够为自己设定独一无二的数据认证，什么区块链加密之类的，但不能避免最底层的框架上，我们可以随意被“复制”。
这其实也算细思极恐的事情，就像《逃出克隆岛》的剧情一样。


当然，这个问题相信未来还是有希望解决的，每个人如果都可以拥有最底层权限的话，那么我们就有把握让自己的数据信息真正独一无二。
只希望这一天不要太远吧。

自在山高

谢邀。这个问题，一部分是技术问题，但更大的部分是治理问题。
在元宇宙世界中证明我是「我」，这是个数字身份问题。然而，我认为在网络世界中的数字身份，不仅仅是技术问题，也是个治理问题。
技术部分

最近很火的NFT（Non-Fungible Token，非同质化代币）就可以实现认证和防伪。你创建的虚拟角色，即使有100个长得一模一样的，但NFT 在数字世界里是独一无二的，没有两个相同的 NFT，即使别人复制你的角色模型重新创建，只要验证你的NFT信息，就能确定是不是你。
或者是 @marsggbo 提到的Decentralized Identifiers (DIDs) ，也是一种通过区块链进行数字身份认证的技术，这里就不具体讲了，感兴趣的看看他的回答。
至于用AI来欺骗与反诈，其实并不能作为数字身份认证的主要手段（但可以辅助认证）。毕竟AI具有容易欺骗的特性，例如通过生产对抗样本，就能欺骗过一些模型。例如AI安全领域的这个经典案例，通过增加「扰动」，就能让AI把熊猫误认成长臂猿。


治理部分

其实这里有三个问题。

• 不同的元宇宙之间怎么互相认证。例如不同国家之间的认证是通过护照，当你在某个国家生活，你会把你的护照对应上当地的身份证。元宇宙之间可以通过同一套认证协议，来进行互相认证。但如果这个国家是不存在的国家呢？如果有一个新的元宇宙，不愿意加入这套协议，那么就很难进行身份认证。
  
• 人们想不想被治理？毕竟如果元宇宙和现实社会太接近，人们就没有进入元宇宙的动力。我们必须想清楚一个问题，人们进入元宇宙，是为了逃避现实，还是扩展现实？人们真的想被知道我就是「我」吗？
  
• 别人在元宇宙看到我，能否证明这就是现实世界的我操控的。通过人脸识别，指纹识别等等，我们可以大概率的保证登入元宇宙的是现实世界的我，但又回到那个问题，我们真的想把现实世界和元宇宙融合得那么紧密吗？
  

总结一下。在单个元宇宙里，证明我是「我」，可以通过区块链技术实现。但在多个元宇宙里（数量无上限）证明我是「我」，则不是仅凭技术能接近的。