V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
lx271896700
V2EX  ›  随想

如何识别 AI 视频诈骗?

  •  
  •   lx271896700 · 310 天前 · 2584 次点击
    这是一个创建于 310 天前的主题,其中的信息可能已经有所发展或是发生改变。

    据说现在 AI 不仅可以模拟人声,还可以模拟视频。如果视频聊天都可能是假的,如何才能确保微信那头是真人呢?

    38 条回复    2023-06-01 23:17:43 +08:00
    LaurelHarmon
        1
    LaurelHarmon  
       310 天前
    且不说没有端到端的工具链,就算有了,直接模拟一个素人,数据数量和质量也是一个难题;就凭现在的破烂技术,只要敢实时视频聊天,秒秒钟分辨出来。
    xuelu520
        2
    xuelu520  
       310 天前
    涉及到钱的,打电话二次确认
    gpt5
        3
    gpt5  
       310 天前
    基本上如果你有这个警惕性的话,就不太容易上当了。一个骗局从头到尾漏洞很多的。
    freshgoose
        4
    freshgoose  
       310 天前   ❤️ 1
    没有,唯一的办法,就是不要当天转账,再急的事,也得过几天再次确认后,才能转。
    beimenjun
        5
    beimenjun  
       310 天前
    或者放弃这种自行认证的想法,说来说去这类欺诈里,欺诈者的目标是钱,而钱主要是靠交易平台流通。

    让对方用自己账户转一笔钱过来,然后根据转账的账户名字等信息,只有完全匹配对方身份才能认为是对应的人。
    xuanjiangsara
        6
    xuanjiangsara  
       310 天前 via iPhone
    你让他按你要求做全身动作。
    dada88xyxy
        7
    dada88xyxy  
       310 天前   ❤️ 1
    在音视频都不可信的情况下,以后或许要给父母一个密保问题了。可以告诉父母,万一微信自己找他们要钱,让他们问一些只有你们自己才知道的细节,比如:



    “ 儿子,你小时候我经常用衣架打你还是拖鞋打你? ”



    这个问题最好也有陷阱,正确回答应该是 “ 你用扫把打我 ” 。
    Alfie007
        8
    Alfie007  
       310 天前 via iPhone   ❤️ 1
    从侧面验证就 OK 了
    leaveeel
        9
    leaveeel  
       310 天前   ❤️ 3
    微信借钱支付宝转,支付宝借钱微信转
    lx271896700
        10
    lx271896700  
    OP
       310 天前
    @xuanjiangsara 这个 AI 换脸技术应该可以做到
    lx271896700
        11
    lx271896700  
    OP
       310 天前
    @leaveeel 这个巧妙
    Muniesa
        12
    Muniesa  
       310 天前 via Android   ❤️ 3
    小众方言自带验证
    xbchaonba
        13
    xbchaonba  
       310 天前
    那个新闻看了,感觉就是他朋友合伙骗的;换脸不说就盗微信感觉就不太可能
    hhjswf
        14
    hhjswf  
       310 天前 via Android
    先说怎么盗号吧
    coderluan
        15
    coderluan  
       310 天前
    目前这个还是有一定成本的,不可能大规模随机用到路人身上。不过已经开始应用到一些信息公开又一定社会地位和经济能力的人身上了,不过一般是合成视频勒索对方。扮演对方诈骗周围的人的前提是盗号,也不容易了。
    jifengg
        16
    jifengg  
       310 天前   ❤️ 1
    在当前 AI 视频的局限下,假设你怀疑目前和你视频的不是真人,让 ta 拿一面镜子,让本人和镜子里的脸同时被你看到,应该大概率能破解。
    AI 继续升级的话可能就不行了。
    centralpark
        17
    centralpark  
       310 天前
    除了少泄漏自己的隐私,别无他法。另外,这种东西防不胜防的,不比因噎废食
    smartwusir007
        18
    smartwusir007  
       310 天前
    刚看到个新闻,一个老板 10 分钟被 AI 冒充熟人以过账为由骗了 430 万,不过最后追回来了 300 多万。感觉保险点视频时就问对方一些共同的记忆吧,毕竟 ai 没有记忆
    GTim
        19
    GTim  
       310 天前
    @xbchaonba 那个视频,这么说吧,第一,要么就是他朋友,否则就是假新闻

    1. 如果是微信号被盗,新手机登陆是需要验证码或者好友验证的。 打电话给他朋友的时候,他朋友的微信有没有退出没说。

    2. 过桥,是公对公的,他说转给了他朋友的银行卡。公对公哪来的朋友的银行卡啊。公对公这么大的额度,是需要 U 盾的,不然就是日常都是这个流水,否则银行那边是过不去的。
    Pactzhao
        20
    Pactzhao  
       310 天前 via iPhone
    @smartwusir007 你好像搞错了 这是一个真人去跟受骗者视频通话的 只是这个真人用了 AI 改变了容貌和声音 而不是 AI 直接去诈骗
    leiletter
        21
    leiletter  
       310 天前
    我也没看懂那个平安包头公众号的新闻,感觉是在扯淡。微信视频通话借钱,郭先生打过钱之后给朋友发消息确认,朋友回复?,这才发现被骗。不明白朋友的微信没有被盗郭先生是怎么收到的视频通话,如果朋友的微信被盗了为什么打完钱后发消息又是正主回复的?难道微信视频被劫持了?
    @smartwusir007 #18
    @GTim #19
    @Pactzhao #20
    lx271896700
        22
    lx271896700  
    OP
       310 天前
    @xbchaonba 有道理
    lx271896700
        23
    lx271896700  
    OP
       310 天前
    @Muniesa 这个雀食
    lx271896700
        24
    lx271896700  
    OP
       310 天前
    @leiletter 可能中间一段时间被盗号者登录了,也有可能是朋友假装被盗号。
    lx271896700
        25
    lx271896700  
    OP
       310 天前
    @jifengg 👍🏻
    bjzhush
        26
    bjzhush  
       310 天前
    多因素验证,
    比如微信借钱的,打电话再确认下,
    时间长了没联系的,随便聊聊天聊聊过去的事确认下,
    转账账号必须为本人账户,不能张三问你借钱结果让你转李四卡上
    leiletter
        27
    leiletter  
       310 天前
    @lx271896700 #24 如果是这样的话我觉得微信的漏洞相比于 AI 换脸和拟声更大
    jameskongawork
        28
    jameskongawork  
       310 天前   ❤️ 1
    第一,你愿意不愿借?愿意借大额都不能见一面吗?
    AI 能模拟视频,能让真人出现吗?
    imicksoft
        29
    imicksoft  
       310 天前
    小钱无所谓,大钱的话就麻烦一点,让对方打开电视,以实时电视为背景多换几次中央台就行了
    imicksoft
        30
    imicksoft  
       310 天前
    之前不是说 AI 生成手容易出错多出手指头到,那就视频通话,那对方比划手指,用手指比划要借多少钱
    oIMOo
        31
    oIMOo  
       310 天前
    保密问题,比如提问:我们的纪念日是什么时候,回答:核心价值观一共 24 个字。这种牛头不对马嘴的语料,一般机器学不到。
    luckykong
        32
    luckykong  
       310 天前 via iPhone
    微信换手机登陆麻烦的要死,搞不好就是主动被骗,或者安装了什么奇怪的 app ,模拟了微信的界面和视频而已
    sakujo
        33
    sakujo  
       310 天前
    都转银行卡就完了 银行的风控是最完善的了
    Chad0000
        34
    Chad0000  
       309 天前 via iPhone   ❤️ 1
    这个简单,故意说错一个双方都知道的事情。如果对方没有反应就是有问题。

    比如你们好久没有一起吃饭了,你就说昨天我们一起吃饭的时候你怎么没提?
    lchynn
        35
    lchynn  
       309 天前
    1 ) A 要求 B 向 C 名称下的账户转账 1000000
    2 ) B 无法在线确认 A 身份。 要求 A 用自己姓名的银行卡转账 1 元到 B 的账户, 然后 B 再把这 1 元转给 A 姓名下的银行卡。
    3 ) 如果第二步正常, 说明 A 掌握了 显示 A 的银行卡账户。无论是骗来的,还是歹徒绑架拷问的,对 B 来说,A=现实的 A
    lx271896700
        36
    lx271896700  
    OP
       309 天前
    sakura6264
        37
    sakura6264  
       308 天前
    记得技术上检测 deepfake 可以通过检测人面部微小毛细血管的规律振动来检测,deepfake 的视频没有这种振动。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1570 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 17:00 · PVG 01:00 · LAX 10:00 · JFK 13:00
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.