夜间模式
发帖 回复
返回列表
  • 754阅读
  • 0回复

[反诈资讯]会做饭的小狗”视频，多少人真的信了？ [复制链接]
扫描到手机

上一主题 下一主题
离线ksbaby2025
级别: 昆山中级市民
发帖
4554
昆币
47993 枚
只看楼主 使用道具 电梯直达
楼主  发表于: 前天 10:19 , 来自:江苏省0==





关于AI的冷思考之三


母亲掉入AI诈骗的陷阱，是胡易辰近期最大的烦恼。


一次偶然的机会，他发现母亲大量网购了一种“包治糖尿病”的保健品，花费了上万元。然而该商品的成分仅是一些简单的中药，甚至没有生产批号和使用说明。


但母亲却坚持认为该药有效，并向他展示了某平台直播间的视频：一位自称行医多年的老中医在实验室里介绍疗效，还有消费者接受采访。



图源：视觉中国


胡易辰看了一眼就察觉不对：视频中“人”的颈部、手部细节经常出现扭曲，语音和口型对不上，“很明显是AI换脸”。


但母亲不以为然，坚持认为“眼见为实”，直到胡易辰带母亲去了正规医院求证，被医生告知该保健品无法根治糖尿病后，才勉强相信。


社交平台截图


“手机不停地给她推荐AI生成的虚假内容。比如，有的AI视频里面，小狗会买菜会做饭，我妈经常发给我，跟我说‘咱们也养一只吧’。”



AI 诈骗，随处可见



相比于AI幻觉，程序开发人员小路认为，AI造假更值得警惕，“它是人为利用AI生成虚假内容甚至欺诈的行为。”


事实上，AI换脸、变声等诈骗事件已经屡见不鲜：直播间里，AI换脸“伪造院士”兜售假大米、智能剪辑炮制抗癌神药“逆天疗效”，算法精准推送“根治高血压”骗局……


2022年至2024年初，中国共发生“AI 换脸”类诈骗案近百起，累计给人民群众造成经济损失高达2亿元。



AI的伪造技术，同样困扰着在人民法院工作的法官张一涵。最近她负责的一起劳动诉讼案件中，劳动者提供的证据就被怀疑“有AI造假的可能”。


“这是一段用人单位管理者的录音，录音内容是关于强制加班并拒绝支付加班费的。但用人单位表示，该管理者并未发表过类似言论，劳动者提供的录音‘是由AI合成的’。”张一涵说。


图源：视觉中国


“这段录音在人听来完全没有任何问题。不仅语音语调正常，也能听出来其中的愤怒、激动等情绪。”张一涵说，“目前的法律法规尚未明确规定 AI 生成证据的性质、效力和认定标准，这使得在判断 AI 伪造证据的合法性时，缺乏明确的法律依据。”


大数据的“温床”


大数据时代，大量数据为AI提供了广泛丰富的学习素材，同样也成为了不法分子利用AI为所欲为的帮凶。


在执业律师杨鑫看来，AI之所以被人用来“偷”和“骗”，源自目前互联网个人隐私信息保护的诸多漏洞。“大数据时代，我们每个人的信息都或多或少地暴露在互联网上。”


比如，一张居家照片，可能暴露居住的小区、楼层；一段旅行照片，就能透露出航班信息或者车次信息，甚至是下榻酒店；一段语音，就可以被当作学习的材料，从而被轻而易举地模仿……


“AI的强大在于，能够快速处理和分析大量数据。”小路介绍道，不止如此，AI还可以建立‘用户画像’，预测他们可能感兴趣的诈骗类型和容易上当受骗的场景。例如，对于喜欢投资的用户，诈骗分子可能会利用 AI 生成虚假的投资平台和诱人的投资回报信息，吸引他们投入资金。


从社交媒体到电商网站，从智能手机到智能居家设备，“几乎所有与人们生活相关的数字产品和服务，都在收集个人数据，包括基本信息、地理位置、浏览记录，消费习惯……对此，用户很难察觉，也难以制止。


而在AI快速发展的时代，数据共享和流转形式也越来越复杂。


据国内一家互联网公司大数据中心业务内容负责人张洋介绍，企业间的数据共享非常频繁。广告商、电商平台和数据服务提供商之间会共享用户数据，以实现精准广告投放和个性化推荐功能。


“企业间的数据共享往往缺乏有效的监管和规范，用户数据不断流转，增加了隐私泄露的风险。”杨鑫说。


而据法官张一涵介绍，AI伪造的图像和声音在细节上与真实内容难以区分，现有的检测技术可能存在较高的误判率和漏判率。“不仅针对AI换脸、变声的法律法规少，侵权认定、责任追究不够具体，在法律适用层面也有争议。不同法律之间的衔接、协调可能导致法律适用存在不确定性。”
AI 时代，如何保护自己

胡易辰现在要求母亲把看到的视频都给自己“审查”一遍，由他来判定真假，但他自己也清楚，这不是长久之计。


针对AI引发的种种问题，几位受访者都认为，目前对AI的相关约束还不够。




律师杨鑫认为，构建AI应用的法律体系，应当成为制度保障。“这是一个复杂的问题，但我认为应该在现有法律制度基础上搭建针对 AI 处理信息的合理范围、相关主体的法律责任和义务、增加对AI制造传播虚假信息的处罚、定罪、量刑等相应针对性条款。”


除了制度保障外，对于参与者的约束同样重要。


“对于企业和平台，也需要构建奖惩机制。”某平台负责人张洋表示，在技术开发和应用推广方面注重个人信息保护的企业，应当给予政策支持和奖励，对于违规企业设立严厉的处罚措施。


不过，网络信息平台面临着技术能力、投入成本方面的诸多限制。对于平台而言，如何既保障其合法权益，又确保其履行监管责任，张洋认为目前还没有“两全”的办法。“平台是否应当承担事先审查的义务？在什么样的情况下需要对内容进行下架处理？需要有一套标准参照。”


法官张一涵认为，在涉及AI换脸变声的网络侵权案件时，不同部门也应当建立起一套畅通的协调机制，不再是各自为政，而是密切合作，以解决信息共享不及时、工作衔接不到位的问题。


除了对AI的约束，AI时代到来，人们对待个人信息的态度和方式也要扭转。以往“随拍随写随发”的个人信息发布模式，需要多一份谨慎。



图源：视觉中国


杨鑫说，大数据时代，每个人都要提高对个人信息的保护意识。使用互联网产品和服务的时候，“绷紧一根弦”，不轻易相信来源不明的消息。在社交媒体平台上，避免透露个人的生活细节、行踪信息等等，拒绝APP不必要的数据收集请求，定期查看和删除不再需要或者可能存在风险的数据。


开发者小路认为，AI技术同样引发了一系列的道德问题。如何在技术发展和道德约束之间找到平衡，全社会还没有形成广泛的共识。“怎样界定技术滥用行为的道德边界？不同的人有不同的看法，我们需要一个平台，公开广泛地讨论。”
来源：央视网

热点推荐

爆料有奖！关注昆山论坛抖音号，抖音搜索“昆山论坛”，或搜索抖音号：ksbbs
 
回复
举报
发帖 回复
返回列表
快速回复
限76 字节
如果您提交过一次失败了，可以用”恢复数据”来恢复帖子内容
 
上一个 下一个