真真假假假假真真 AI年代目睹未必为实

发布时间：2025-05-23　点此：1099次

【CNMO科技】自古以来人们都喜爱说“目睹为实，耳听为虚”，可是在AI年代真真假假假假真真，或许目睹、耳听皆为虚妄。

前段时间，在抖音等短视频平台上，各种猫狗会说话、人在空中飞、动物忽然变身为人开端跳舞等视频十分火爆，招引了许多网友的重视。乃至一些不明所以的网友，还认为这便是真的开端考虑究竟是怎样做到的。可是深层次去探求，其实这类视频都是AI所创造出来的，凭借着新鲜感和猎奇心思等招引着一大批受众。

在上一年国庆假日期间，短视频平台上呈现了很多以小米公司董事长雷军名义宣布的尖锐言辞视频，流量颇高，其范畴更是覆盖了堵车、假日、调休、游戏等热门话题，让不少网友一时分不清究竟是不是雷军自己说的。在本年两会期间，雷军针对当时人工智能深度组成技能中“AI换脸拟声”的乱用现象，表明AI换脸拟声不妥乱用成为了违法侵权行为的重灾区，易引发侵略肖像权、侵略公民个人信息以及欺诈等犯罪行为，不利于构建“以人为本、智能向善”的人工智能开展生态。

尤其是在近两年时间里，大言语模型、文生图大模型等蓬勃开展，AI所生成的内容现已充满了咱们日子的方方面面，其利害也很难被精细化衡量。哪怕是现在的学生和教师，也都在凭借AI来完结教育，便利性显而易见。而隐忧便是大学生的论文AI滋味或许会越来越浓，曾经在拼命下降查重率，而未来或许就要拼命去下降AI率了。而在视频方面，AI制造视频必定程度上下降了视频制造的门槛，但引来的问题便是乱用，跟着AI的前进现已有了能够以假乱真的才能。

面对此现状，国家层面也开端出手了。3月19日，央视新闻报道，人工智能生成组成内容标识方法来了，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部分联合发布《人工智能生成组成内容标识方法》，将于本年9月1日起正式施行。据介绍，《标识方法》首要从立法层面提出办理要求，清晰生成组成内容制造传达各主体的职责责任，为促进人工智能技能立异开展，对详细施行操作不做要求。

AI生成内容要亮明身份。“标识方法”提出强制增加显式和隐式标识等标准要求，全部AI生成的文字、图片、视频等内容，都要“亮明身份”。专家介绍，凭借AI生成的文字内容触及仿照或人的言语表达、仿照媒体进行新闻发布，或许仿照政府部分发布相关公告等，都必须进行显式标识。咱们也等待后续方针出台后AI职业的乱象得到整治。

而在此之前，其实手机厂商们也都在活跃尽力开展AI的一起去协助用户去区分真伪。以荣耀为例，在MagicOS 9.0上推出了AI换脸检测功用，经过端侧AI才能，该技能可自主辨认用户视频通话中的画面要素，假如检测到视频内容存在AI换脸，将向用户宣布危险提示。其一是能够完成视频通话时的AI危险，保证视频通话安全，其二是在直播和短视频场景，YOYO也能够直接进行检测是否存在AI换脸状况，能够很好地协助用户辨认危险。在上一年的互联网大会上，荣耀终端AI换脸检测体系，当选网安协会精评的“人工智能立异使用典型事例（2024）”，受到了职业的广泛认可。

在OPPO ColorOS 15的最新晋级傍边，加入了组成语音辨认功用，该功用能够在用户日常手机通话、办公会议的App傍边自动检测对方是否使用了AI组成的语音。假如检测到对方声响疑似组成，手机通话界面就会提示“疑似组成语音”，向用户实时提示危险预警。现在组成语音辨认功用支撑中文普通话、粤语、四川话首要方言的辨认。所以在日后通话进程中，假如不确定对方是不是AI组成的声响，那么ColorOS就能够协助到的咱们进行辨认，能够更好地维护产业和隐私安全。

华为手机这边为了防欺诈则是推出智能欺诈阻拦，自动辨认阻拦欺诈电话和短信，协助用户首先过滤掉欺诈信息；针对仿冒App的欺诈，华为打造纯洁使用商场，严厉检查每款使用软件，从源头上根绝假冒伪劣；针对使用过度讨取权限问题，华为推出安全拜访机制，无需授权全部，使用仅可拜访用户选定的数据，无法拜访其他内容，协助用户筑牢决心安全关。

在小米HyperOS 2中，相同加入了AI反诈功用，能够智能辨认欺诈电话或换脸视频。通话进程中会弹出“危险提示，本次通话或许存在欺诈危险，为防止资金丢失，请慎重判别是否挂断”，相同能够进步用户的心思防范。

写在最终

在这个全部皆有或许的AI年代，AI赋予了千行百业新的增加生机，可是也不断衍生出新的问题，尤其是AI欺诈让许多人猝不及防。而此次国家层面的出手从法规层面将束缚AI的肆意妄为，而手机厂商们的举动则是从端侧协助用户更好地辨别AI欺诈等，来了一次AI与AI之间的对抗战。咱们作为普通人，应该在各种内容或许交际傍边擦亮双眼、双耳，提高自我辨别才能，莫成为AI欺诈的受害者，也不去做施害者。正向使用各类AI东西，提高工作和日子幸福感，才是正确的事儿。

告发/反应