聚热点 juredian

【中创】ChatGPT技术被滥用,安全治理亟需政府、企业共同努力!

眼见为实?耳听为真?当心AI诈骗!

只需要提供一张带脸的照片,就可以置换成明星,拟真度非常高,毫无违和感,一个软件就能直接将杨颖整成迪丽热巴!

只要迪丽热巴的泪痣和嘴?没问题!

随着人工智能的发展,诈骗团伙的诈骗手段也越来越科技化。

一、利用ChatGPT诈骗

近日,绍兴上虞区公安分局对“网络水军”通过组织发布虚假视频获利行为开展收网打击,摧毁一利用ChatGPT制作虚假视频的造谣团伙,该案系浙江首例团伙制作虚假视频案件。

上虞警方在网上巡查时发现用户名为“舷忆解说”的某APP网民发布关于上虞工业园区发生火灾的视频,在短时间内浏览量迅速攀升。对此,警方介入核实,确认视频系不实信息。

5月以来,该公司从网上非法收购一批视频账号,通过ChatGPT技术,拼接制作虚假视频发布网络,博取流量,并通过流量算法返款盈利。

二、安全治理亟需努力

政府:针对AI数字技术犯罪,国家层面相关立法研究正在不断推进。

今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布,为规范AI产业健康发展做出指引。

企业:在政策引导之余,企业加强AI领域协同治理也至关重要。

1、需要加强监管机构能力建设,及时识别出新的违法犯罪手法,并加以打击整治。

2、应持续提升技术创新能力,通过新技术的开发与应用,提升风险隐患的自主监测、识别和防范能力。

3、加强跨部门、跨领域的协同合作,构建起应对新技术、新风险的安全生态系统。

个人:作为普通的经济活动参与者,我们需要时刻小心来自身边的陷阱。

1、要加强个人信息保护意识,不要轻易透露自己的身份证、银行卡、验证码等信息;

2、特别要防范人脸、指纹等生物信息的泄露。

3、当收到不寻常的请求或交流时,需要保持警惕,多渠道核实对方的身份和信息,避免仅凭借单一沟通渠道就转账汇款。

技术本无罪,发挥AI技术赋能新一轮科技革命和产业变革的能力,降低技术“阴暗面”对经济社会发展的影响,还需社会各界共同发力、相向而行。

互联网不是法外之地,请严格遵守相关法律规定,规范个人网上言行,做到 " 不信谣、不传谣、不造谣 ",共同维护网络空间秩序。

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:中创  中创词条  亟需  亟需词条  治理  治理词条  滥用  滥用词条  共同  共同词条  
热议

 杨劲松:you are ever...

齐光伟的回答:我知道 有些事情已经出错,但是我仍想要继续 我想 我可能错了 但我也可能是对的 当我见到你时 世界转得更快了 当我见到你时 天空变得更蓝了 我知道...(展开)