真假难辨/AI“狂飙时代” 注重信息安全

　　今年全国两会，全国人大代表、南昌大学元宇宙研究院院长闵卫东提出加快研究数字技术防范人工智能风险的相关建议。他表示，不论是ChatGPT还是最新出现的人工智能模型Sora，都是大模型以及生成式人工智能的飞跃发展。

　　如今，人工智能开始走向大规模应用，在为人们的工作生活带来便利的同时，也应关注AI“狂飙时代”潜在的虚假信息风险。

　　“就像十几年前，我们无法肉眼识别经过PS的照片，但利用防伪鉴别算法，人们可以用计算机对照片进行识别，从而鉴定出一张照片是否‘原生态’。”闵卫东表示，目前部分生成式人工智能的内容尚无法用肉眼识别是虚拟还是现实。因此，在数字技术层面，相关的研究需聚焦于如何防范“真假”相应的风险。

　　对此，香港大学新兴技术研究所所长席宁也对大公报表示，在享受生成式人工智能新技术发展带来便利的同时，不可避免地要迎接伴随而生的挑战。

　　所谓有一“矛”必有一“盾”，对此需要创新安全技术来应对，确保人工智能技术在新闻生产领域能够得以安全运用。