每经评论员 王嘉琦
5 月 24 日,科大讯飞(SZ002230,股价56.57元,市值1314.2亿元)股价午后意外跳水,一度跌超 9%。原因是市场上流传了两篇由生成式 AI 虚构的“小作文”,分别涉及科大讯飞非法获取用户数据和被美国列入实体清单的风险。这两篇“小作文”虽然都被科大讯飞方面否认,但仍然对公司的声誉和股价造成了不良影响。
这一事件再次暴露了 AI 假新闻的危害,以及对其进行有效监管的迫切性。生成式 AI 是一种利用大数据和深度学习技术,根据用户指令自动生成文本、图像、音频等内容的人工智能。它有着广泛的应用场景,比如新闻写作、文案生成、对话系统等。但同时,它也可能被恶意利用,批量生产虚假或有害的信息,误导公众舆论,干扰社会秩序,甚至威胁国家安全。
因此,我们需要对 AI 假新闻进行有效监管,从源头、过程和结果三个层面加强控制。从源头来说,我们需要规范生成式 AI 的开发和使用,确保其符合法律法规和伦理道德,不侵犯他人的合法权益。从过程来说,我们需要建立健全的信息审核和溯源机制,及时发现和删除虚假或有害的内容,追究相关责任主体的法律责任。从结果来说,我们需要提高公众的媒介素养和辨别能力,让他们能够识别和抵制 AI 假新闻,维护自己的知情权和选择权。
科大讯飞闪崩事件给我们敲响了警钟,AI 假新闻不容忽视。我们应该充分利用 AI 的优势,同时防范其风险,建立一个健康有序的信息生态环境。