上海书展举办之际,出版传媒专家热议用权威出版消除“算法黑箱”带来的“AI幻觉”

新民晚报讯(记者 孙云)正值上海书展举办之际,聚焦“人工智能与未来出版”主题的2024开明出版传媒上海论坛于8月16日在沪举行。论坛由民进中央主办,民进中央出版和传媒委员会以及民进上海市委会承办。全国人大常委会副委员长、民进中央主席蔡达峰出席开幕式并讲话。
上海书展举办之际,出版传媒专家热议用权威出版消除“算法黑箱”带来的“AI幻觉”-有驾
图说:全国人大常委会副委员长、民进中央主席蔡达峰出席开幕式。民进上海市委会供图(下同)
中国民主促进会于1945年在上海成立。教育文化出版传媒是民进的主界别,民进承担着重点联系出版传媒界的独特任务。早在新民主主义革命时期,以马叙伦、王绍鏊为代表的民进创始人,投身爱国民主运动,创办报刊,发表文章,传播真理,针砭时弊,为开创我国出版事业发挥了重要作用,为民进的发起成立集聚了进步力量、奠定了界别特色。
人工智能技术迅猛发展,对出版业带来了许多变革和挑战,也带来了新的机遇。在论坛中,参与研讨的业内人士和专家都对出版业的前景以及加快培育形成出版传媒业新质生产力保持充分信心。
中信出版集团党委书记、董事长陈炜认为,活字印刷揭开了近现代出版业的帷幕,1455年古腾堡印刷术的诞生使得印刷成本被大大降低,效率得以倍增,在随后数十年时间内,技术的普及使得数万种、超过千万册的出版物得以被印制出来,有力推动了文化知识的传播和普及,为文艺复兴和科学革命奠定了基础。当前,人工智能也将成为出版业新的“古腾堡时刻”。现在,在出版工艺流程中,很多岗位已被人工智能所优化,文生图、图生文、文生视频等令人眼花缭乱,但是,人作为知识生产过程中的核心要素是机器无法替代的,只要高质量的知识是被社会、被人类所需要的,出版工作就永远有意义,出版工作者们的专业知识也将始终是高质量内容的一把筛子。
上海书展举办之际,出版传媒专家热议用权威出版消除“算法黑箱”带来的“AI幻觉”-有驾
图说:2024开明出版传媒上海论坛在沪举行。
与会人士在看到人工智能的巨大前景的同时,也对生成式革命背后的影响和风险有清晰的认知。陈炜就指出,人工智能经常存在“一本正经的胡说八道”,这就是算法黑箱带来的AI幻觉。当前主流的生成式人工智能应用虽然拥有强大的自然语言处理能力,但其实还不完全具备验证生成内容准确性的能力,仍然需要进行不断调整和修正。在这样的情境下,出版人恰好可以通过出版来传递权威的知识产品,对抗AI幻觉,实现AI的有效治理。同时,出版也可以通过生产多元化、高质量的内容,为读者用户提供突破性的知识,改变算法依赖导致的知识局限以及信息爆炸背后的知识泡沫。
民进中央出版和传媒委员会委员、同方知网数字出版技术股份有限公司总经理张宏伟则畅想,出版的未来形态可能会从当下的书刊转变为大模型,以及为大模型去出版数据。近两年来,知网就和华为联合创办了人工智能实验室,打造了中华知识大模型,同时,针对业界对人工智能生成内容泛滥的担忧,知网还开发了一款检测系统,可以识别几乎市面上所有常见的大模型生成内容,这一系统已经在商用过程中产生了不错的收益。
0

全部评论 (0)

暂无评论