■丁 毅（编审、高级经济师，武汉大学数字出版研究所客座研究员）
人工智能不是完美的，生成式人工智能在赋能出版发展的同时，也带来了种种风险，正确认知其风险、积极采取应对措施，是正确使用人工智能不可或缺的一部分。然而，风险又是多维度的，时间跨度和作用对象的不同导致风险的性质和大小存在差异。比如内容生成方式变革在短期内即导致的内容安全、版权合法性、出版数据安全等直接风险，新内容生产方式对传统生产方式的重塑所引发的中长期风险，新内容生产方式对出版功能的冲击引发的长期和根本性风险。在正确认知多维度风险的前提下，出版业又该如何一一予以应对？本文对此进行了深度剖析并提出了相应策略。
正如现代技术应用于传统产业所引发的不确定性影响是复杂多变的，生成式人工智能带给出版的不确定性影响也不是单一维度、单一层次的。在发生影响的时间维度上，存在着经济学意义上的短期与长期的区分，显然，随着时间维度的不同，同样一种影响所产生的风险的属性和大小往往不同，因而需要在时间变量维度下，对风险进行正确认知与应对。结合时间变量，在影响作用对象上，不仅有因新技术的应用而在短期内对内容生产造成的直接影响，还有新技术对生产方式的冲击而造成的中长期影响，更有新技术对产业自身功能属性的长远且根本性影响，因而需要结合长期与短期，分析人工智能对内容生产、出版生产方式、出版的功能属性等方面所造成的不同风险。所以，为全面认知风险并提出合理的应对策略，分析人工智能出版应用风险就不能一概而论，不能忽视风险的多维度性，而需要循着新技术在出版业应用逐步展开的路径，基于时间和作用对象维度，对出版业应用生成式人工智能的风险进行多维度分析。
应用生成式人工智能多维风险分析
从短期看，生成式人工智能甫一进入出版领域，新内容生成方式的内在逻辑和运作机理即给出版目标的实现带来了不确定性，这包括可能引发的内容安全问题、版权合法性问题以及数据安全问题，这些问题与新内容生成方式的应用相伴而生，短期内即产生直接的风险。
从中长期看，随着人工智能技术逐步在出版业推广使用，新内容生成方式所具有的高效率、低成本优势将重塑传统内容生产方式，并造成内容生产的大量供给，这将加剧出版业的供给侧竞争，令出版业陷入新的风险，同时，新内容生成方式推广使用到一定程度将必然要求出版的业务流程、岗位设置、组织结构、运营方式、管理机制做出相应变革，传统出版管理模式若不能适时做出调整必将导致管理模式与新生产方式相脱节的巨大风险。
从长远看，随着AIGC成为出版业重要的内容生成方式，一方面，因为AIGC具有自动、高效生成优质内容的功能，AI对部分出版工作技能的替代、出版对AI的技术依赖乃至创新衰退等风险将可能发生；另一方面，优质内容无须经过出版的加工流程即可绕过出版而进入市场，这将造成出版在内容生产与传播价值链中的作用面临逐步弱化的风险。
综上，人工智能随其应用于出版的广度和程度的不同而给出版业带来不同维度的风险，全面认知这些风险、提出相应对策对于规避风险、促进出版业持续发展具有重要价值。
出版业是内容产业，内容是出版工作的起点，因而内容生成方式的变革在短期内即直接给出版目标的实现带来了不确定性，内容安全、版权合法性、出版数据安全等问题伴随新技术的应用而出现。
AI生成内容的内容安全风险及对策建议
使用AI生成内容为出版带来了创新和便利，但同时也伴随着一系列关于内容安全方面的挑战。人工智能作为技术物，天然内化着技术创造者的意识形态、价值偏见与情感取向，再加之受训练数据集的限制，所生成的内容不可避免地具有意识形态属性。作为生成式人工智能代表的ChatGPT，其主要数据来源在美国，西方价值观会大量出现在人机交互的过程中,其生成的内容明显地表现出英语世界尤其是美西方国家的意识形态与价值观念。
AI生成内容依赖数据和算法，但由于数据规模、数据质量、数据本身的问题，以及算法漏洞、算法错误等技术问题，导致一本正经胡说八道的“AI幻觉”现象屡见不鲜。人工智能生成内容就有可能出现以下问题：直接使用西方的人工智能大模型，基于西方语料大模型而生成的内容无疑会存在意识形态问题；AI生成的内容可能基于训练数据中的偏见或错误信息，导致生成的内容含有不准确或误导性的事实；如果AI模型的训练数据集带有偏见，那么生成的内容也可能有诸如性别、种族、宗教等方面的歧视偏见；AI会生成貌似合理，但与输入问题意图不一致，同事实不一致、同常识不一致的内容；等等。以上问题均对内容的公正性和准确性构成威胁，在创作领域大量使用AI生成内容的趋势之下，出版的内容安全风险有越来越严重的可能，这无疑对出版的把关人作用提出了更高的要求。
应对内容安全风险的重点在于制定出版应用AIGC的行为规范，引导出版业规范使用人工智能。人工智能不是完美的，充分发挥其优势，正确认知并遏制其引发的风险是应用人工智能的正确方式。为规避内容生成方式变革所带来的直接风险，确保AI技术在出版流程中的规范应用，迫切需要在全行业范围内制定规范指引，对出版应用AIGC的行为进行规范，这包括：针对AIGC生成内容存在的安全风险，明确对AI生成内容的把关审核主体及其责任，强调“谁出版谁负责”的出版主体责任，强调坚持意识形态把关和内容三审制度；针对版权问题可能导致的风险，强调守法原则，尊重原创作品的版权，加强版权合法性审核，确保AI生成的内容不侵犯他人的著作权；强调公开透明原则，对作品中使用AI创作或辅助创作的情况要求做出公开声明，说明AI在创作过程中的作用；对应用AI进行创作的行为进行合规性的界定，明确界定AIGC在出版的使用范围以及允许事项和禁止事项；针对数据安全风险，强调对AI服务来源正规性、合法性的审核，明确要求使用经过国家网信办备案的大模型，制定实施严格的数据脱敏措施，确保隐私信息不被滥用或泄露。
AI生成内容的著作权风险及对策建议
具备作品外观的人工智能生成内容是否应当受到著作权法的保护是近年来知识产权法学界热议的问题，同时，司法实践中也开始出现相关案例。然而，关于人工智能生成的内容是否是“作品”，是否享有著作权在法律上仍未得以确定。当前的法律框架并未明确将人工智能视为法律上的自然人，也未明确人工智能是否可以被视为拥有著作权的“主体”。从全世界范围看，基于著作权只保护由人类运用其创造力生产的内容的原则，AI生成内容的著作权归属是个悬而未决的问题，在美国就连续发生了多起驳回AI生成作品著作权登记申请的判决。在我国，虽然近期几起有关AI生成内容的法律诉讼做出了有利于AI生成方的判决，但上述判决引发了巨大争议。因而，在人工智能生成内容的著作权归属未有定论之前，出版应用AIGC将始终面临著作权风险。在产业领域，出版机构在是否接受AI生成内容方面的态度则不一致，部分出版机构明确不接受AI写作的稿件，如上海果麦强调著作权的合规审核流程，明确禁止使用AI稿件，但多数出版机构并未特别强调禁止AI稿件，一些出版机构则通过AI生成内容来提高内容产出效率、降低内容产出成本。出版工作以著作权为基础和起点，著作权存在争议的AI生成内容进入出版环节，容易给出版目标的实现带来巨大的不确定性。（完整版请见“编客实验室”微信公众号）