6月13日消息，知名科学杂志《自然》宣布，将不会刊登使用生成式人工智能工具创作的任何图像或视频。随着这类工具在科学和艺术领域越来越流行，该杂志担忧其对科研诚信、知情同意、隐私和知识产权保护产生影响。
《自然》成立于1869年11月，专门发表来自不同学科的同行评议研究成果，主要集中于在科学和技术领域。它是世界上被引用最多、最具影响力的科学期刊之一。
(相关资料图)
《自然》表示，由于ChatGPT和Midjourney等生成式人工智能工具的日益普及以及能力不断提升，经过数月的激烈讨论和磋商，该杂志最近决定禁止发布人工智能生成的内容。该杂志称：“除了专门讨论人工智能的文章，《自然》将不会出版人工智能生成的任何图片、视频或插图等内容。”
该杂志认为，论文刊登要符合诚信和透明度的道德准则，其中包括能够在图像中标注数据来源。
“为什么我们要禁止使用生成式人工智能来制作视觉内容呢？归根结底，这是一个诚信问题。无论是科学还是艺术，出版过程都基于对诚信的共同承诺，这包括透明度。作为研究人员、编辑和出版商，我们都需要知道数据和图像的来源，以便验证它们的准确性和真实性。但现有的生成性人工智能工具无法提供数据来源的信息，因此无法进行此类验证。”
因此，《自然》杂志称，艺术家、电影制作人、插画家和摄影师等“都将被要求确认他们提交的作品并非由生成性人工智能工具生成或增强”。
《自然》杂志还提到，标注参考文献是科学的核心原则，但这也是“道德使用”生成式人工智能艺术作品的另一个障碍。由于人工智能生成的图像通常是从数百万张图像中合成的，因此标注出处存在困难。
这也涉及到知情同意和授权的问题，特别是涉及个人身份识别或知识产权的问题。在这方面，《自然》杂志也指出，生产式人工智能仍存在缺陷，它们通常在没有获得必要许可的情况下使用受版权保护的作品进行训练。此外还有虚假信息的问题，尤其是Deepfake技术加速了虚假信息的传播。
当然，《自然》并不是完全反对使用人工智能工具。该杂志仍将允许收录使用ChatGPT等辅助生成的文本，但必须附带适当的提醒。这些大语言模型(LLM)工具的使用必须在论文的方法或致谢部分有明确说明。此外，作者也必须提供所有数据来源，即使是在人工智能协助下生成的数据。另外，《自然》杂志坚定地表示，任何LLM工具都不会被认可为研究论文的作者。
虽然有些出版物偶尔会出于编辑目的，使用带有明确标记的人工智能生成艺术品，但要以明显、非欺骗性的方式为作品服务，而《自然》杂志认为，作为权威科学期刊，需要非常谨慎地解释和遵守法律和伦理AI政策，不能留下模糊空间。
《自然》杂志写道：“许多国家的监管和法律体系仍在制定应对生成式人工智能兴起的策略。在他们迎头赶上来之前，作为研究和创意作品的出版商，《自然》杂志的立场仍是拒绝收录使用生成式人工智能创作的视觉内容。”
然而，随着生成式人工智能不断深入地融入到Photoshop等传统图像编辑工具中，像《自然》这样的出版物可能会发现，很难在人工智能生成艺术和非人工智能艺术之间划清界限。就在最近，Adobe在Photoshop的测试版中引入了生成式人工智能工具，由其Adobe Firefly引擎提供支持。在此之前的几十年里，Adobe始终在使用人工智能算法为其许多内置工具提供动力。
一旦法律系统解决了抓取数据训练AI模型的潜在问题，在使用视觉作品的道德问题上，最重要的因素可能不再是AI技术的具体实现方式，而是艺术家或作者的意图。在这种情况下，《自然》的人工智能政策显得非常灵活，可以在未来进行调整：“我们预计，在不久的将来，这个领域会迅速取得进展，因此我们将定期审查这一政策，并在必要时进行调整。”（小小）
