AI生成内容应该如何监管 如何防止虚假信息和不适宜信息的传播?

AI生成内容应该如何监管?

秉持技术中立态度的研究者例如 StabilityAI 会尽量减少对内容的控制和干预。他们认为一个开放和充分讨论的社区将会逐步形成对信息内容传播的监督机制。

“使用者自己需要为如何使用这项技术负责，这包括道德和法律上的合规性。”Stability AI 公司 CEO Emad Mostaque 曾在采访中如此表示。

如何防止虚假信息和不适宜信息的传播?

尽管深度学习所用到的数据库经过了严格的筛选，屏蔽了色情、暴力、恐怖等内容，但有关社会刻板偏见、种族歧视等内容尚无法从技术上完全消除，更重要的是，关于如何界定所谓偏见在伦理学上仍然是一个颇受争议的问题。正因如此，Google 决定在排除相关风险前推迟公开发布 imagen video 模型，而许多已发布的模型选择为其生成作品加上不可去掉的水印来避免潜在争议。

AIGC 革命如火如荼进行中，它不是将来时，而是进行时。我们已经身处其中。

现在就是未来。

关键词： 防止虚假信息 不适宜信息 AI生成内容 信息内容传播 监督机制