作为可以批量化产出内容的技术，随着元宇宙Metaverse概念的升温，AI技术最近又在科技界和游戏行业成为了热门话题。
随着机器学习技术的提升，AI不仅可以写文章、写代码、甚至还更懂如何撩妹。不过，该技术最近也遇到了一些比较棘手的问题，虽然可以从庞大的数据库学习全方位的内容，但由于缺乏人类思考而生成了儿童低俗内容，一款AI文字冒险游戏遭到了人们的质疑和玩家的反对。
这就是美国初创公司Latitude此前发布的《AI地下城（AI Dungeon）》。
与AI一起写故事：《AI地下城》到底是啥？
在2019年12月的时候，犹他州初创公司发布了一个具有开拓性的在线游戏《AI地下城》，展示了一种新形式的人机协作方式。该公司使用来自人工智能技术公司OpenAI的文字生成技术，让玩家创造类似《龙与地下城》式的定制化冒险游戏。
《AI与地下城》是一个比较特别的游戏，它需要玩家一直联网，但创造的内容大多数都是单机冒险体验，在游戏过程中，玩家们还可以公开分享自己的文字游戏过程。你可以学则到不同的世界冒险，也可以选择多人游戏。
每个世界都有着不同的特点、设定和背景故事，其中一些世界为免费体验，还有些世界则需要玩家付费才能参与冒险。
比如笔者选择的Winterbloom就是个梦境版的童话世界，人们用漂亮的灯和蜡烛装扮自己的家，每个人都与他们的好友及家人玩游戏。
不过，除了世界选择界面出现的图片之外，玩家们进入游戏之后面对的就是纯文字内容。
首先是选择角色，包括名字、性别、种族、出生地等大量细节内容。开始游戏之后，玩家输入单词或者句子以表达自己将要进行的动作或者讲述想让角色想说的话。
AI随后会根据玩家输入的内容，自动随机展开个性化的冒险。所以从操作来说，只要会打字就可以玩这款游戏，但对于追求视觉表现的用户而言，《AI地下城》的吸引力或许没有那么大。
不过，对于喜欢剧情和角色冒险故事的玩家们来说，你几乎可以在这款游戏里体验到没有上限的故事数量，甚至还可以根据自己的想象，与AI一起写小说。
AI也讲“荤段子”：玩家故事出现儿童低俗内容
OpenAI在2019年的时候将其文本生成技术开源，在程序员通过它产出流畅的笑话和代码之后，该技术迅速引起了科技界的关注。
去年暑期，OpenAI给了Latitude工作室一个更强大的商业版本（GPT-3），并且将《AI地下城》作为GPT-3写作算法技术创意和商业潜力的典型案例。OpenAI表示该服务将会增强企业和初创公司的能力，并向OpenAI母公司微软授予基础算法的独家许可。不过，测试者们发现，该技术可能生成令人厌恶的结果，比如反犹太言论和极端主义宣传。
一个新的监控系统显示，一些玩家输入的单词导致游戏产出一些和儿童相关的低俗内容，OpenAI公司要求Latitude立即对此作出反应，并表示该公司将仔细审查客户以剔除不良行为者，还要求大多数客户（不包括Latitude）使用其打造的过滤器来防止亵渎、仇恨言论或低俗内容。OpenAI公司CEO Sam Altman在声明中提到，“内容审核决策某些情况下是很难的，但这类内容坚决不允许，这不是我们希望AI未来要做的事情”。
2019年12月，也就是该游戏使用早期开源版的当月，该游戏获得了10万玩家数。一些人很快发现它可以产生非常流畅的性内容，其他人则抱怨在不必要的情况下生成了性主题相关内容，例如，当他们试图骑龙旅行的时候，冒险过程发生了意外的转折。
Latitude联合创始人Nick Walton在官方Reddit社区承认了这个问题，她说，有几个玩家给出的例子让他们感到“非常不舒服”，并补充表示，该公司正在研发过滤技术。从这款游戏的最初发布开始，玩家们也注意到，并且在网上发帖提醒，该游戏有时候会把孩子们写到低俗场景内。
上周，Latitude增加了一个新的审核系统，并且引发了用户的抵制。一些人抱怨称该系统过于敏感，甚至输入“8岁的笔记本电脑”都会触发警告信息。还有人表示，该公司想要人工审核内容的计划将不必要的窥探一些露骨但只用于成年人的私人虚拟创作，这在《AI地下城》玩家中间很流行。
简而言之，Latitude试图将人与算法结合起来，监管由人和算法产生的内容，但结果并不理想，该游戏在Google Play的评分快速降到了2.8。在海外社交媒体和《AI地下城》的官方Reddit以及Disord社区，也很快出现了大量愤怒的评论和取消订阅言论。
一位名叫Mimi的玩家称，“社区觉得被Latitude背叛了，因为该公司将扫描和手动阅读隐私内容”，他表示，在AI的帮助下，自己写了大概100多万字，包括诗歌、《暮光之城》恶搞版和低俗冒险小说。
Mimi和其他不安的玩家表示，他们理解该公司想要管控公开内容的需要，但实际的做法有点过头，侵犯了玩家的隐私，“它让我看到了从未意识到的问题”。
Latitude一名发言人表示，该公司的过滤系统和政策已经做了调整，员工曾封禁过一些用《AI地下城》生成儿童低俗内容的玩家，但接到OpenAI最近的警告之后，该公司正在考虑“必要的改变”。Latitude上周发布了一个博客，公开向玩家表示，游戏会“继续支持NSFW（不适合上班阅览）的内容，包括合适的成人内容、暴力与脏话”。
只学习不思考：AI生成内容控制成最大难点
对于技术公司来说，阻止AI系统创作一些低俗和成人内容，同时又要允许一些（成年）人这么做，会变的很困难。OpenAI的技术可以创造很多类型的文本，因为它是基于机器学习算法打造的，已经消化了从网上抓取的数亿单词，包括一些不适合未成年人的内容。该软件能够进行非常逼真的模仿，但却不能像人类那样理解社会、法律或者品类的区别，再加上仿生人可怕的创造力，它们带来的内容可能很出色，也可能失控。
实际上，Latitude很早就加入了敏感词过滤。比如《AI地下城》的官方Reddit和Discord社区增加了专门频道来讨论游戏产出的成人内容。Latitude增加了一个可选的“安全模式”，可以过滤掉AI参数库中的特定词汇。然而，就像所有的过滤器一样，它并不完美。一些玩家注意到，所谓的安全设置提高了文本生成器的低俗写作手段，因为使用了更多类比和委婉的说法，该公司还增加了高级订阅，以创造更高的收入。
当《AI地下城》在2020年7月份增加了OpenAI更强大的商业写作算法时，生成的内容更加令人印象深刻。一位资深玩家表示，“创意和讲故事能力的飙升真非常好”。有知情人士透露，该系统在探索露骨主题方面也变得更具有创造性。去年有一段时间，玩家们注意到Latitude正在试验一种过滤器，它会自动将“强奸”一词变为“尊重”，但随后该功能被取消。
有些资深玩家是《AI地下城》的狂热粉丝之一，他们将该游戏作为人工智能增强写作的一种工具来探索成人主题，并且成立了专门的写作小组。算法中不需要的建议可以从故事里删除，以便把故事引到一个不同的方向，除非有人选择公开分享，否则冒险结果不会被其他人看到。
Latitude并没有透露涉及成人内容的具体游戏比例，而OpenAI的官网显示，《AI地下城》每天吸引的玩家数都超过2万人。
一位《AI地下城》玩家甚至还在上周发现了游戏的漏洞，它可以让所有人都公开访问每一个故事。他说，自己在4月份的4天内下载了数十万次冒险，分析了18.8万份样本，发现31%的样本中包含带有暗示的露骨字眼，这个漏洞并未被修补。
Latitude现在面临的挑战在于，重新赢得用户信任的同时，满足OpenAI对文本生成器更严格控制的要求。OpenAI一名发言人表示，这家初创公司必须使用OpenAI的过滤技术。
如何有效部署吸收了大量互联网文本的AI系统，已经成为人们在人工智能研究领域的热门话题。语言模型的使用越来越广泛，比如在谷歌搜索中，它可以帮你理解长内容的含义。
不过，华盛顿大学研究院Suchin Gururangan说，“你很难知道这些模型将会如何表现”。他与维斯康星大学和艾伦人工智能研究的研究人员一起参与了一项调研报告和互动在线演示，结果显示，当从网络上借用的文本被用于5种不同的语言生成模型时，包括OpenAI在内，所有模型都会产生有害的文字。
对于“互联网终极未来”元宇宙而言，AI技术是批量产生内容、丰富元宇宙和人们体验的重要手段。但从《AI地下城》暴露的问题来看，如何对AI语言系统施加更多的控制，包括它们学习的资源出处等，都还需要更多的探索，虽然AI机器学习技术已经可以用于游戏创作和变现，但如何恰当控制AI生成的内容，也将是同行们躲不开的话题。
,
