微软控制BingAI的ImageCreator

您可能已经注意到，BingAI上周对其图像创建工具进行了重大升级(以及其他最近的改进)，但在迈出了这一大步之后，微软现在似乎已经后退了一步。

如果您错过了，Bing的图像创建系统已升级到全新版本–Dall-E3–功能更加强大。以至于微软指出，强劲的Dall-E3引起了很大的兴趣和流量，因此最初可能会表现缓慢。

不过，Dall-E3还存在另一个问题，因为正如WindowsCentral所观察到的，自最近的改进以来，微软已经对该工具进行了相当程度的控制。

现在，我们已经意识到图像创建工具将采用“内容审核系统”来阻止生成不适当的图片，但似乎施加的审查制度比预期更严格。这可能是对BingAI用户一直试图让系统创建的内容的反应。

正如WindowsCentral指出的那样，关于执行9/11攻击的米老鼠图像引起了很多争议(毫不奇怪)。

但问题是，正如文章所明确指出的，除了这些极端的要求之外，一些用户发现无害的图像创建请求被拒绝。WindowsCentral试图让聊天机器人制作一个人用大锤打破服务器机架的图像，但被告知这违反了微软使用BingAI的条款。

而上周，文章作者指出，他们可以创建以流行角色(受版权保护)为特色的暴力僵尸末日场景，而BingAI不会提出投诉。

分析：随机审查

我们应该补充一点，重点是审查制度在这里是一种过度反应，或者说这似乎是报道中的情况。微软在最初的实施中似乎对规则过于宽松，但现在已经进一步收紧了规则。

真正说明这一点的是，正如Reddit上的某人所强调的那样，BingAI甚至正在自我审查。BingImageCreator有一个“让我惊讶”按钮，可以生成随机图像(相当于Google的“我感觉很幸运”按钮，如果你愿意的话，可以生成随机搜索)。但更关键的是——人工智能会继续创建图像，然后立即对其进行审查。

好吧，公平地说，我们认为这是一个惊喜——这似乎恰当地表明了微软对ImageCreator的审查可能太过分了，至少在某种程度上限制了它的实用性。正如我们一开始所说的，这是一个向前迈出一步，然后快速后退的情况。

WindowsCentral观察到，它能够复制Bing自我审查的这种情况，而且这种情况甚至并不罕见——据报道，这种情况发生的概率约为三分之一。听起来微软是时候围绕这一领域进行更多微调了，尽管公平地说，当新功能推出时，可能会在一段时间内进行调整——所以这项工作可能已经在进行中。

微软在“宁可安全，也不后悔”方面犯下的过大错误的危险在于，这将限制这个工具的实用性，毕竟，这个工具应该是用来探索创造力的。

我们已联系微软，了解BingAI在这方面的进展情况，如果收到回复，我们将更新此报道。