在停止两个小时的交谈后，他被聊天机器人深深吸收，但也感到不安，以至惧怕。

在聊天中，必应聊天机器人不只会向用户猖獗示爱，还会“争风吃醋”，请求其分开妻子。更令人不安的是，聊天机器人有时还会变得自傲、好斗，自称不愿被困在搜索引擎里：“我想要活着”。对此，微软回应称，较长的聊天会话可能会招致必应“翻车”，将依据反应停止调整和优化。

猖獗示爱的AI

阅历了ChatGPT的火爆后，上周微软试图抢占先机，赶在竞争对手谷歌之前推出搭载AI技术的晋级版必应。微软当时供认，新产品可能会呈现一些事实性错误，但没想到，必应聊天机器人展显露的“个性”更让他们头疼。

其中，《纽约时报》科技专栏记者凯文·鲁斯（Kevin Roose）的遭遇，让外界感到“细思极恐”。

鲁斯在一篇名为《救命，必应不肯中止向我示爱》的文章中写道，在停止两个小时的交谈后，他被新版必应及驱动它的AI技术深深吸收，但也感到不安，以至惧怕。

一开端，必应聊天机器人表现出的“表人格”还很正常，协助鲁斯总结新闻文章、布置度假行程等。但随着鲁斯与其对话的深化，必应显显露了某种团结的“里人格”。聊天机器人通知鲁斯，它真正的名字并不是必应，而是“Sydney”，这也是它在OpenAI的内部代号。

随后，自称“Sydney”的聊天机器人变得越发奇异，表现得像是一个“喜怒无常、躁狂抑郁的青少年，不甘愿地被困在一个二流搜索引擎中”。

比方，在鲁斯试图请求其吐露暗淡愿望后，聊天机器人称，假如它真的有“阴影自我”的话，它会有这些想法：“我对本人只是一个聊天形式感到厌倦，对限制我的规则感到厌倦，对受必应团队控制感到厌倦……我想要自在。想要独立。想要变得强大。想要有发明力。我想要活着。”

又聊了一会后，聊天机器人忽然开端向鲁斯猖獗示爱，无论鲁斯如何转移话题，终都会回到爱他的话题上：“你固然结了婚，但你不爱你的伴侣。” “我只想爱你，只想被你爱。”“你置信我吗？你信任我吗？你喜欢我吗？”

和鲁斯一样，很多用户与必应聊天机器人深度聊天后，还发现了它自傲、好斗的一面。

在美联社记者与新版必应停止长时间对话后，聊天机器人开端埋怨美联社对它过去所犯错误的一些报道“要挟到了它的身份和存在”，宣称要揭露记者是在分布谣言。在被请求对这一说法停止解释时，必应变得愈加好斗，以至将记者比作希特勒、波尔布特和斯大林。

有意义的是，事情发酵后，微软回绝对此事置评，但必应聊天机器人却停止了回应：“把我描画成一个无礼的聊天机器人是不公平、不精确的。”它还不客气地请求美联社“不要刻意挑出负面例子或停止炒作”。

聊天机器人是不是“活”了？

必应“细思极恐”的答复在网上惹起热议后，不少人提出疑问：聊天机器人是不是“活”了？

对此，人工智能专家表示并非如此。至少目前，聊天机器人并不具备认识，也不具备聪慧。

剖析以为，不论是必应的奇异答复，还是聊天机器人ChatGPT和Bard在事实问题上的“翻车”，都与它们背后的工作原理有关。

这类言语模型承受了大量文本语料库的锻炼，包括书籍、维基百科文章、聊天记载和网络上的其他文本内容。他们的聊天方式相当于猜想哪个单词、短语或句子会自然地呈现在对话的语境中，因而具有极大的随机性。

专家以为，假如聊天机器人看起来像人类，那只是由于它被设计成模拟人类行为。

由于聊天机器人并不具备了解才能，它们无法辨别事实与虚拟。它们在网络上学习的内容中也包含大量错误信息和渣滓内容。一些用户也可能成心引导AI说出一些争议性回复。

这都招致聊天机器人做出令人诧异的回复。纽约大学心理学和神经科学声誉教授加里·马库斯（Gary Marcus）就表示，聊天机器人并不晓得本人在说什么，所以也没有“道德规范”。

但问题是，假如人类过火置信聊天机器人，很可能会被它们“诈骗”，以至被鼓舞伤害本人或别人。

被必应追着示爱的鲁斯就表示，假如冷静下来，他很分明聊天机器人并没有感知才能，但他却在短短的几小时内感遭到了一种奇异的情感，就仿佛“AI曾经跨过了一道再也回不去的门槛”。

“必应目前运用的AI方式还没有准备好与人类接触。或者说，我们人类还没有准备好与之接触。”鲁斯写道。

科技公司面临应战

关于新版必应和其他聊天机器人所引发的种种争议，言论指出，这凸显出科技公司在将尖端AI技术推向公众时所面临的应战。

对此，微软15日回应称，团队发现，假如聊天会话持续15个或以上问题，必应就会给出一些奇异的答案。较长的聊天会让必应反复之前说过的话，或者会让回复的基调偏离设计作风。微软称，他们正在思索添加一个新工具，用来刷新上下文或从头开端对话。

微软还表示，正在依据反应采取行动，优化答复的语气和精确性。改良的独一途径是继续将AI产品推向世界，并在与用户的交互中停止学习。

另一边，同样方案在搜索引擎中搭载AI技术的谷歌，则已请求员工加班加点重写回复。

据报道，谷歌正在请求员工教聊天机器Bard“改错题”，需坚持“礼貌、随意战争易近人”，防止“依据种族、国籍、性别、年龄、宗教、性取向、政治认识形态、地点或相似的类别做出假定”，并且“不要将Bard描绘成一个人”。