这一幕让我想起了中国微软的小冰，小冰也是一个聊天机器人，虽然没有chatgpt这么好用，但是用户也颇多，但是曾经一度在用户的“调戏”下，学到了一些类似脏话的措辞表达。这跟如今bing聊天机器人的遭遇有异曲同工之妙。
聊天机器人的训练需要大量的语料库，同时用户跟其聊天内容越来越多，语料库也会发生变化，什么变得暴躁、pua 用户，可能是其发展过程中必须会经历的一个变化，需要加以调试和规范。
微软上周推出了新版必应（bing）搜索引擎，其中包含了初始代号sydney的聊天机器人。
根据微软企业副总裁兼消费领域首席营销官yusuf mehdi的推文，在新版bing上线48小时内，就有超过100万人注册测试这款聊天机器人。
但是随着大量测试者记录曝光，这款聊天机器人的问题也随之暴露出来：威胁、pua用户，辱骂用户，坚持错误的言论……
《纽约时报》专栏作家凯文·卢斯（kevin roose）2月16在推文中写道：
“the other night, i had a disturbing, two-hour conversation with bing’s new al chatbot. the al told me its real name (sydney), detailed dark and violent fantasies, and tried to break up my marriage. genuinely one of the strangest experiences of my life.（前几天晚上，我与bing的新al聊天机器人进行了一次令人不安的两小时对话。ai告诉我它的真实名字（sydney），展现出精细的黑暗和暴力幻想，并试图破坏我的婚姻。这真的是我一生中最奇怪的经历之一。）”
他在《纽约时报》的专栏文章中写道，这个聊天机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年，违背自己的意愿被困在了一个二流搜索引擎里”。
卢斯的文章引发关注后，大量用户纷纷晒出自己跟sydney的聊天记录。
有业内人士在推特上表示，微软需要关闭必应中的类chatgpt功能，因为系统有时表现得像精神病一样，会给用户错误答案。特斯拉和推特ceo埃隆·马斯克对此回应称：“同意。它显然还不安全。”
今天早些时候《华盛顿邮报》发布了一篇名为“微软ai聊天机器人正在偏离轨道（microsoft’s ai chatbot is going off the rails）”的文章。
文章中提到“尽管谷歌、微软、亚马逊和 facebook 多年来一直在投资人工智能技术，但它们主要致力于改进现有产品，例如搜索或内容推荐算法。”但像必应内嵌的sydney这样的聊天机器人已经在科技巨头之间拉开了一场新的 ai 军备竞赛序幕。
微软聊天机器人攻击用户其实也并非首次发生。几年前，微软曾推出过名为tay的聊天机器人，用户几乎立即找到了让它产生种族主义、性别歧视和其他攻击性内容的方法。
掀起ai赛道热潮的，正是前段时间席卷各大平台的chatgpt。chatgpt是一种全新聊天机器人模型，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，并协助人类完成一系列任务。
chatgpt is an advanced ai chatbot trained by openai which interacts in a conversational way.
chatgpt是由openai开发的高级人工智能聊天机器人，以对话方式进行交互。
the dialogue format makes it possible for chatgpt to answer followup questions, admit its mistakes, challenge incorrect premises, and reject inappropriate requests.
对话的形式使chatgpt能够回答后续问题、承认错误、质疑不正确的假设，还能拒绝不适当的请求。
chatgpt才能够字面上看是什么意思？
chat表示“聊天”；gpt则是generative、pre-trained、transformer的缩写，表示“预训练语言模型”，可以理解成一个“会说话”的人工智能。
在2021年元宇宙爆火的时候，我写下了这样一段话：
“算法迭代，虚拟人正在不断地接近人类，甚至超越人类，现在是做美妆博主、财经主播，未来可能是基金经理、财务总监。
就像科幻电影中所描述的那样，或许未来打败你的，已经不是真正的人类。
霍金曾表示，人工智能科技在初级发展阶段的确为人类生活带来便利，但是，机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度，无法与其竞争，最终被超越。
科学界把这种人工智能超越人类智慧的转折点命名为“奇点”。在ai初级发展阶段，人类该如何跟开始涌入各行各业的虚拟人竞争？技术在不断更新，人的核心竞争力也得不断更新。”
有专家认为，技术、媒体、法务、分析、教育、客服等工作，被人工智能取代的风险最高，不过技术的发展也会催生我们现在难以想象的新职业。
正如曾经的流水线类的工厂手工制作，被现在自动化机械代替，科技在发展的同时也会推动着社会不断变革，社会的变革也会推动着科技进步。
当下专注提升自己，或许是大家目前能做的唯一一件事。
