ChatGPT 太受欢迎也不好?OpenAI CEO 担心炒作过度会有反效果,05/02/2023, Advance Iverson,157,,

2月3日,纽约时报科技专栏作家凯文·罗斯(Kevin Roose)根据多位知情人的讯息,披露了ChatGPT推出前後发生在OpenAI的故事。 他写道,ChatGPT 的受欢迎程度,即使在公司内部也是如此。 Altman 担心对 ChatGPT 的过度炒作可能会引发监管反弹,或者对未来的产品产生过高的期望,甚至要求一位高管删除一条显示用户数量快速增长的推文。

本文写道,2022 年 11 月中旬的一天,OpenAI 工作人员接到了一项意外任务,即将发布一款聊天机械人。 一位高管宣布,该聊天机械人将被称为“Chat with GPT-3.5”,并将在两周内免费向公众开放。

该公告让一些 OpenAI 员工感到困惑。 整整一年,这家总部位於三藩市的人工智能公司一直致力於发布 GPT-4,这是一种新的 AI 模型,在撰写文章、解决复杂的编码问题等方面出奇的好。 经过几个月的测试和微调,GPT-4 几乎准备就绪。 据三位了解 OpenAI 内部运作的人士透露,该计划是在 2023 年初发布该模型,以及一些供用户自行试用的聊天机械人。

但 OpenAI 的高管改变了主意。 据了解 OpenAI 的人士称,一些人担心竞争对手公司可能会在 GPT-4 之前发布他们自己的 AI 聊天机械人,从而超越他们。 他们认为使用旧模型快速发布一些东西将有助於他们收集反馈以改进新模型。因此,他们决定使用 2020 年推出的增强版语言模型 GPT-3 更新未发布的聊天机械人。

自首次亮相以来的几个月里,ChatGPT 已成为一种全球现象。 然而,关於它的起源或背後的策略却鲜为人知。 在内部,根据几位现任和前任 OpenAI 员工的说法,ChatGPT 是一个令人瞠目结舌的惊喜,一夜之间轰动一时,其成功既带来了机遇,也带来了麻烦。

在 ChatGPT 推出之前,一些 OpenAI 员工对该项目的成功持怀疑态度。 Meta 几个月前发布的人工智能聊天机械人 BlenderBot 以失败告终,而 Meta 的另一个人工智能项目 Galactica 发布仅 3 天就被下架。 一些员工因每天接触最先进的人工智能系统而变得麻木不仁,他们认为建立在已有两年历史的人工智能模型上的聊天机械人可能看起来很无聊。

但两位知情人士表示,ChatGPT 首次亮相两个月後,用户已超过 3000 万,每天的访问量约为 500 万。 这使它成为人们记忆中增长最快的软件产品之一。 相比之下,Instagram 花了将近一年的时间才获得了第一个 1000 万用户。

增长也带来挑战。 ChatGPT 经常因处理能力不足而出现故障,用户已经找到了绕过机械人某些安全功能的方法。 围绕 ChatGPT 的炒作也激怒了它的一些更大的技术竞争对手,他们指出其基础技术严格来说并不是那麽新。

目前,ChatGPT 也是一个资金陷阱。 根据 Altman 在 Twitter 上的一篇帖子,如果没有广告,数据处理平均每次对话花费“几分钱”,每周可能花费数百万美元。 为了抵消这些成本,该公司本周宣布将对称为 ChatGPT Plus 的高级版本收取每月 20 美元的订阅费。

尽管存在局限性,但 ChatGPT 的成功让 OpenAI 跻身矽谷强者行列。 该公司最近与 Microsoft 达成了 100 亿美元的交易。 Microsoft 计划将 OpenAI 的技术整合到其 Bing 搜寻引擎和其他产品中。 Google 发布“Code Red”作为对ChatGPT的回应,快速追赶自家的很多AI产品,试图迎头赶上。

Altman 说他在 OpenAI 的目标是创造所谓的“通用人工智能”或 AGI,一种与人类智能相匹配的人工智能。 他一直是人工智能的直言不讳的支持者。 在最近的一次采访中,他说人工智能对人类的好处可能“好得难以置信,我什至无法想像”。 他还表示,在最坏的情况下,人工智能会杀死所有人。

随着 ChatGPT 吸引了全世界的目光,Altman 被推到了一个罕见的位置,试图淡化今次成功。 两位与他关系密切的人士表示,他担心对 ChatGPT 的过度炒作可能会引发监管部门的强烈反对或对未来产品产生过高的期望。 在 Twitter 上,他试图抑制兴奋情绪,称 ChatGPT“非常有限”,并警告用户“现在任何重要的事情都依赖它是错误的”。

他还劝阻员工不要吹嘘 ChatGPT 的成功。 去年 12 月,就在公司宣布超过 100 万人注册了该服务几天後,OpenAI 总裁 Greg Brockman 在 Twitter 上表示,该服务已达到 200 万用户。 两位看到该交易所的人士表示,奥特曼要求布罗克曼删除这条 Tweet ,并告诉他宣传如此快速的增长是不明智的。

按照矽谷的标准,OpenAI 是一家不同寻常的公司。 该公司於 2015 年由一群技术领袖创立,包括 Altman、Peter Thiel、Reid Hoffman 和 Elon Musk。 一家非营利性研究实验室,於 2019 年创建了一家营利性子公司,并与 Microsoft 达成了 10 亿美元的交易。 根据 Altman 的说法,其员工人数已增至约 375 人,这还不包括在东欧和拉丁美洲等地区负责培训和测试人工智能模型的外包工人。

从一开始,OpenAI 就把自己描绘成一个使命驱动的组织,希望确保先进的人工智能是安全的,并与人类价值观保持一致。 但近年来,该公司已经接受了一种更具竞争力的精神,一些批评人士说,这是以牺牲其最初的目标为代价的。

去年夏天,当 OpenAI 发布其 DALL-E 2 图像生成软件时,这些担忧加剧了,该软件将文本提示转化为数字艺术作品。 该应用程式一直受到消费者的欢迎,但它引发了一个棘手的问题,即如此强大的工具如何被用来造成伤害。 评论家问,如果创造超现实主义的图像就像打几个字那麽容易,色情行业和公关人员难道不能利用这项技术吗?

为了消除这些担忧,OpenAI 为 DALL-E 2 配备了一些保护措施,并屏蔽了某些词和短语,例如与暴力或裸体有关的词和短语。 它还教会机械人“消除”其训练数据中的某些偏见——例如确保当用户要求提供 CEO 的照片时,结果也包括女性图像。

据三位知情人士透露,这些干预措施避免了麻烦,但让一些 OpenAI 高管感到强硬和家长式作风。 其中一位 Altman 曾表示,他认为 AI 聊天机械人应该根据用户的喜好进行个性化设置,一个用户可以选择更严格、更适合家庭的模式,而另一个用户则可以选择更宽松、更前卫的版本。

OpenAI 对 ChatGPT 采取了不那麽严格的方法,让机械人有更多权限就政治、性和宗教等敏感话题发表评论。 即使如此,一些右翼保守派仍指责该公司过度扩张。 《国家评论》上个月的头条新闻称,ChatGPT 对变装皇后和 2020 年大选等话题给出了左翼回答。 民主党人也抱怨 ChatGPT,主要是因为他们认为人工智能应该受到更多监管。

随着监管机构的不断涌入,奥特曼正试图让 ChatGPT 变得不可动摇。 他上周飞往华盛顿与立法者会面,解释该工具的优点和缺点,并澄清对其工作原理的误解。

回到矽谷,他正在掀起新一轮的关注浪潮。 两位知情人士称,除了 100 亿美元的 Microsoft 交易外,奥特曼最近几周还与 Apple 和 Google 的高管进行了会谈。 OpenAI 还与新媒体 BuzzFeed 达成协议,使用其技术创建 AI 生成的列表和测验。

比赛正在升温。 据 Reuters 报导,中国科技巨头百度正准备在 3 月份推出类似於 ChatGPT 的聊天机械人。 Anthropic 是一家由前 OpenAI 员工创立的人工智能公司,据说正在洽谈筹集 3 亿美元的新资金。 Google 正在推进十几种人工智能工具。

然後是 GPT-4,它仍计划於今年到达。 “当它出现时,它的功能可能会让 ChatGPT 看起来很古板。或者,现在我们正在适应一种强大的新人工智能工具,下一个似乎不会那麽令人震惊,”露丝的文章中写道。

x站怎么挂梯子

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x