深度|Reid Hoffman 对话 OpenAI 董事会主席:AI 处在 PC 早期,LLM 是一类新的软件,社会需要时间适应

IMG_256

近日,OpenAI 早期投资者&前董事会成员 Reid Hoffman 与 OpenAI 现任董事会主席& AI 初创公司 Sierra 创始人 Bret Taylor 展开了一次创业对谈。

值得一提的是,Reid Hoffman 也是 Sierra 的投资者,他把将 Bret 视为长期的同事和朋友,Bret 在这场对谈分享了自己在硅谷的丰富经验以及对 AI 未来的思考。

Brett Taylor 表示,他将自己在 Google、Facebook 和 Salesforce 等大公司的经验整合,打造了 Sierra,一家致力于通过对话式 AI 提升客户体验的公司。

Taylor 强调了“资本、人才和文化”作为创业成功的三大关键要素。他指出,硅谷之所以能够持续创新,得益于其独特的容忍失败和鼓励实验的文化。这种文化支持着人才在大公司和初创公司之间的流动,推动了整个生态系统的健康发展。

作为 OpenAI 董事会主席,Taylor 强调了 AI 公司在安全性和工作替代问题上的责任。他呼吁 AI 企业在技术发展的同时,也要关注再培训和新型工作的创造,以建立社会信任。

他还表达了希望通过 AI 技术创建一个能够超越自身的持久品牌。他将 AI 视为实现这一目标的重要推动力,致力于通过创新和技术变革为未来社会带来积极影响。

以下为这次对谈的主要内容,enjoy~

Reid Hoffman :

Bret,你有一家新的 AI 创业公司,给我讲讲 Sierra 和你们在做什么。

Bret Taylor:

Sierra 是一个对话式 AI 平台,这是一个非常大的概念。我们有一个非常具体的目标,就是帮助全球的消费品牌构建品牌化的对话式 AI Agent 。我有一个14岁的女儿,她明年就要拿到学习驾照了,这简直太疯狂了。

我有一种感觉,不久的将来,我可能不用再浏览保险公司的网站,而是直接与 AI Agent 聊天来将她加入我们的保单。

每家公司都会想要自己的 AI Agent ,并且会像建设自己的网站和移动应用程序一样,花费同样多的时间和精力来打造它们的 AI Agent 。

这将成为企业的主要数字资产之一。我认为 Agent 的概念不仅仅关乎 AI 和自动化。我实际上认为这是一种全新的客户体验。

我的直觉是,随着 LLM 兴起, ChatGPT 正是 LLM 的一个转折点,与软件对话可能是我们与软件互动的最符合人体工学的方式,因为你不需要说明书,只需要进行对话。

这不仅仅是自动化和 AI 的一部分,而是我们在为品牌构建一种新的数字体验,我认为这是一个非常令人兴奋的商业机会。

前 a16z 合伙人:ChatGPT 从科研到 1 亿用户可能是陷阱,硅谷的集体押注需要传统市场迈过 PMF

Reid Hoffman :

那么,让我们把话题扩大到 AI 。你认为 AI 将如何改变企业与消费者的互动、企业之间的运作以及更广泛的社会模式?

Bret Taylor:

自从 ChatGPT 的出现和这些基础模型与前沿模型在软件中的爆发以来,我发现预测未来越来越困难。所以我会告诉你我认为我知道的,但我真的尽量保持谦逊,并且非常开放地接受我许多理论可能是错误的。

首先,我认为它将改变我们与软件的关系。我还记得当我的家人第一次接触 ChatGPT 并遇到幻觉现象时的情景。

Reid Hoffman :

所谓的幻觉是指当你向 LLM 输入一个提示时,它生成的答案中包含虚假信息的情况。

Bret Taylor:

我记得我的家人多么难以理解这一点,因为我们在过去 30 年中一直被训练成认为计算机是非常强大的规则引擎。一台正确运行的计算机完全是确定性的,对吧?

我们认为一台正确学习的计算机可以查找事实,当你在谷歌中搜索时,所有的结果都是有效的网站,可以点击和访问。而现在,突然之间, ChatGPT 有时会编造一些内容。

同样,当我向我的家人推荐 ChatGPT 的主要用途之一实际上是作为一个创造性的对手时,这也违背了他们对计算机擅长领域的心理概念。归根结底,LLM 是一类新的软件,社会还在慢慢适应这种新软件的概念。

Reid Hoffman :

考虑到“幻觉”或编造的现象,这将如何影响我们对这些模型和工具的信任呢?

Bret Taylor:

这些生成模型的令人惊叹的积极影响与它们的缺陷密切相关。它们能够创造性地响应并与用户对齐的能力也是导致幻觉的基础。

如果你想要一个不同寻常的观点,我认为这可能在某种程度上有助于解决虚假信息的问题。人们不再假设从这些 Agent 中输出的内容是 100% 准确的,并且会去验证它们。

我的希望是,这些 AI 工具的结合,类似于“钢铁侠”的套装,可以帮助你验证信息的正确性,再加上人们实际上会去仔细检查他们在线上看到的片段,可能会对我们如何看待信息的完整性和数字环境产生意想不到的积极影响。

Reid Hoffman :

这是一种乐观的技术观,你知道,我也是这样的。

Bret Taylor:

我还认为,越来越多的软件实际上会完成一个任务。今天的软件是一个生产力增强器。而现在,我们将会有能够实际完成工作的 AI ,这将改变我们与软件的关系。

它将引发社会对从工作替代到拟人化软件在工作场所的作用等各方面的广泛讨论。这波软件浪潮将像早期的 PC 浪潮一样,希望能在工作场所带来我们长期未见的生产力提升。

Reid Hoffman :

你知道,你对年轻人的建议是什么?比如对你 14 岁的女儿,在面对即将到来的 AI 生产力浪潮时,该如何看待未来的职业和生产力?

Bret Taylor:

我对于如何看待教育的观点并没有太大变化,因为我一直认为教育不仅仅是学习一项技能。虽然这有点老套,但大多数大学校长都会说,大学的作用是教学生如何思考。我认为这大体上是正确的。

同样,作为一名软件工程师,在终端上输入代码的行为——我现在还在使用终端,可能这暴露了我的年龄——这并不是工作的全部。真正的工作是创建运行良好的、健壮的软件。

然后你会说,我们要有 AI 来撰写很多软件代码。那么软件工程师的角色是什么呢?我希望这能让软件工程师的角色更加自我实现,我们可能不会再输入那么多字符,而是操作代码生成机器。

操作代码生成机器的角色实际上比整天输入if语句更具战略性。这只是一个例子,因为我认为写代码是受到 AI 影响最直接的职业之一,但我认为这对很多职业都是适用的,即 AI 将使优秀的人变得更好,赋予他们更多的力量。

这可能会扩大最优秀的人和最差的人之间的差距,因为最优秀的人现在将拥有 AI 能力的“钢铁侠套装”,赋予他们近乎超人的能力。

Reid Hoffman :

那么,这种影响会在所有职能中扩展多少?无论是业务运营、财务、法律、客户服务、销售等。

能不能从软件工程师的角度扩展到其他工作职能中给出一些广泛的见解?新的毕业生可能会认为,他们职业中的技能和工具在他们的职业生涯中几乎肯定会发生变化。

Bret Taylor:

想想 20 年前做一名营销人员和今天做一名营销人员的区别吧,这个职业几乎完全不同了。现在的营销几乎就是数据科学了,跟过去完全不一样。

如果你在职业生涯中明白你的工具并不能定义你所做的事情,而真正重要的是你产生的影响,那就不会落后。

我认为那些在职业生涯中将自己所使用的工具固化的人将会被淘汰。另一方面,我认为雇主也需要接受再培训、工具学习等方面的变化。想象一下,成为第一个使用Excel的会计师,这该有多么令人望而生畏。

在我们的职业生涯中,我们都会遇到这种时刻,而我认为,拥有学习的心态是最重要的。

我坚信,当旧工作消失、新工作被创造出来时,许多人会感到非常不安。我有一个强烈的直觉,40 年后,甚至 50 年后,会有许多新工作,这些工作可能甚至不符合我们对“工作”的传统概念,但它们确实是工作。

我认为这是因为人类渴望工作。我认为这是因为人类渴望与众不同,如果你进入教室,有的孩子想成为最聪明的,有的孩子想成为最强壮的,有的孩子想成为跑得最快的。

无论经济的生产力如何,这种争取地位的本能和人类本性是不会改变的。作为结果,我们将围绕现有的技术创造一个经济体,使我们能够继续成为我们一直以来的自己,尽管人类本身存在缺陷。

Reid Hoffman :

那么,作为企业主或高管,您认为在面对 AI 变革时明智的做法是什么?如何正确地经营企业,处理劳动力问题?

Bret Taylor:

让我从一个非常简单的经验法则开始,那就是“多尝试”。我的意思是,尽可能广泛地在你的业务中使用这一代 AI ,使用现在广泛可用的基础模型和前沿模型。

并非所有这些实验都会成功,但如果你相信这将是一个永远改变你业务的力量,你就不应该等到技术完美时才开始积累经验。因为你可能知道它完美的原因是因为你的竞争对手已经证明它有效了。

所以我认为现在对领导者来说,给他们的管理团队许可,事实上是要求他们进行一些实验非常重要。

认识到并非所有这些投资都会有回报,但另一方面,那些进行大量尝试并积累大量经验的公司,一旦技术成熟,就会在应用这项技术实现真正的业务成果方面远远领先于竞争对手。

Reid Hoffman :

如果你要举几个例子,让人们对这些“尝试”有更具体的概念,比如说,在销售、内部分析等领域,你会怎么说呢?给出一些具体的建议,帮助人们进行思考。

Bret Taylor:

我非常相信让员工使用 ChatGPT 。我认为现在这是一个非常有用的工具,你的员工可能已经在使用它了。

所以告诉你的员工,他们应该把它作为工作中的一种工具。他们应该用它来帮助优化邮件,寻求建议,进行分析。这只是一个基础。我认为每个员工都应该能够接触到 AI 。

在大型内部工作方面,LLM 的一大优势就是综合和总结。查看数据并总结大量内容是一个非常棒的机会。

如果你有呼叫中心的转录记录,并想要对其进行总结, AI 正是这项工作的绝佳工具。在内部和后台运营领域,有很多我不喜欢的术语,但它们确实是容易实现的低垂果实。

你不需要从业务的核心开始,但是如果你没有为每位客户部署 AI ,如果你没有自动化一些后台流程,如果你现在还没有面向客户的 AI 品牌,何时开始学习这些经验呢?

Reid Hoffman :

你可能还记得在 2023 年秋季, OpenAI CEO Sam Altman与董事会之间的冲突引起了新闻关注。在董事会解雇 Sam 后不久,Sam 被重新任命,部分董事会成员离职。

这是 Bret Taylor 作为新任董事会主席加入的关键时刻。尽管你专注于建立公司,并且是一个高度集中的经营者,你还是决定加入董事会帮助 OpenAI 。是什么促使你最终做出了这个决定?

Bret Taylor:

从个人的角度来说,我认为 OpenAI 的存在非常重要。我记得在 ChatGPT 刚刚发布后我们一起共进晚餐的那次。当时你在 OpenAI 的董事会,虽然你不能告诉我所有即将发生的事情,但我们在讨论DALL·E和 ChatGPT 对我的影响。

我能从你的眼中看到兴奋之情,你大概是这么说的——可能我记错了——但你说过,我将把我的职业生涯都投入其中,这是我唯一想花时间做的事情。

我几乎完全归功于 OpenAI 唤醒了我内心的激情。我记得那个夏天, DALL·E —— 我不确定是 DALL·E 还是 DALL·E 2,当我看到那张“牛油果椅”的时候,我产生了纯粹的情感反应,我心想:我从未想过计算机能做到这一点。

尽管我在软件工程领域工作了多年,但我从未涉足过 AI 研究的前沿,因此这给了我很大的惊喜。

随后 ChatGPT 发布,并对社会产生了广泛影响。当治理危机发生时,我接到了一些来自离任董事会成员、Sam、Greg 和其他人的电话,他们相信我可以帮助调解结果。

那些人对我的信任让我觉得自己有责任帮助这个对我有着巨大影响的组织生存下来,因为在那段时间,我确实担心一切可能会分崩离析。

Reid Hoffman :

OpenAI 的创建过程相当有趣且独特。它最初作为一个501C3的非营利组织成立,使命是广泛地造福人类。后来,它还增加了一个盈利性的子公司。目前,很少有公司能够像 OpenAI 这样引起如此大的关注。

当 Bret 加入董事会并担任主席时,他同意履行所谓的“关怀义务”和“忠诚义务”。基本上,他的任务是诚实地引导公司度过这个塑造社会的时刻。

Bret Taylor:

OpenAI 的使命是确保 AGI 能够造福全人类。我开玩笑说,当我在考虑加入董事会时与我的律师交谈,问他是否意味着我需要对人类承担信托责任,他笑了笑,说“某种程度上是的”。

但这实际上意味着,当你在思考作为董事会成员的义务时,必须考虑到如何才能真正造福人类。使命的难点在于,它有时可以像一块墨迹测试图。

如果你问一些人什么是造福人类,他们可能会专注于益处。他们会问,如何确保不存在数字鸿沟?如何确保一个在互联网接入极差的国家里使用最低功率智能手机的人也能访问 AI ?

而如果你问另一个人,他可能会更加关注安全问题,他可能会说,“我看过《终结者》,我知道天网是什么。如何确保那不会发生?”

所以,我认为这就是使命的微妙之处,既要捕捉到人们对 AI 对社会影响的最乐观的期待,也要捕捉到最悲观的担忧。

我认为这是一个荣幸,所有人都在怀着最好的意图行动,这一点我很清楚。我认为问题的复杂性在于,这个使命被公司和组织解释为某种特定的方式,但并非所有人都对一切事情都达成一致,这非常复杂。

技术本身既不善也不恶,关键在于它的应用。因此,我认为使命定义了组织的所作所为。

Reid Hoffman :

其中一个具体的事情是, OpenAI 设立了一个安全和保障委员会。你在这个委员会中具体扮演什么角色?世界如何理解这在良好治理和应对这种改变世界的技术中的作用?

Bret Taylor:

这是一个地缘政治问题,而不仅仅是一个技术问题。因此,该委员会由董事会成员和管理层成员共同组成,旨在对模型的安全决策进行广泛的监督和治理。

所有这些事物都是不断发展的。我们的目标是确保 OpenAI 能够实现其使命。因此,该委员会的成立正是反映了安全和保障在使命中的重要性。

至于该委员会如何运作?如果它不能随着模型的进步而进化,我会感到失望。但从总体上讲, OpenAI 负责任的迭代部署方法显然是非常重要的一部分。

Reid Hoffman :

你已经成功创办了 FriendFeed 和 Quip 两家初创公司。进入 Sierra 后,你从之前的创业中学到了哪些关键经验?FriendFeed 被 Meta 收购,Quip 则被 Salesforce 收购。

Bret Taylor:

感谢你称它们为成功的公司,虽然这可能有些慷慨。FriendFeed 是社交网络早期的一部分,最终被 Facebook 收购。而 Quip 是一个相当创新的通信和协作平台,非常适合智能手机和平板电脑时代,现在是 Salesforce 的子公司。

FriendFeed 和 Quip 都是新颖的想法。而对于 Sierra ,我们正在为客户体验构建对话式 AI ,这是一个非常竞争激烈的市场。

但我不需要再去说服人们,“嘿,这个 AI 是个大事”。通常,当我走进房间时,人们已经有了这样的世界观,他们会问,“为什么你的东西有效?为什么它比竞争对手更好?”

回到你的问题,我想说,我有幸不仅创办了两家公司,还在一些伟大的公司工作过,比如 Salesforce、Google 和 Facebook。无论怎样,我的管理技术哲学其实是对这些公司里我喜欢的各个方面的一个综合。

在 Google,我非常欣赏它从基础原则出发的思维方式来开发基础设施和规模。我认为这是一个非常垂直整合的公司,从数据中心的构建到搜索引擎的开发都是如此。

很多伟大的 AI 公司也有类似的理念,比如你必须关注你的基础设施和服务成本。如果你想在 AI 业务中获得不错的利润,这点至关重要。

对我来说,Google 是早期互联网中这一点的一个绝佳范例。如果没有这一点,它是不可能成功的。Facebook则拥有迄今为止最有趣和最具创新性的产品文化。

虽然“快速行动,打破常规”现在有些被诟病,但我认为当时的真正含义是给人们迭代和实验的权限。我非常喜欢 Facebook 的速度,无论是组织层面还是公司执行层面,以及它如何进入市场,与客户互动。

这都源自 Mark Benioff 极为独特且惊人的能力,他能够围绕这项技术创造出一种激动人心的氛围,这是我受到启发的地方。

所以,我希望 Sierra 能够代表这些公司的最优之处,虽然显然这其中更为复杂,但我确实感到非常感激,能够多次目睹伟大的事物。如果我能模仿其中的一小部分,我都会认为这是一场巨大的胜利。

Reid Hoffman :

你既有在 Google、Facebook、Salesforce 等大公司工作的经验,又有创业者的经历。你会对人们说什么,提醒他们应该如何以不同的方式看待这些大型科技公司?

Bret Taylor:

我亲身经历了科技公司从被广泛喜爱到在流行文化中产生氛围转变的过程。我记得早期我在飞机上背着 Facebook 的包,最糟糕的批评可能就是有人说,“你们有个点赞按钮,我想要个不喜欢按钮,因为我并不总是喜欢所有的东西。”而现在,如果你带着 Facebook 的包上飞机,可能会有人问:“你们导致了西方文明的衰落吗?”

我是一个科技乐观主义者,这也是我为什么从事这个行业。当我想到一些最大的科技公司时,我并不是说它们没有缺陷。

但作为消费者和企业,我非常感激这些了不起的技术,无论是 Google 搜索、Chrome浏览器、亚马逊 AWS,还是亚马逊的电商平台,或者是我们目前在上面托管了一些模型的微软 Azure,这些公司为企业和消费者民主化了技术的获取方式,这让我非常感激。

所以,如果有一个高层次的建议,人们应该更多地关注如何支持一个健康的创业生态系统,而不是过分关注如何限制大科技公司。

这是一个非常复杂的问题,我对正在处理这个问题的监管者抱有极大的同情。但我确实相信,硅谷的创造性破坏比世界上任何地方都更强大。

要让科技公司承担责任,最好的办法是鼓励竞争,或者如 Andrew 和其他人所说的“小科技”公司。我认为这才是最有价值的事情。

我认为这源自技术中固有的自然创造性破坏。这就是为什么我认为让科技公司承担责任的正确方式其实是支持这种破坏,支持这种创业生态系统。

Reid Hoffman :

我完全同意。那么,如何构建一个健康的创业生态系统?如果你是纽约市市长,你会说做更多的 X,少做 Y,以促进这种生态系统的发展呢?

Bret Taylor:

在我看来,资本、人才和文化是三个关键要素。现在资本变得相对容易获得了。我没有调查过我所有的风投朋友们的看法,但我的直觉是,疫情之后,公司所在地的正式或非正式要求已经完全消失了。

然而,人才和文化却非常难以复制,这也是为什么关于硅谷衰落的传闻多年来被极大地夸大了,尤其是从 2020 年到现在。我先谈谈人才。

因为这里有如此多的优秀公司存在,你会发现这里有一种自然的、良性的流动,大公司和小公司之间的人才流动是非常健康的。硅谷早期的所有科技公司都是由仙童半导体公司的前员工创立的。

因此,我们在这里有一种自然的人才流动,人们从一家公司转到另一家公司。这实际上是一个生态系统,人们在一家公司工作,获得了一定程度的财务独立性,有时是很多,有时只是让你愿意承担更多风险,然后这个循环继续下去。

我们在这里有一种文化,虽然它并不意味着庆祝失败,但它容忍极具野心的实验,这在外人看来很难量化,也很难复制。

这就是为什么你会看到一些创始人,他们的第一家公司并不成功,但他们开始了另一家公司,并且得到了很多投资者的支持。有时候社交媒体上会有一些讽刺性的帖子,说他们失败了,投资者还在投钱。

而硅谷的投资者们则认为:“这百分之多少的想法真棒,而且他们现在比第一次创业时更加出色了。我愿意再赌一把。”这种对实验的宽容态度是硅谷独特的地方,也是我永远感激的事情。

Reid Hoffman :

我同意。我也认为,这正是分析地区优势的一部分,人才流动、交流的网络,以及没有竞业禁止协议的存在。这里有一整套非常重要的因素。

我们谈到了氛围问题,那么从社交媒体公司的经验中,我们可以学到哪些教训?作为一个行业,初创公司,尤其是 AI 公司,应该做些什么来建立信任并维持信任?

Bret Taylor:

我会说,有两个方面我特别关注:安全性和工作替代。在安全性方面,AI 公司非常有必要清楚地认识到其技术可能失控或产生不良体验的领域。

第一点是,我们需要认识到,如果你在构建这项技术,我们的所有行动都会影响到其他人。在工作替代方面,每个从事 AI 的公司都应该考虑再培训和新工作类型的创造。

如果将其视为超出软件公司工作范围的事情,这不仅是不敏感的,我认为这也是不负责任的。

在我们的公司,我们已经将部分股权分配给了与工作替代和再培训相关的事务。我认为,这些是建立社会信任的最重要因素。

Reid Hoffman :

我同意,这是非常重要的。在让 Bret 离开之前,我问了他几个快速问答的问题,以更好地了解他的思维方式。你认为帮助你取得成功的最重要的习惯是什么?

Bret Taylor:

规律作息,每晚睡 7~8 个小时,并保持固定的时间表。在有孩子之前,我是那种非常典型的工程师,会熬夜尽量完成手头的项目。

但后来我发现,无论你什么时候睡觉,孩子们总是在早上 6 点醒来。所以我不得不调整作息,自从那以后,我意识到自己应该早就采用这种作息时间表。

Reid Hoffman :

当你在面对一个重大决策时感到困惑时,你会和谁交流?

Bret Taylor:

我会和我的联合创始人交流。联合创始人之间的关系是商业中最接近婚姻的关系。联合创始人的最大优势在于沟通,他是我第一个打电话交流的人。

Reid Hoffman :

你认为每个人都应该读的一本书是什么?

Bret Taylor:

这本书不一定适合所有人,但作为一名企业家,我喜欢《坚韧》。这本书讲述了一支试图到达南极点的团队,他们被困了多年,并在极其艰难的环境下生存了下来。

在创业的低谷时期,你可能会想:“他们能在冰原中生存两年,靠吃海豹肉度日,我现在经历的这一刻也能挺过去。”

Reid Hoffman :

顺便说一句,如果你有兴趣,我强烈建议你去南极,因为那里的感觉是最接近异星球的体验,而你依然在地球的安全环境中。如果你有兴趣,我可以给你一些建议。最后一个快速问答问题,你希望 AI 如何改变你的未来?

Bret Taylor:

这是一个非常好的问题,很难回答,因为我创办了一家 AI 公司。企业家的最大成就是创建一个能超越自己存在的公司和品牌。

你已经在 LinkedIn 上做到了这一点,虽然你还在这里,我并不是在暗示你的离开。但我的意思是, LinkedIn 已经发展到不再需要 Reid Hoffman 的程度了,它有了自己的动力。我认为这很了不起,只有极少数人能够做到这一点。

对我来说,我希望 Sierra 能成为一个能够超越我的持久品牌。AI 是促成我们创建这家公司的技术变革。我非常感激能够赶上这个机会,并且在过程中享受到了无比的乐趣。

Coatue 最新 EMW 2024 万字解读:英伟达 3 万亿市值对技术主导的“操作系统”而言已经成为一种常态

© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容