AI行业面临的三大争论：智能、进步、安全

发布日期：2024-09-19 22:19

来源类型：姜超律师 | 作者：史蒂芬·曼甘

【澳门金牛版正版资料大全免费】【新澳开奖记录今天结果】【2024年新澳门王中王资料】【管家婆最准一肖一码】【新澳彩开奖结果查询】【626969澳门资料大全版】【4949澳门免费资料大全特色】【2024今晚澳门特马开什么号】【澳门天天彩资料大全那些是天肖?】【2O24澳彩管家婆资料传真】

【494949澳门今晚开什么】 【2024新澳免费资料】 【7777788888管家婆资料】

“我们知道的越多，我们不知道的就越多”，对于人工智能来说无疑是正确的。

我们对人工智能了解得越多，我们对人工智能的了解似乎就越少。

专家和行业领导者经常发现自己对于人工智能现在的状况和未来的发展方向存在激烈的争执，在机器智能、意识和安全等看似基本的概念上未能达成一致。

机器有一天会超越人类创造者的智力吗？人工智能的进步正在加速走向技术奇点，还是我们正处于人工智能冬天的风口浪尖？

也许最重要的是，当专家们无法就未来达成一致时，我们如何才能确保人工智能发展保持安全和有益？

人工智能沉浸在不确定性的迷雾中。我们能做的最好的事情就是探索观点，并针对不断变化的行业得出明智而流畅的观点。

争论一：AI智能

每一代新一代的生成式人工智能模型都会引发关于机器智能的新争论。

埃隆·马斯克 (Elon Musk) 最近引发了关于人工智能智能的争论，他表示：“明年人工智能可能比任何人类都聪明。到 2029 年，人工智能可能比所有人类加起来还要聪明。”

马斯克立即遭到 Meta 首席人工智能科学家、著名人工智能研究员 Yann LeCun 的质疑，他说：“不。如果是这样的话，我们将拥有人工智能系统，可以像任何 17 岁的孩子一样，在 20 小时的练习中自学开车。但我们仍然没有完全自主、可靠的自动驾驶，尽管我们（你）拥有数百万小时的*标记*训练数据。”

这段对话只是人工智能专家和领导者观点中模棱两可的空白的一个缩影。

这是一场永无休止的螺旋式解释，几乎没有达成共识，正如过去一年左右有影响力的技术专家的截然不同的观点所证明的那样（来自Improve the News的信息）：

Geoffrey Hinton：“数字智能”可能会在“5 到 20 年内”超越我们。Yann LeCun：社会更有可能在人类水平的人工智能出现之前几年获得“猫水平”或“狗水平”的人工智能。Demis Hassabis：我们可能会实现“未来十年类似 AGI 或类似 AGI 的东西”。加里·马库斯：“我们最终将达到 AGI……而且很可能在本世纪末之前。”Geoffrey Hinton：“当前的人工智能（例如 GPT-4）在常识方面“使人黯然失色”，并且很快在推理方面也能做到这一点。Geoffrey Hinton：人工智能“现在非常接近”，并且“未来将比我们聪明得多”。埃隆·马斯克：“我们将第一次拥有比最聪明的人类更聪明的东西。”埃隆·马斯克：“如果我们到 2029 年还没有 AGI，我会感到惊讶。”Sam Altman：“我们可以在未来十年内实现真正的通用人工智能。”Yoshua Bengio：“超人人工智能”将在“几年到几十年内”实现。Dario Amodei：“人类水平”的人工智能可能会在“两三年内”出现。Sam Altman：人工智能可能在十年内超越大多数领域的“专家技能水平”。加里·马库斯：“我不认为我们离比我们更聪明的机器很近。”

在机器智能的争论中，没有任何一方是明确正确或错误的。它取决于一个人对智能的主观解释以及人工智能系统如何符合该定义。

悲观主义者可能会指出人工智能的潜在风险和意想不到的后果，强调需要谨慎和严格的安全措施。他们认为，随着人工智能系统变得更加自主和强大，它们可能会制定与人类价值观不一致的目标和行为，从而导致灾难性的结果。

相反，乐观主义者可能会关注人工智能的变革潜力，设想未来机器与人类一起解决复杂问题并推动创新。他们可能会淡化风险，认为对超级人工智能的担忧很大程度上是假设性的，该技术的好处远远超过潜在的缺点。

问题的关键在于定义和量化智能的困难，特别是在比较人类和机器这样不同的实体时。

例如，苍蝇具有先进的神经回路，可以成功地逃避我们扑打或捕捉它的尝试，在这个狭窄的领域比我们聪明。这些类型的比较可能是无限的。

选择你的智力例子，每个人都可能是对的，也可能是错的。

争论二：人工智能是在加速还是在减速？

人工智能的进步是会加速还是会趋于平稳并放缓？

一些人认为，我们正处于人工智能革命之中，突破正在迅速进展。其他人则认为，进展已达到稳定状态，该领域面临着重大挑战，可能会在未来几年减缓创新速度。

生成式人工智能是数十年研究和数十亿资金的结晶。当 ChatGPT 于 2022 年落地时，该技术已经在研究环境中达到了很高的水平，设定了很高的标准，并将社会推向了深渊。

由此产生的炒作也为人工智能初创公司筹集了大量资金，从 Anthropic 到 Inflection 和 Stability AI 到 MidJourney。

再加上硅谷资深人士 Meta、谷歌、亚马逊、英伟达和微软的巨大内部努力，导致了人工智能工具的迅速普及。GPT-3 很快演变成重量级 GPT-4，而Claude 3 Opus等法学硕士、xAI 的 Grok和Mistral以及 Meta 的开源模型等竞争对手也已崭露头角。

Sam Altman、Geoffrey Hinton、Yoshio Bengio、Demis Hassabis 和 Elon Musk 等一些专家和技术专家认为，人工智能加速才刚刚开始。

马斯克说生成式人工智能就像“唤醒恶魔”，而奥特曼则说人工智能精神控制即将到来（马斯克通过Neuralink 的最新进展证明了这一点；请参阅下面一个人如何仅通过思想下棋）。

另一方面，加里·马库斯（Gary Marcus）和扬·勒昆（Yann LeCun）等专家认为，我们正在碰壁，生成式人工智能面临着一个内省期或“冬天”。

这可能是由于实际障碍造成的，例如能源成本上涨、强力计算的局限性、监管和材料短缺。

生成式人工智能的开发和维护成本高昂，而且货币化并不简单。科技公司必须找到保持惰性的方法，以便资金不断流入该行业。

争论三：人工智能安全

关于人工智能智能和进步的对话也对人工智能安全产生影响。如果我们不能就智能的构成或如何测量智能达成一致，我们如何确保人工智能系统的设计和部署方式是安全且有益于社会的？

由于缺乏对智能的共同理解，为人工智能开发制定适当的安全措施和道德准则变得具有挑战性。

低估人工智能的智能就是低估人工智能安全控制和监管的需求。

相反，高估或夸大人工智能的能力会扭曲人们的看法，并带来过度监管的风险。这可能会限制大型科技公司的权力，而事实证明，大型科技公司在游说和制胜立法方面具有影响力。当他们犯错时，他们可以支付罚款。

去年，Yann LeCun、Geoffrey Hinton、Max Tegmark、Gary Marcus、Elon Musk 和人工智能界的许多其他知名人士之间旷日持久的 X 辩论凸显了人工智能安全方面的深刻分歧。大型科技公司一直在努力进行自我监管，制定“自愿准则”，但其有效性值得怀疑。

批评者进一步认为，监管使大型科技公司能够强化市场结构，摆脱颠覆者，并根据自己的喜好设定行业的竞争条件。

在辩论的另一边，LeCun 认为人工智能的生存风险被夸大了，并被大型科技公司用作烟幕弹，以推动制定抑制竞争和巩固控制的法规。

LeCun 和他的支持者还指出，人工智能的直接风险，例如错误信息、深度造假和偏见，已经在伤害人们，需要紧急关注。

另一方面，辛顿、本吉奥、哈萨比斯和马斯克对人工智能潜在的生存风险发出了警报。

Bengio、LeCun 和 Hinton 在 90 年代和 2000 年代初期因开发神经网络、深度学习和其他人工智能技术而被称为“人工智能教父”，至今仍然具有影响力。Hinton 和 Bengio 的观点基本一致，最近在北京举行的国际人工智能安全对话中，美国和中国研究人员参加了一次罕见的会议。

会议最终发表声明： “在冷战最激烈的时期，国际科学和政府的协调帮助避免了热核灾难。人类再次需要协调，以避免前所未有的技术可能引发的灾难。”

不得不说的是，本吉奥和辛顿在财务上与大型科技公司显然并不相符，也没有理由过度夸大人工智能风险。

Hinton 在与 LeCun 和前 Google Brain 联合创始人 Andrew Ng 的 X 争执中亲自提出了这一点，强调他离开 Google 是为了自由地谈论人工智能风险。

事实上，多年来许多伟大的科学家都对人工智能的安全性提出了质疑，包括已故的斯蒂芬·霍金，他将这项技术视为一种生存风险。

这种纷繁复杂的争论几乎没有给人们留下中间立场的空间，助长了生成人工智能作为一种两极分化技术的形象。

与此同时，人工智能监管已成为一个地缘政治问题，尽管其他部门的紧张局势不断升级，美国和中国仍在人工智能安全问题上进行尝试性合作。

因此，正如专家们对人工智能何时以及如何超越人类能力存在分歧一样，他们对开发安全和有益的人工智能系统的风险和挑战的评估也存在分歧。

围绕人工智能的争论本质上不仅仅是原则性或哲学性的——它们也是一个治理问题。

当专家们甚至在人工智能智能和安全的基本要素上都存在强烈分歧时，监管就不能指望为人们的利益服务。

达成共识需要专家、人工智能开发人员、政府和整个社会的坚定认识。

然而，除了许多其他挑战之外，引导人工智能走向未来还需要一些技术领导者和专家承认他们是错误的。这并不容易。