通用AGI，或许近在咫尺。

下一步「登月计划」，就是实现人类期待已久的人工智能，而到达这一步的前提是——解决AI对齐问题。

就在前几天，首席科学家Ilya带头OpenAI对齐团队取了的实质性成果。他们发表的本文，确定了AI对齐的研究方向:

实证表明，GPT-2可以用来激发GPT-4的大部分能力，能够达到GPT-3.5的性能。甚至还可以泛化到小模型失败难题上。

其中，官方博客的句便是:我们相信智能可能会在未来10年内出现。

再加上传闻中即将面世的GPT-4.5，以及或许会在明年诞生的GPT-5，OpenAI似乎已经准备好迎接人工智能到来了。

然而，在LeCun看来，「超人AI」的发展不会一蹴而就，而是要经历多个阶段逐渐完成。

阶段:学习世界运作方式

是构建能像小动物一样学习世界运作方式的系统——可以观察环境并从中学习，为发展更的AI能力打下基础。而这也是AI进化的关键一步。

相比之下，如今的语言模型如GPT-4或Gemini，主要关注的还是文本数据，这显然远远不够。

LeCun经常嘲讽当前AI的一句话是，「如今大模型的智力连猫狗都不如」。甚至在他看来，通往AGI路上，大模型就是在走歪路。

一直以来，他坚信世界有一种「世界模型」，并着力开发一种新的类似大脑的AI架构，目的是通过更真实地模拟现实世界来解决当前系统的局限性，例如幻觉和逻辑上的缺陷。

这也是想要AI接近人类智力水平，需要像婴儿一样学习世界运作的方式。

这个世界模型的架构，由6个独立的模块组成:配置器模块、感知模块、世界模型模块、成本模块、短期记忆模块，以及参与者模块。

其中，核心是世界模型模块，旨在根据来自感知模块的信息预测世界。能够感知人在向哪移动?汽车是转弯还是继续直行?

世界模型必须学习世界的抽象表示，保留重要的细节，并忽略不重要的细节。它必须在与任务水平相适应的抽象级别上提供预测。

LeCun认为「联合嵌入预测架构」（JEPA）能够解决这个难题。JEPA支持对大量复杂数据进行无监督学习，同时生成抽象表示。

今年6月，基于「世界模型」的愿景，他又提出了一个全新架构I-JEPA。

本文地址:https://ai.meta.com/blog/yann-lecun-ai-model-i-jepa/

不过，LeCun更高层次的愿景留下了许多未解决的问题，例如关于世界模型的架构和训练方法的细节。

第二阶段:目标驱动且有保护措施的系统

是构建目标驱动并在一定的保护措施下运作的机器。

这些保护措施将确保AI系统在追求目标时仍然安全可控。

第三阶段:规划与推理

随着AI系统的不断成熟，它们将发展出规划和推理的能力，从而在遵守安全规范的前提下，实现既定目标。

这将使AI系统能够基于对世界的理解做出更明智的决策，并采取合适的行动。第四阶段:分层规划

再进一步，AI系统将能够进行分层规划，从而大幅提升决策能力。

这将使AI系统更加高效地处理复杂任务和难题。

第五阶段:增强机器智能

随着AI的进化，这些系统的智能将从最初的老鼠提升至类似狗或者乌鸦的水平。

在此过程中，为确保AI系统保持可控和安全，将需要不断对其保护措施进行调整。

第六阶段:更广泛的训练与微调

当AI系统达到一定的智能水平时，就需要将它们放在不同环境和任务中接受训练，使其更加灵活，能够应对各种挑战。

随后，还需要对AI系统进行微调，以便在特定任务上表现出色。

第七阶段:超人类AI的时代

总有一天，我们开发的AI系统将达到超人类的水平。

标签： OpenAI、

本文地址： https://yihaiquanyi.com/article/cce0b0525bfc31cdb3e6.html

上一篇：2023年中小学寒假放假时间表2023年中国IT用...
下一篇：自来水公司回龙观营业厅的电话自来水公司回...