近日，Meta首席AI科学家杨立昆（Yann LeCun）在一场关于人工智能发展的联名直播中表示，行业需要将人工智能科学和产品之间划清界限。其指出现在最具争议的人工智能开发，尤其是OpenAI 的 ChatGPT，代表的是一款产品，而不是基础科学研发。
“当我们谈论GPT-4或 OpenAI 目前推出的任何产品时，我们不是在谈论研发，而是在谈论产品开发，好吗？” 杨立昆说。“OpenAI 从一个相对开放的 AI 研究实验室，转变为一家营利性公司，现在是一种主要为服务的合同研究实验室，不再透露任何关于它们如何工作的信息，所以这是产品开发，不是研发。”
杨立昆与人工智能应用公司 Landing.ai 的创始人兼首席执行官吴恩达以及人工智能教育机构 DeepLearning.ai 举行了联合网络直播。两人提出了他们反对由未来生命研究所提出并由多位知名人士签署的为期六个月的 AI 测试暂停的论点。 该提案要求人工智能实验室暂停至少六个月训练。比 OpenAI 的GPT-4更强大的人工智能系统，这是几种所谓的大型语言模型中的最新模型，是 ChatGPT 等人工智能程序的基础。
杨立昆和吴恩达都认为，延迟对人工智能的研究是不好的，因为它会阻碍进展。 “我觉得，虽然今天的人工智能有一些危害的风险。我认为偏见、公平、权力集中，这些都是真正的问题。但它也在创造真正的价值，为教育、为医疗保健，这是令人难以置信的令人兴奋的价值很多人都在创造来帮助其他人，”吴恩达说。“就像今天的 GPT-4 一样令人惊叹，构建比 GPT-4 更好的东西将帮助所有这些应用程序帮助很多人，”吴恩达继续说道。“因此，暂停这一进展似乎会造成很多伤害，并减缓许多非常有价值的东西的创造，这些东西可以帮助很多人。”杨立昆对此表示赞同，同时强调了研究与产品开发之间的区别。 杨立昆说：“我对此的第一反应是，呼吁延迟研发实质上是新一轮的蒙昧主义浪潮。” “为什么要减缓知识和科学的进步？”
“然后是产品问题，”杨立昆继续说道。“我完全赞成对人们手中的产品进行监管；我不认为监管研发有什么意义，我认为这除了减少我们可以用来实际改进技术的知识之外没有任何目的，更安全。”杨立昆提到 OpenAI 决定通过 GPT-4 大幅限制对其程序工作原理的披露，在上个月向世界介绍该程序的正式研究论文中几乎没有提供任何技术价值。
“部分原因是，人们对 OpenAI 现在的保密感到不满，因为他们在产品中使用的大部分想法都不是来自他们，”杨立昆说。“它们是由来自谷歌、FAIR [Facebook AI Research] 和其他各种学术团体等的人发表的想法，现在它们有点被锁起来了。”
在问答环节中，杨立昆被问及为什么他的同行、加拿大 MILA 人工智能研究所所长 Yoshua Bengio 签署了暂停信。杨立昆回答说，Bengio 特别关注 AI 研究的开放性。事实上，Bengio曾表示，OpenAI 转向保密可能会对基础研究产生寒蝉效应。杨立昆说，“我同意他的观点”，即研究需要开放。“但我们不是在这里谈论研究，我们谈论的是产品。”杨立昆将 OpenAI 的工作描述为仅仅是产品开发，这与之前关于 OpenAI 没有取得实际科学突破的言论是一致的。1 月，他表示OpenAI 的 ChatGPT “不是特别有创新性”。
在周五的会议上，杨立昆预测研究的自由流动将产生在能力上达到或超过 GPT-4 的程序。
杨立昆说：“这不会持续很长时间，因为在相对较短的时间内，将会有许多其他产品具有类似的功能，如果不是更好的话。”“由于数据的飞轮允许他们对其进行调整，OpenAI 取得了一些进步，但这不会持续太久。”
原创文章，作者：苹果派，如若转载，请注明出处：https://www.kejixun.com/article/570938.html
