我们如何从先进的人工通用智能（AGI）中受益

创建人工通用智能（AGI）是许多人工智能专家的终点。一个AGI代理可以用来解决世界上无数的问题。例如，你可以向一个AGI代理引入一个问题，AGI可以使用深度强化学习结合其新引入的涌现意识来做出现实生活中的决策。

AGI和常规算法的区别在于AGI能够问自己一些重要问题。AGI可以制定出它希望达到的最终解决方案，模拟假设的到达方法，然后做出一个明智的决定，即哪个模拟现实与设定的目标最匹配。

自1956年达特茅斯会议首次提出“人工智能”一词以来，关于AGI如何产生的争论就一直存在。从那时起，许多公司都试图应对AGI的挑战，OpenAI可能是最受认可的公司。OpenAI于2015年12月11日作为非盈利机构推出，其使命是确保人工通用智能（AGI）——在最具经济价值的工作中表现优于人类的高度自治系统，造福于全人类。

OpenAI任务声明清楚地概述了AGI可以为社会带来的潜在收益。突然之间，对于人类和常规人工智能系统来说过于复杂的问题现在可以解决了。

释放AGI的潜在好处是天文数字。你可以声明一个治愈所有形式癌症的目标，然后AGI可以连接到互联网上，以每种语言扫描所有当前的研究。AGI可以启动制定解决方案的问题，然后模拟所有可能的结果。它将把人类目前拥有的意识优势与云的无限知识相结合，使用深度学习来识别这些大数据，并使用强化学习来模拟不同的环境/结果。所有这些都与一种从不需要休息的意识相结合，可以100%地专注于手头的任务。

它的缺点是不断升级的原子系统，而这一目标又不可能永远地吞噬它的潜在资源。尼克·博斯特罗姆教授在《回形针最大化者》一书中详细探讨了这一理论，在这种情况下，错误配置的AGI被指示生产回形针，并一直这样做，直到什么都没有留下，实际上地球上的每一种资源都被消耗，以最大限度地生产回形针。

一个更实际的观点是，一个AGI可能被一个流氓国家或道德低下的公司所控制。这个实体可以对AGI进行编程，以实现利润最大化，在这种情况下，如果编程不好，没有悔恨，它可以选择让竞争对手破产、破坏供应链、侵入股市、清算银行账户等。

因此，道德规范需要从一开始就在AGI中编程。一个道德规范已经被许多人争论，并且这个概念是由作者艾萨克·阿西莫夫以机器人学3定律的形式首次介绍给普通人的。

机器人学的3条定律存在一些问题，因为这些定律可以用不同的方式解释。我们之前在采访《计算机会反抗》一书的作者查尔斯·J·西蒙（Charles J.Simon）时，我们曾讨论过将伦理编程到AGI中？

2020年4月7日，是大脑模拟器II向公众发布的日子。这一版本的大脑模拟器使实验进入不同的人工智能算法，以创建一个端到端的AGI系统，包括视觉、听觉、机器人控制、学习、内部建模，甚至规划、想象和前瞻性。

西蒙解释说：“直接解决认知问题的新的、独特的算法是帮助人工智能进化为AGI的关键。”。

Simon指出：“大脑模拟器II将视觉和触觉结合到一个单一的心理模型中，并且在理解因果关系和时间流逝方面取得了进展。”“随着模块的增强，越来越多的智能将出现。”

大脑模拟器II将人工神经网络（ANN）和符号人工智能技术连接起来，创造了新的可能性。它创造了一个由无数突触相互连接的数百万神经元阵列。

这使得各种实体能够研究AGI开发的可能性。

任何对大脑模拟器II感兴趣的人都可以通过下载软件、提出新功能建议、甚至添加自定义模块来跟随或参与开发过程。

与此同时，社会最近被COVID-19病毒扰乱。如果我们有一个AGI系统，我们可以使用这个AGI快速识别如何阻止COVID-19的传播，更重要的是如何治疗COVID-19患者。虽然现在用AGI来帮助这场疫情可能已经太迟了，但在未来的疫情爆发中，AGI可能是我们武器库中最好的工具。