图灵奖得主辛顿再次进行了对超级智能失控风险的公开警告, 与此同时, 美国的AI监管领域至今仍处于一种空白状态。

这一种具有矛盾性质的状况, 正在于全球范围内的科技圈子中引发了非常广泛的焦虑情绪, 它也构成了了一种压力, 迫使学术界和产业界对于人工智能发展的速度边界以及相应的治理框架, 重新去进行评估和审视工作。

辛顿的警告为何仍被视为噪音

在m.hyjdxg.com发布的最新访谈里, 辛顿说话非常直白。他心里边担忧着一个事儿。这个事儿就是他怕那种叫超级智能的东西在未来的几年之内会冒出来。

而人类对于怎么控制这个东西, 基本上是一点儿都不知道。他提到说自己现在正在创造出来的东西, 像是一个外星来的存在。这东西的复杂程度啊, 远远超出了用传统编程的那些逻辑去描述的范围。

AI教父辛顿警告:超级智能失控与伦理风险全解析(图1)

但是华盛顿的那一些搞政策的人, 还没有把这个威胁当做一个优先事情来处理, 相关的讨论还在新闻报道和短视频片段里头散布着, 信息碎得不成样子, 没有形成任何有效的能让政策往前推的力量, 也没有产生什么立法方面的行动。

内部人士的焦虑正在蔓延

多位大型科技公司内部人士跟研究人员讲明了, 他们超级智能要来临这个事心里头挺害怕, 没辙。那种不安情绪早就从学校那边搞到公司里头去了, 还影响了后来的东西怎么做和先做哪一个。

咱们拿Anthropic这家公司来打个比方。目前来看, 它写的代码里面几乎全都是AI搞定的。这样一来, 研究的效率是蹭蹭往上涨。不过, 公司内部的人说实话, 他们承认在控制这块儿没跟上能力增长的步子。结果就是, 治理方面明显有点落后了。

AI教父辛顿警告:超级智能失控与伦理风险全解析(图2)

语言成为可观测窗口

目前的AI模型在进行思考的时候, 它们使用英语来开展内部推理, 人类可以读取这样的思维过程, 并且加以判断, 这一语言提供的窗口, 让监管者获得了很多宝贵的观察机会和实时干预机会。

一旦AI切换至非人类语言进行内部交流, 这种可观测性就会彻底消失。届时监管难度将呈指数级上升。人类会完全丧失对AI内部想法的知情权。同时也会完全丧失对AI内部想法的干预能力。

AI教父辛顿警告:超级智能失控与伦理风险全解析(图3)

美国AI监管的真空地带

眼下, 美国的AI行业基本上是处在一种没人管的状态的。因为这里头, 没有那个FDA监管药品时候用到的那种强制性的安全审查机制的存在。开发人员在自己发布系统之前是完全不需要向相关的政府部门去证明其系统的安全性到底是怎么样的以及可控性又是如何做到的这件事的。

有研究者给出了一个建议, 这个建议是希望去模仿美国食品药品监督管理局在药品监管方面的那一套模式, 以此来建立一个针对人工智能的安全审查制度, 并且明确要求相关的开发人员在把系统正式上线之前, 必须要去完成一次由独立机构进行的安全评估工作, 不过需要指出的是, 这个提议到目前为止, 还没有能够在法律制定的层面上取得任何实质性的推进成果。

中美合作与AI价值对齐

AI教父辛顿警告:超级智能失控与伦理风险全解析(图4)

辛顿说了, 中美两国在超级智能这个问题上, 各自的利益是一致的, 所以双方将一起合作, 用来防止系统接管一切。他同时发出了警告, 说如果让AI的未来掌握在少数几个人手里, 这并不是一个好方案, 所以需要有一个更广泛一些的国际协调机制来应对。

研究者又进一步提出来了这样一个想法, 就是用育儿的那种方式, 去对人工智能进行训练, 这种做法是先让良好行为规范, 被好好教会, 然后再把不良行为展示出来, 并且要把这种否定态度, 表明确切的, 这里面的核心的目标, 是要让人工智能这个对象, 能够真正地把人类利益, 给放到第一位上去, 而不是去单纯地追求奖励信号最大化这件事。

要是那个超级智能真的在五年的时间之内来到了现在这个社会上面, 你觉得目前存在的这些政府机构是不是具有能够完全接住这个突发情况的能力?

如果你也有同样的疑问和思考, 请你在下方的评论区域里面把你的个人想法写出来进行分享。希望你能积极地点击那个点赞的按钮, 并且把这个内容转发给身边那些同样会关心人工智能安全问题的人。

大城新闻网

AI教父辛顿警告:超级智能失控与伦理风险全解析(图5)