上周，微软与OpenAI在投资者强烈要求后者转型为盈利实体的巨大压力下，签署了一份新的最终协议，重新缔结了双方的AI合作誓约。经过ChatGPT制造商的资本重组后，作为最大出资方的微软向OpenAI投入了130亿美元，目前在OpenAI的公益公司（PBC）中持有约1350亿美元的投资，折算后约占公司股份的27%。
该协议还包含了一些有趣的条款。例如，OpenAI不得通过提前宣称实现通用人工智能（AGI）而中止与微软的合作。
相反，协议要求任命一个独立专家小组来核实该声明。即便如此，微软对模型和产品的知识产权也将延续至2032年，包括AGI之后的模型。
更为引人注目的是，微软可以在不依赖OpenAI或与第三方合作的情况下独立研发AGI。正如微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）最近的博客所述，软件巨头已经在探索这条路径
微软的前沿AI研究实验室正积极追求人文超智能，旨在实现“科学与发明的全部善果，而不带‘不可控风险’”。这将确保人类牢牢把握技术，避免失控螺旋。
虽然AGI已成为科技界的流行词，并且每次被提及时都有不同的解释，但其经典定义是指能够匹配人类认知能力的强大AI系统。然而，微软对AI的宏愿更上一层楼，它正通过MAI超智能团队追求人文超智能（HSI）。
HSI本质上指的是在广泛领域超越人类认知能力的AI系统，但带有一点合同性的限制。微软表示，这项技术将被设定为“始终为人类及全人类服务”。
这家科技巨头似乎正在从激烈的AGI竞赛中抽身，通过HSI在不断演进的格局中走出自己的道路。正如苏莱曼所言
“我把它称作人文超智能，以明确这不是无目的的技术目标、空洞的挑战或为了攀登而攀登的山峰。我们这样做是为了解决真实、具体的问题，并且以一种保持脚踏实地、可控的方式进行。我们并不是在构建一个定义模糊、飘渺的超智能；我们在打造一种专为服务人类而设计的实用技术。”
但我们该如何确保具备“学习如何学习”能力的开放式系统安全可控？苏莱曼表示，该系统需要持续、永久地被约束和对齐。虽然这看起来工作量巨大，但前沿AI研究实验室单靠自身难以完成这项艰巨任务；必须所有人共同参与，才能确保其安全并始终受人类控制。“全人类都需要一起、一直做到这一点，”苏莱曼补充道。
当然，这还要防止不良行为者和某些疯狂的车库爱好者利用安全和隐私漏洞造成伤害。不过，这位高管也承认，目前没有具体答案或解决方案能够保证技术绝对安全
“最终，微软希望通过超智能为人类文明带来进步，这不仅会让人类站在食物链的顶端，也会让每个人的生活更幸福、更健康。任何达不到这一目标的技术都是失败的，我们应当摒弃它，”苏莱曼补充道。
尽管有人声称我们正处于即将破裂的AI泡沫中，但同样也存在技术可能彻底改变未来的可能性——从工作到医疗、教育等方方面面。随着微软向超智能迈进，它希望打造一个人类比AI更重要的世界。
“人文超智能把人类置于中心位置。这是站在人类阵营、从属且可控的AI，绝不会打开潘多拉盒子。受限、价值对齐、安全——这些是基础，但远远不够，”这位高管总结道。
富华优配提示：文章来自网络，不代表本站观点。
