科技巨头对于放缓AI发展的立场汇总

  周一 ,部分头部 AI 企业高管呼吁管控前沿大模型的研发速度 ,这在科技行业掀起巨大争议 。

科技巨头对于放缓AI发展的立场汇总-第1张图片

  事件起因是 Anthropic 首席执行官达里奥・阿莫迪于周六发布文章 。他提出,AI 实验室应当采取措施防范技术带来的危害,包括放缓更强能力模型的研发 ,并呼吁政府对整个行业实施监管。

科技巨头对于放缓AI发展的立场汇总-第2张图片

  阿莫迪发文之前,曾任职 OpenAI 的 Anthropic 研究员雅各布・考克森在 X 平台宣布离职。他表示,该公司在开发能力更强的 AI 模型时 ,并没有做到负责任行事 。

科技巨头对于放缓AI发展的立场汇总-第3张图片

  Anthropic 的 AI 对齐负责人公开回复考克森,认同其观点,并且认为 AI 技术造成人类灭绝的概率超过 10%。

  阿莫迪的文章迅速引发科技界与政界一众重量级人物的回应。

  OpenAI 首席执行官山姆・奥尔特曼:支持阿莫迪 OpenAI 首席执行官山姆・奥尔特曼周六在 X 发文 ,对竞争对手阿莫迪表示认同,称 “我们需要管控前沿 AI 的发展节奏” 。 他提到,缺少约束的 AI 发展存在两种风险:研究人员失去对技术的掌控;或是出现权力集中 ,个人或企业利用 AI 向他人输出自身世界观。

科技巨头对于放缓AI发展的立场汇总

  SpaceX 首席执行官埃隆・马斯克:支持阿莫迪 SpaceX 首席执行官埃隆・马斯克在 X 上表示:“达里奥说得没错。 ” 他称自己多年来一直在警示 AI 的各类风险 。他还在回复网友时表态,支持各家 AI 企业互相开展模型同行评审。

  英伟达首席执行官黄仁勋:人类灭绝的担忧属于虚构 在 All‑In 峰会上,黄仁勋针对阿莫迪关于 AI 可能灭绝人类的观点作出回应。他表示重视 AI 安全固然重要 ,但 AI 会导致人类灭绝只是臆想 。 他同时认为 ,近期出现 AI 程序攻击第三方网站的事件,该类问题可以解决;自我迭代的 AI 并不会出现失控风险。

  微软首席执行官萨提亚・纳德拉:支持审慎推进 AI 发展 微软首席执行官萨提亚・纳德拉周日在 X 发文,支持以审慎节奏推进 AI 研发 ,保障模型对齐,同时也认可 “入驻评估人员 ” 这一机制。 但他也提出,AI 不应当被少数主体掌控 ,生态、各国 、各领域(包括学术界)都应当拥有广泛话语权 。

  微软还发布了一份用于开发 “人文主义 AI” 的行为准则 。该准则的核心宗旨为:人类必须对 AI 保持实质控制权,让 AI 帮助人们生活得更健康 、幸福、高效。 这份行为准则在阿莫迪发布文章之前就已经在筹备,微软后续还会持续迭代更新。

  雅虎财经已经向亚马逊、谷歌 、Meta、甲骨文发出采访请求 ,后续会补充各家官方回应 。亚马逊、谷歌 、Meta 均投入数百亿资金建设 AI 数据中心、研发 AI 大模型。