▲奥特曼被罢免后以访客证件进入Open AI 办公楼(图源:奥特曼个人社交媒体)
尽管还没有最终结果,但这已经不是几个年轻科学家之间的争吵和博弈了,全体员工的利益加入了进来,资本的利益加入了进来,美国社会的商业利益和AI霸权利益加入了进来,有效加速主义战胜超级对齐,这个大方向、大趋势已经确定无疑。
人工智能超级对齐需要对齐的是人类安全,确保AI在强大起来的过程中,形成对人类的爱,这样的爱得是母亲(强大起来的AI)对婴儿(人类)一样的关照。OpenAI成立时注册成非营利机构,目的就是研究成果为全人类服务,避免被一家公司垄断。马斯克是它最早的投资参与者之一,后来OpenAI为了壮大,变成有限营利公司。在它发布了ChatGPT之后,展现出大河出川的无限前景,一旦完全商业化,很可能成为万亿美元的顶级上市公司,原来的初心还守得住吗?
事实证明,萨斯克维尔与董事会一起解雇奥特曼,但形势在几十个小时之内就出现反转,到目前770个员工中,超700名员工联署要求奥特曼回归,否则他们都将辞职,与奥特曼一起前往微软。这表明,在巨大利益推动下,超级对齐不可能在商业大环境下得到遵守,对它的打破是注定的。
奥特曼未必就不担心人工智能失控并对人类造成潜在伤害,但他力推的有效加速主义是照顾各方利益的现实主义选择。除非美国政府站出来干预,阻止人工智能在没有绝对安全措施情况下的突飞猛进,否则仅靠市场的自身力量,超级对齐不可能被长期遵守。
最坚持超级对齐的萨斯克维尔面对员工和投资者的强大反对,迅速倒戈,加入了要求奥特曼回归的联署,这应该也是他面对员工集体反对和投资人施压的无奈“变节”。这可以看成商业潮流中理想主义十分脆弱的冰山一角。是的,那么多投资人等着OpenAI一旦完全商业化并且上市而大捞一笔,更有无数公司等着OpenAI创造并开放大规模应用,实现在他们自己在各领域新一拨的成功。
而且,OpenAI投入更多资源去做人工智能安全,美国和其他国家私营公司会那样做吗?现在AI竞争也成为国家竞争的一部分,美国政府愿意美国公司的AI整体迭代速度慢下来吗?美国现在打击中国的重点目标之一就是我们的AI研发。老胡相信,华盛顿对奥特曼的路线压倒萨斯克维尔路线是乐见其成的。
▲当地时间10月17日,美国商务部发布新的芯片出口限制。美国商务部长雷蒙多称,此举的目的是限制中国“获得可能推动AI和精密计算机领域突破的先进制程半导体的途径”。(图源:外媒)
从远处观看OpenAI的这场人事大地震,和其中的戏中戏,老胡想到的是, OpenAI的人工智能研究确实进步得很快,他们说人工智能已经有了“意识”,发生这场路线之争,显示已经到了或者接近了人类需要抉择接下来准备冒多大风险的那个临界点。
我还想到,在中国互联网的聊天群里,我从没有看到相关知识分子和研究者群体对中国AI研究已经遭遇上述现实风险的讨论,我相信不是中国的知识分子缺少那样的责任心,更可能是我们的AI研究与美国的研究存在一个差距,那样的风险还没有形成我们这边知识分子群体的紧迫感。所以大家都在议论OpenAI的事情,谈得津津乐道,如数家珍。
AI刚开了一个头,它的纵深空间里都有什么,今天很难想象。中国一定要加快AI研发,那样才能提高我们了解AI深空的视野和立意。它不光是AI应用带动经济发展的问题,还有维护国家安全基本面,对塑造人类未来参与权的重大利益。
现在我们看着OpenAI几个年轻创业者之间玩“宫斗戏”,AI未来发展方向仿佛就由他们的斗争来决定,这是不行的。那么怎样才叫行?我们只有把自己的AI脚步加快,才能在那个速度中产生领会,并且获得话语权。
随便看看
- 电动车价格战将燃油车企逼到角落:不少销售跑滴滴
- 嫖到失联的他搞众筹向英国捐钱,意图不言而喻
- 联合国大会一致通过北京冬奥会奥林匹克休战决议
- 中国成倍反击 命名50处钓鱼岛附近海底地理实体
- 台媒:内外交困!拜登对华外交战略正处剧烈摇摆期
- 全球供应链断裂 海外奶粉价格创7年来新高
- 美国多个盟友不给力,日本趁机上位,试探中国找存在感
- 多维:蔡英文“保卫台湾” 习近平特朗普隔空呛声
- 为抓反对派白俄罗斯迫降过境客机 欧美:立即放人
- 剥夺睡眠,模拟性侵女童...澳洲退役士兵不忍了
- 中国汽车不再被卡脖!王传福:已掌握新能源核心技术
- 中国跨入战略空军门槛 专家:向着更高的目标迈进
- 大S汪小菲离婚 算算账 看看他们能分多少家产
- 陆媒:孟晚舟事件,美国和加拿大犯下的十个错误!
- 基辛格:美国败了,谁也别好过!后美元世界已来?
- 陆媒:一觉醒来,戏剧性一幕发生了!接着折腾吧