特斯拉执行长日前发出指控Open AI法庭文件,提到Open AI执行长山姆.奥特曼违背公司创立目的,批评奥特曼只为了营利而忽视对「安全创建AGI」。
马斯克告OpenAI!指控奥特曼违背发展AGI初衷
特斯拉执行长马斯克(Elon Musk)在2月29日发出指控OpenAI的法庭文件,提到OpenAI执行长山姆.奥特曼(Sam Altman)发展AGI的方向违背公司创立目的,并批评奥特曼只为了营利而忽视「安全创建AGI」以及「非营利」的承诺。
AGI是什么?跟AI不同在哪?
AGI就像是科幻小说中无所不能的电脑,全文为「通用人工智慧」(Artificial General Intelligence),意思是具有人类智慧和自学能力的AI,且不需要经过语言模型的训练,就可以执行任务。
有学者认为,AGI是一种具有人类理解和认知能力的电脑程式,在遇到陌生任务或需要高度运算的情境下,可以即时的提出解决方案,模拟人类大脑运作模式,此特性也引发不少专家担忧其风险和伦理问题。
根据《彭博》的报导指出,马斯克一直是最直言不讳地谈论人工智慧和通用人工智慧(AGI)危险的人之一。
而现行大部分的AI模型,必须透过预先设定的参数、大数据或语言模型来训练才可以做相关的应用,且无法跨领域,例如:影像辨识的AI模型无法协助建置网站。目前AGI仍然处于理论阶段。
马斯克为何告OpenAI?
根据《彭博》的报导,马斯克在美国加州旧金山高等法院所提出长达46页的诉讼文件中,怒批奥特曼违反OpenAI的创办初衷,指控他们将利益置于人类福祉之上,违反当初「非营利」的目的。
马斯克曾经为OpenAI的共同创始人,但现在已经退出公司。诉讼书中提到,OpenAI与微软公司的关系过度紧密,破坏了创建通用人工智慧的目的,转成营利导向,而微软也成为OpenAI最大的股东,恐影响未来OpenAI发展方向。
文件中写道:「OpenAI在官网上的公司理念中,仍说AGI将造福人类。但实际上,OpenAI已是全球规模最大科技公司——微软的子公司。」
对此,根据《彭博》取得的OpenAI员工备忘录中,OpenAI的首席策略长杰森.权(Jason Kwon)也做出回应,在给员工的内部备忘录中指出,「不同意」马斯克的指控,并反驳马斯克提到的OpenAI是微软『子公司』的说法,并说马斯克是因为无法继续留在OpenAI有遗憾,才出此言论。
马斯克指控OpenAI哪5项罪名?
确切来说,马斯克提出了5项诉求:
指控一: OpenAI违反合约且未履行承诺。马斯克认为,当初愿意在OpenAI出钱出力,就是为了OpenAI「造福人类」的目标。现在,OpenAI不只没有公开GPT-4的技术细节,还将其授权给微软,违反当初的协议。
指控二: OpenAI未负起信托责任。马斯克指控OpenAI将资金用于营利目的,违反了「研发AGI不得用于营利目的」的承诺。
指控三: OpenAI涉及不公正的商业交易行为。马斯克控诉,OpenAI在募资时的宣传造假,像是承诺要作为非营利组织开发AGI,让马斯克投入捐款和资源,「如果早知这样,我绝对不会向OpenAI捐款。」
指控四: OpenAI内部会计准则不值得信任。
指控五:请求法院或陪审团协助马斯克判定应获得的赔偿。马斯克于诉讼文件中要求法院颁布命令,来促使OpenAI向公众公开其所有研究和技术,并要求奥特曼放弃涉嫌非法赚取的收入。
图/ 美联社
马斯克与OpenAI的故事:剪不断、理还乱
马斯克于2015年和其他合伙人出资成立OpenAI,而后因为理念不合而在2018年退出。在一次的访谈中,马斯克说到,由于忙碌于特斯拉和Space X的营运,因此无暇分心在OpenAI上。而最核心的关键离开因素则是:不认同OpenAI未来的发展方向。
创立初期,OpenAI自诩为一家非营利组织,承诺会免费分享开发程式码给用户,然而2019年,奥特曼担任执行长,宣布成立营利的子公司OpenAI LP,微软也在这时投资10亿美元。
离开OpenAI之后,马斯克经常公开表明对OpenAI的不满,并指控其资讯不够公开透明、技术发展不够安全等,也针对创立初衷变质进行批判,呼吁各界关注其内部治理和收益模式。
诉讼中也指出,奥特曼联合微软在董事会上罢免了许多公司创立初期的董事成员,而奥特曼新挑选的董事会缺乏相关技术专长或人工治理能力和背景,比起重视AI开发伦理,更重视企业营利。
即使退出OpenAI,马斯克仍持续提供研发资金直到2020年为止。根据诉讼文件显示,马斯克的投资累积金额超过4,400万美元。如今也向法院提出要求OpenAI赔偿相关费用,但具体赔偿项目为何并未多说明。
《彭博》就本案件访问了证券律师、西北大学客座法学教授安德鲁.史托特曼(Andrew Stoltmann),其表示:「指称OpenAI跟微软有很密切的关系,违反了最初的承诺,这是一个『非常难以证实的主张』。」且他也提到,利用诉讼传达自身想表达的讯息,是马斯克常用的手法。
这场针对AGI、是否造福人类、是否违反OpenAI初衷的大戏,短时间内还不会落幕,就看接下来各方如何回应(或是不回应)、真相能否越来越明白。