埃隆·马斯克(Elon Musk)重新计算了人工智能对人类风险的成本收益分析。他估计10%-20%人工智能有可能毁灭人类,但相信我们无论如何都应该建造它这一声明是在为期四天的丰盛峰会的“伟大的人工智能辩论”研讨会上发表的。
AI安全专家的意见
一位人工智能安全专家告诉Business Insider,马斯克低估了潜在灾难的风险。美国路易斯维尔大学(University of Louisville)网络安全实验室(Cyber Security Laboratory)主任、人工智能安全研究员罗曼·扬波尔斯基(Roman Yampolskiy)认为,“毁灭的可能性”或人工智能控制人类或导致人类终结事件的可能性要高得多。
末日的可能性
《纽约时报》称“p(毁灭)”是“正在席卷硅谷的病态的新统计数据”,该媒体援引多位科技高管的估计,人工智能驱动的世界末日的可能性从5%到50%不等。扬波斯基认为风险为“99.999999%”。
马斯克的人工智能风险投资
尽管存在风险,但马斯克一直倡导对人工智能进行监管,并于去年成立了一家名为xAI的公司,致力于进一步扩大这项技术的力量。这是除了OpenAI之外的另一家公司,马斯克与山姆·奥特曼在2018年卸任董事会之前共同创建的。