AGI 在人工智能领域是一个颇具争议的话题，反对者认为它不过是一个白日梦。其他人，包括Anthropic 等大型人工智能实验室，警告说它即将到来，如果不采取措施实施适当的保护措施，可能会造成灾难性的危害。 DeepMind 的这份长达 145 页的论文由 DeepMind 联合创始人 Shane Legg 共同撰写，论文预测 AGI 将于 2030 年问世，并可能导致作者所说的“严重伤害”。论文并没有具体定义这一点，但给出了“生存风险”这一“永久摧毁人类”的危言耸听的例子。 “我们预计在本世纪末之前，将开发出一种超凡的…