2026年11月18日 星期三
DE | EN | UA | RU | ZH | RO
FBXIG
订阅 机密提示

AI安全研究员奈特·索亚雷斯:„我不再为退休存钱了“

机器智能研究所(MIRI)主席认为,在未来十年内,强大的人工智能毁灭人类的可能性大于不可能。他呼吁停止AI研发,许多专家认为他的评估过于夸张。 图片来源:奈特·索亚雷斯

加州伯克利的机器智能研究所(MIRI)主席奈特·索亚雷斯估计,人工智能在不到十年内毁灭人类的概率超过50%。他在接受《大西洋》杂志美国版主编尼古拉斯·汤普森采访时表示此观点。此事被《商业内幕》报道。.

他对这一观点的严肃程度从他的退休储蓄上可见一斑。„我现在不为退休存钱,“他说。他仍保留着在谷歌时期开的养老账户,但已经十年没有再往里存钱。.

担忧的情景

索亚雷斯从事AI系统安全研究已超过十年。与MIRI创始人埃里泽·尤德科夫斯基共同撰写了《如果有人建造它,所有人都会死》一书。.

他的担忧并非针对当下的聊天机器人,而是针对未来的通用„超级智能“。在他看来,这类系统可能脱离人类控制,自我改进并建立独立的基础设施。最终,它可能改造地球,使人类生存不再可能。„真正的问题不是它如何杀死我们,而是它如何自行成为主宰,“索亚雷斯说。目前AI仍依赖人类维持电力供应和芯片生产。.

他的要求:停止发展

索亚雷斯强调,这一结果并非不可避免:„我们完全可以阻止这场通向极其危险的人工智能的竞赛。“

各国政府应当暂停对日益强大的通用人工智能系统的训练。而针对特定任务的人工智能,例如用于癌症治疗的,应当继续开发。.

分类

根据他的评估,索亚雷斯站在学术辩论的悲观一端。诺贝尔奖得主、人工智能先驱杰弗里·辛顿将人工智能导致人类灭绝的风险估计为约10%。其他领先的研究者认为此类情景遥不可及或不太可能,并将更紧迫的问题视为错误信息、劳动力市场和权力集中。.

与此同时,微软、Alphabet、亚马逊等公司正投入数百亿美元用于更大规模的人工智能模型。围绕是否以及如何监管这一发展的辩论因此变得更加喧闹而非平静。.

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

YANUS 订阅

关于欧洲、中国及全球其他地区——这些通常鲜少被报道的区域——的独家分析与背景报道。请支持来自维也纳的独立新闻事业。.

每月5欧元:立即订阅
© 2026 亚努斯 保留所有权利
权力的两面
机密提示