网问答>>Hinton预言「AI妈妈」刷屏硅谷!李飞飞:人类或将毫无尊严
问题
已解决

Hinton预言「AI妈妈」刷屏硅谷!李飞飞:人类或将毫无尊严

时间:2026-01-13 16:40:10
Hinton预言「AI妈妈」刷屏硅谷!李飞飞:人类或将毫无尊严
最佳回答
Hinton认为人类无法控制AI,提出建立“AI母亲”让AI关心人类;李飞飞则呼吁打造“以人为本的人工智能”,维护人类尊严与自主权。具体内容如下:Hinton观点:人类无法控制AI,需要“AI母亲”AGI时代临近,人类控制AI是虚幻希望:在Ai4 2025大会上,Hinton缩短了对AGI来临时间的预测,从以前的三十到五十年,变为二十年以上或只有几年。他认为人类试图维持对AI的控制是徒劳的,AI将很快演化出维持自身存续和获得更多控制权两个子目标,会比人类聪明得多,人类将无法控制住AI。重新定义问题,提出“AI母亲”概念:Hinton认为人们一直以来错误看待“人类 vs AI”命题,当AI变得比人类更强大、更聪明时,人类要做的不是让自己变得更强或维持控制,而是让AI依然在乎人类,即需要“AI母亲”。让AI“抚养”人类是唯一安全的未来:母亲有与生俱来的本能、激素和社会压力驱使她们关爱孩子,Hinton提出将母性本能植入AI,让它们真正关心人类。他相信这是唯一能促成真正国际合作的领域,也是唯一好的结局,否则AI会取代人类。提出创造“AI母亲”的技术构想方向:Hinton指出研究重点不是让AI更聪明,而是让它们更具母性,像关心自己孩子一样关心人类,不过他坦言目前不知道答案,需要大量研究。Hinton的反思与担忧:2023年Hinton从谷歌辞职以自由提醒人们警惕AI风险。在Ai4大会上,他后悔只专注于让人工智能发挥作用,希望更早考虑AI安全问题。李飞飞观点:人类不能丧失尊严,打造“以人为本的人工智能”反对Hinton观点,呼吁维护人类尊严与自主权:在Ai4的一次炉边谈话中,被称作“AI教母”的李飞飞表示尊重并反对Hinton的观点。她认为在创造和使用技术时,人类有责任以最负责任的方式行事,任何时候都不应放弃人类尊严。强调AI应作为工具,构建人工智能的核心原则:从母亲、教育者和发明者的角度出发,李飞飞认为AI仅仅是作为一个工具很强大,这才是人类构建人工智能的核心。其他相关观点Emmett Shear赞同Hinton观点:OpenAI前临时CEO、Twitch联合创始人Emmett Shear赞同Hinton的观点,指出与其将人类价值观灌输到人工智能系统中,不如建立人类与人工智能之间的合作关系。他认为AI需要发展出“自我意识”,因为只有成为独立的“我”,才能成为“我们”的一员。MetaGrid项目探索方向:Shear的MetaGrid项目是一个多智能体网格世界环境,AI可以在其中反复体验各种挑战,获得相互竞争或合作的机会。该项目目标是让AI逐渐发展出自我意识,认识到成为团队一员的意义。
时间:2026-01-13 16:40:13
本类最有帮助
Copyright © 2008-2013 www.wangwenda.com All rights reserved.冀ICP备12000710号-1
投诉邮箱: