人工智能发展:更高级的人工智能更富侵略性或者更好斗
每当人们谈论起人工智能,大家都会使用一些词汇诸如”smarter”, ”faster”, ”effective”,” “precise”等。
强人工智能是有可能实现的,但是现在的技术离强人工智能的距离还非常远。原文中第一个图很有意思,就是技术发展曲线。全文的所有论据,都建立在“指数发展”这个假设上。指数曲线在接近0的时候是类似线性的,不光是指数,多项式函数、对数函数、甚至多重指数在小范围内也可以用线性拟合得很好。而且不同的指数和在0附近都很接近,但对“奇点”何时到来的估算可能误差千百年。如果按照“指数发展”来算,而且乐观的估计指数的系数,那你妹的什么技术都不是问题啊,人类分分钟占领全宇宙。我更相信的是,科学发展是有爆发期和稳定期的。一个技术突破会带来难以想象的繁荣,之后的科学发展都比之前的更快,但不会天天都是技术突破。比如,二十世纪上半页的物理学十分辉煌,相对论和量子力学的建立引发了一系列技术革命。但从那以后物理学一直很平稳。杨振宁就说过他赶上了物理学的好时候,让他现在做学术,可能就不会选物理学了。要是科幻作家站在1950年前后,用指数发展估计物理学的发展,那到今天我们早就弄出大统一理论搞定核聚变发电了。又比如人均寿命从先秦时的二十几岁发展到现在的80岁,如果用指数拟合,那过几十年是不是要活几百岁了啊
支持人工智能指数发展的路线包括:抄袭人脑,进化算法,电脑自己解决。我不知道这几条是不是对应类似machine learning, neural network, evolutionary algorithm, program synthesis之类的领域。如果是的话,这几个领域我都有一点粗浅的了解。欢迎大神批评补充。比如machine learning和neural network, 核心都是回归和数据拟合,离智能化还很远。大牛Andrew Ng的网课,Coursera - Free Online Courses From Top Universities光靠这个实现强人工智能我是不信滴。关于evolutionary algorithm,去年有一个大牛的talk,推荐大家看一下。全篇都是技术讨论没有涉及“奇点”,大家可以自己判断现在的研究前沿离真正的强人工智能还有多远。从43分钟开始:Dana Scott: VSL Opening & Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeoprogram synthesis里,现在计算机能自己生成的程序还很弱智,而且算法复杂度都是exponential time甚至doubly exponential time(比如)的。用的方法本质上是先靠程序员输入一个程序模板和参数空间,然后用各种方法遍历所有可能的程序,看看是不是满足要求。这其实引出了一个很有意思的问题:现在我们CPU的计算能力是指数增长的,但按照今天的算法,许多真正有趣的问题都是需要“指数时间”,甚至多重指数时间才能解决的。那么,我们实际解决新问题的速度一定是指数发展的吗?让该领域内的专家来介绍现在的研究成果和面临的巨大问题,比起作家自己泛泛而谈要好得多。
其他反对的观点其实也不少,比如可以参考这篇文章 Hyping Artificial Intelligence, Yet Again等有空我可能会翻译一下。