大多数对情报爆炸的反驳 都反对无人辩护的版本 以下是其支持者实际持有的版本,该版本的提出是为了使每项反对都能附在其有争议的前提上。
争吵,全力以赴 其现代形式——可追溯到I.
J.
Good于1965年,由大卫·查尔默斯在2010年哲学分析中和2013年由Eliezer Yudkowsky在"情报爆炸"(Intelligence Explosion Microconomics)中发展而来——论证流出: 最后一个条款是具有分量的部分,它是一个真正的论据而不是断言。
人类的认知架构是由一个优化过程所固定的,它没有选择数学或工程,在严重的新陈代谢和生出-运河的制约下运行,完全无法进行设计.
没有理由期望结果符合任何原则。
如果你接受这一点,那么一个达到人类水平的系统正在一个尺度上越过一个点,而不是到达它的顶端.
这四个前提,一次一个P1:AI研究是智力上的任务,部分是真实的,重要的不完整的.
前沿AI研究的很大一部分是软件和数学,一个系统原则上可以以速度完成.
其他部分不是: 获取数据,获取和操作硬件,最重要的是运行实验,这些实验需要物理机器上时钟的时间.
无论产生这种想法的速度有多快,训练需要几周时间。
P2:关于任务的人力水平意味着关于这项任务的人力水平 这是一种从一般到具体推论。
目前的系统很不均匀——在一些专业任务上很强,在另一些任务上很弱,人类觉得比较容易——因此,在人类一级的总量并不意味着在研究口味的特定技能上是平等的:知道哪些实验值得运行.
这种技能难以评估,因此难以培训。
见为什么基准结果不转移这一问题的一般形式。
P3: 应用能力产生改进 具体的问题是,数量是多少,单位努力是多少。
算法进步是真实而可测量的——见算法效率如何量化——但每个研究者年份的固定改进率与加速速度不相上下,论据需要第二.
P4: 改进后的系统至少同样有助于改进 这是使它成为爆炸而不是一次性收益的前提,它是防御最少的.
它要求每一回合的返回不会比能力的增长更快地减少。
如果每个相继的改进都更难找到——这是在大多数成熟的研究领域观察到的规律,每个研究人员的研究生产率往往会下降——这个过程会趋同而不是分歧.
在反对Chollet的地方,反对P2和陷害。
在"情报爆炸的不合理性"(2017年)中他提出,情报不是孤立的大脑的财产,而是一个在有工具和文化的环境中的大脑的财产,这种递相自我改进的系统已经以科学技术的形式存在,它们表现出了线性而不是爆炸性的进步,因为每个收益被不断上升的问题难度所吸收.
汉森,与P4相比,按基准费率计算。
罗宾·汉森(Robin Hanson)在2008年与尤德科夫斯基的交流中认为,通过经济而不是在一个系统中积累,能力增益是分散的,历史的增长-模式过渡是正确的参考类.
分歧的实质在于有关单位是制度还是经济.
瓶颈反对,反对P1和P3。
计算、数据、能耗、制造能力和实验耐久性都规定了更快的认知不会升起的限制。
Amdahl的法则适用于研究计划:如果部分工作无法加速,则无论其余工作变得多快,总速度都会被限制.
评价反对P3。
改进eq