AGI时间线非常双峰。要么在2030年实现，要么失败。 过去十年AI的进展是通过扩大前沿系统的训练计算来推动的（每年3.55倍，4年内160倍）。 这种情况在本十年之后无法继续，无论是芯片、功率，甚至是用于训练的原始GDP的比例。 2030年之后，AI的进展主要必须来自算法进步。但即使在这里，低垂的果实也将被摘取（至少在深度学习范式下）。 因此，AGI的年度概率急剧下降。我们可能在2040+的时间线上。 我与@_sholtodouglas和@TrentonBricken讨论了这一动态：