科学理论
-
深度学习终于要有科学理论了?UC Berkeley等14位学者提出「学习力学」
这是一个微妙的时代。一边是大模型以令人眩晕的速度迭代,参数量从百亿级迈向万亿级;另一边,学术界却陷入沉默——我们仍未找到深度学习的基本理论,神经网络依然是一个黑箱。 LeCun在X上直言不讳:“深度学习的理论基础仍是一片荒原。”Geoffrey Hinton也多次公开表达类似观点:深度学习的成功更像炼金术而非科学——我们知道什么有效,却不知道为什么有效。 但…
这是一个微妙的时代。一边是大模型以令人眩晕的速度迭代,参数量从百亿级迈向万亿级;另一边,学术界却陷入沉默——我们仍未找到深度学习的基本理论,神经网络依然是一个黑箱。 LeCun在X上直言不讳:“深度学习的理论基础仍是一片荒原。”Geoffrey Hinton也多次公开表达类似观点:深度学习的成功更像炼金术而非科学——我们知道什么有效,却不知道为什么有效。 但…