ЯсноПонятно24

Предположим, вы построили нейронную сеть. Вы решаете инициализировать веса и смещения нулями. Какое из следующих утверждений верно? Нейроны первого скрытого слоя будут выполнять различные друг от друга вычисления даже на первой итерации; таким образом, их параметры будут продолжать развиваться по-своему Каждый нейрон в первом скрытом слое будет выполнять одно и то же вычисление. Таким образом, даже после нескольких итераций градиентного спуска каждый нейрон в слое будет вычислять то же самое, что и другие нейроны Каждый нейрон в первом скрытом слое будет вычислять одно и то же, но нейроны в разных слоях будут вычислять разные вещи, таким образом, мы достигли «нарушения симметрии» Каждый нейрон в первом скрытом слое будет выполнять одно и то же вычисление на первой итерации. Но после одной итерации градиентного спуска они научатся вычислять разные вещи, потому что у нас «нарушена симметрия»