Родился 15 ноября (по ст. стилю) в Малпилской волости Рижского уезда Лифляндской губернии в семье латышского батрака Яниса Берзина и его жены Леены Либер. Был крещён в местном приходе 15 декабря того же года. Учился в приходской школе. В юношестве сплавлял лес: был подсобником на лесопильном заводе.
В 1907 году переехал в Ригу, работал ломовым извозчиком и строителем, грузчиком и чернорабочим. В 1910 году Ян Андреевич устроился подручным в механический цех рижского завода «Атлас». Не имея предварительной подготовки, он постепенно стал квалифицированным рабочим — фрезеровщиком, а впоследствии бригадиром. Здесь в 1913 году Ян Берзин вступил в Рижскую организацию СДРП
В 1915 году Ян Андреевич начал работать фрезеровщиком в минном отделе завода «ВЭК» («Всеобщая электрическая компания»). Первая мировая война заставила правительство эвакуировать некоторые заводы из Риги в Петроград. Вместе с другими рабочими Ян Берзин попадает в столицу России, работает на питерских заводах Пузырёва, Дюфлон, Раковицкого, Гери, Сименс-Шуккерт.