Pour te donner une image, le zoom, c'est un couteau suisse, la focale fixe, ça peut être un éminceur, un poignard, une dague, un glaive, etc... bref: un outil spécifique qui correspond à un usage spécifique.
Quand tu va pique-niquer, le couteau suisse est certainement la meilleur option; peu de chance que tu ai besoin d'un éminceur ou d'une dague. Par contre, même s'il est tout à fait possible de cuisiner avec un couteau suisse, un éminceur bien tranchant, c'est quand même plus efficace et confortable. Et si tu pars au combat, un glaive ou une dague sera plus adaptée.
Quand tu sors en journée, sans vraiment savoir ce que tu veux photographier, le zoom est la meilleur option. Si tu fais une séance portrait, une focale fixe type 85mm sera bien plus intéressante. Si tu fais du paysage ou de la street, un 20mm sera appréciable. Si tu fais de l'animalier, en dessous de 200mm, point de salut.
Le 35mm, c'est un parfait compromis pour les fois où le zoom atteint ses limites.
Une des raisons pour lesquelles je considère le 35mm comme formateur, c'est qu'il est relativement compliqué à utiliser, contrairement à ce qu'on peut penser, dans le sens où il ne t'offrira pas les "effets spéciaux" du grand angle (pour paraphraser Cartier-Bresson) ni la facilité d'un téléobjectif à isoler le sujet. Il t'oblige à tenir compte de l'environnement et donc à soigner ton cadrage pour réussir à faire une photo intéressante. Une composition mal soignée avec cette focale donnera une image désespérément fade et ennuyeuse, ou "brouillonne" et encombrée si les différents éléments ne sont pas bien organisés dans le cadre.
Edit: les longueurs focales que je donne sont adaptées au format Dx pour t'éviter la gymnastique mentale de la conversion. Pour un Fx, il faut multiplier par 1,5.