Oui c'est un objectif polyvalent de part sa grande plage focale. Malheureusement cette polyvalence à souvent des contre-parties : moins grande ouverture, moins de piqué à diverses focales/ouvertures, etc...
Mais heureusement, l'avatange de nos boitiers, c'est qu'on peut justement y mettre un objectif selon la situation! A besoin plus spécifique, il existe des objectifs plus spécifiques.
Pour faire des photos de portait avec un D5300, le grand classique sera à mon avis le 50mm f/1.8 AF-S. Un piqué magnifique, une ouverture grande possible, et pas très onéreux. Par contre, il ne sera pas adapté à ce genre de photo car son champ est trop serré (il ira parfaitement pour une personne seule, où vous pourrez jouer avec une faible profondeur de champ - ou 2 personnes) mais pour des groupes il faudrait prendre trop de recul.
Il existe le 35mm f/1.8 AF-S DX, qui est encore moins cher, et aussi excellent, qui couvre un peu plus de champ. Mais pour votre exemple de photo de groupe, cela reste insuffisant, car là vous étiez à 26mm de focale sur votre zoom.
Je ne saurais trop quoi vous conseiller ensuite. Il existe pléthore d'objectifs (fixes ou zoom), à plein de prix différents. Un objectif de meilleure qualité améliorera pour sûr vos photos, à vous de savoir jusqu'où souhaitez vous aller.
Mais avant de blâmer uniquement le matériel, l'autre axe est d'améliorer les connaissances du photographe pour réussir au mieux sa prise de vue dans ce genre de conditions (voir les remarques sur mon précédent message).