Il ne faut pas t'attendre à avoir un piqué extraordinairement meilleur. Ce que disent les tests dans les bouquins ne sont pas perceptibles pour le quidam.
Je te donne un exemple : le 35mmDX est censé avoir un excellent piqué. Mais quand tu le mets en face du 18-55 à 35mm tu ne constates que très peu de différence à ouverture identique (mêmes conditions d'éclairage, ISO identiques, trépied, retardateur, etc...).
Pour revenir dans ton cas, le 50mm F/1.8 AFD est d'une technologie assez ancienne, qui a peu évolué durant les 30 dernières années (pourquoi faire évoluer quelque chose de parfait). Je crois qu'il est identique au 50mm AIS en terme de formule optique. Le 18-105 est récent et bénéficie de la recherche de Nikon. Tu gagnes les grandes ouvertures par rapport à ton zoom et c'est formidable pour les ambiances sombres. Bien sûr le numérique te permet de pousser les ISO mais le bruit apparait, ou alors la netteté baisse à cause de l'algorithme de réduction du bruit. Dans le cas du portrait, tu auras assez de lumière et l'ouverture à 1.8 te permet d'avoir un beau boké (flou de l'arrière plan) pour dégager le sujet. Les grandes ouvertures (F/1.8 ) sont connues pour ne pas avoir beaucoup de piqué, mais su un portrait c'est intéressant d'avoir un peu de flouté, ca élimine les impuretés du visage, les ports de la peau, etc...
Pour conclure il n'y a pas d'intéret à prendre des portrait à F/5.0, et c'est normal que ton 18-105 fasse aussi bien.