Pour les photos de sport en salle, c'est surtout l'objectif qu'il faut changer. Il faut un objectif "lumineux". L'idéal étant un 70-200 f/2.8 mais c'est cher et lourd. Tu peux aussi choisir des focales fixes comme un 50 mm f/1.8 ou 85 mm f/1.8, voir plus long selon la distance avec le sujet.
Le D3100 n'est pas un mauvais boîtier. Les appareils récents te feront gagner un 1IL (tu auras donc la même qualité entre les 1600 ISO du D3100 et les 3200 ISO du D3400). En passant au D610 (donc un capteur plus gros), tu gagnes encore 1 IL. Par contre, il va falloir augmenter ton budget pour lui adjoindre des objectifs (les tiens ne sont pas entièrement compatibles).
Avec un objectif du type 70-200 f/2.8, tu gagnes aussi 2 IL par rapport à ton 55-300. Tu gagnes aussi en qualité d'image. Tu auras aussi un fond un peu plus flou ce qui est bien pour détacher le sujet du fond.
Je te déconseille les 18-200 ou 18-300. Ce sont des objectifs très polyvalent, mais pas du tout lumineux. Tu auras les même résultats qu'avec ton 55-300. De plus, ce type d'objectif est moyen partout et bon nul part. Il y a beaucoup de compromis à faire pour arriver à une qualité moyenne sur une plage focale aussi large.
Pour 1000 €, tu peux sans doute trouver en occaz un 70-200 f/2.8 chez Tamron, Sigma, ou un ancien Nikon.