Nesmith spielte als Jugendlicher für die Schulmannschaft der Porter-Gaud School in Charleston im US-Bundesstaat South Carolina.[1] Zur Saison 2018/19 wechselte er an die Vanderbilt University nach Nashville (Bundesstaat Tennessee). Er erzielte 11 Punkte und 5,5 Rebounds je Begegnung und stand im Laufe der Spielzeit 18/19 in 19 von 32 Partien in der Anfangsaufstellung. In der Saison 2019/20 steigerte er sich auf 23 Punkte und 4,9 Rebounds je Einsatz und machte mit einer äußerst hohen Trefferquote bei Dreipunktwürfen von 52,2 Prozent auf sich aufmerksam. Er traf zwischen 2018 und 2020 insgesamt 119 seiner 290 Würfe von jenseits der Dreipunktemarkierung. Das ergab eine Erfolgsquote von 41 Prozent.[2] Im Januar 2020 zog er sich einen Ermüdungsbruch im Fuß zu.[3] Im Anschluss an die Saison 2019/20 gab er seinen Entschluss bekannt, die Hochschule zu verlassen, um Berufsbasketballspieler zu werden. Er schrieb sich für das Draftverfahren der NBA ein.[4] Als 14. aufgerufener Spieler kam er zu den Boston Celtics.[5]