Nakayama won zes medailles op de Olympische Zomerspelen 1968 (waarvan vier gouden) en vier op de Olympische Zomerspelen 1972, waarvan er twee van goud waren. Op beide toernooien won hij daarnaast zowel een zilveren als een bronzen medaille. Zowel in de meerkamp voor landenteams als aan de ringen werd hij op beide toernooien olympisch kampioen. In '68 haalde hij daarbij op brug en rekstok Olympische titels.
Nakayama werd in 1966 in Dortmund wereldkampioen op vloer, aan de rekstok en in de meerkamp voor landenteams. In 1970 voegde hij daar in Ljubljana wereldtitels op nogmaals vloer en landenmeerkamp, ringen en brug aan toe.