Mikojans bija boļševiku partijas biedrs no 1915. gada. No 1935. līdz 1966. gadam bija PSKP CK Politbiroja biedrs. Vairākkārt ieņēma ministru amatus, lielākoties PSRS ārējās un iekšējās tirdzniecības sfērā. Piedalījies nozīmīgu diplomātisku jautājumu risināšanā, tai skaitā, 1962. gadā Kubas raķešu krīzes laikā Hruščeva uzdevumā veda sarunas starp Džonu Kenediju un Fidelu Kastro.
Anastasa Mikojana brālis Artjoms Mikojans bija padomju lidmašīnu "Mig" aviokontruktors, bet dēls Stepans Mikojans kļuva par izmēģinātājlidotāju.