Mako se narodil v japonském Kóbe jako syn známého autora dětských knih a ilustrátora Taro Jašimy. Když byl malý, jeho rodiče se přestěhovali do Spojených států. Po druhé světové válce, v roce 1949, se k nim připojil a v padesátých letech vstoupil do armády. V roce 1956 se stal naturalizovaným americkým občanem. Když se Mako poprvé připojil k rodičům v USA, studoval architekturu. Během vojenské služby v sobě objevil divadelní talent a trénoval v Pasadena Community Playhouse. Mako byl ženatý s herečkou Shizuko Hoshi, s níž měl dvě dcery (obě jsou herečky) a tři vnoučata.