Театром Жаров увлекся в детстве, когда по воскресеньям стал посещать благотворительные показы спектаклей в знаменитом Театре Корша. За короткое время он пересмотрел там многие постановки: «Недоросля», «Ревизора», «Двенадцатую ночь», «Двух сироток» и другие спектакли. Однако об актерской профессии тогда еще не помышлял, поскольку надо было помогать отцу зарабатывать на пропитание. Поэтому, окончив высшее городское училище, Жаров устроился учеником наборщика в типолитографию Бахмана. Как было записано в его расчетной книжке: «Пятьдесят копеек в день на харчах отца».
Между тем, как ни трудна была жизнь, но все свободное время Жаров посвящал самообразованию. Ходил на лекции в епархиальный дом в Лиховом переулке, затем стал слушателем народного университета Шанявского. Однако в 16 лет Жаров случайно попал в массовку спектакля «Капитанская дочка» в Театре Зимина, что на Большой Дмитровке, и окончательно решил, что станет артистом. Он записался в театр бессловесным статистом, гонорар которого составлял всего лишь несколько копеек. И целых два года тянул эту унизительную лямку. Тогда же впервые снялся в кино: в фильме «Царь Иван Васильевич Грозный» сыграл крохотную роль молодого опричника (кстати, роль царя в нем сыграл Федор Шаляпин).
Осенью 1916 года Жаров решает идти учиться на актера. Это был год Дракона, про который в гороскопе Свиньи сказано следующее: «Блеск Дракона слепит глаза Свинье. Но ей не надо никуда стремиться - лучше найти себе укромное местечко и переждать». Жаров этим советом пренебрег. Он решил пробовать поступить сразу в несколько театральных училищ - в том числе при Малом театре и МХАТе, - но ни в одно из них не попал. В итоге ему пришлось вернуться в Театр Зимина все в ту же бессловесную массовку (в то самое «укромное местечко»).