Родился в Нижнем Тагиле в семье рабочего Вениамина Ярина. С Урала он приехал поступать в Московский госуниверситет им. Ломоносова. Там он получил диплом экономиста. Позже в Санкт-Петербургском университете МВД России он получил второе высшее образование – юридическое.
Карьеру Андрей Ярин начал строить с кредитного отдела Московского коммерческого банка «Дисконт», куда устроился сразу после окончания МГУ. В 1995 году Ярин непродолжительное время возглавлял ЗАО «Дисконт плюс». После был председателем правления АО «Внешторгбанк».
В 2001 году Андрей Ярин перешел на государственную службу. За 15 лет он успел поработать в региональных и федеральных органах власти. В 2004 году Ярин был назначен вице-губернатором Рязанской области – председателем правительства региона. С этой должности в апреле 2005 года он ушел в полпредство Южного федерального округа (тогда его возглавлял Дмитрий Козак) на пост заместителя начальника департамента по внутренне политике. Следующий этап карьеры Андрея Ярина вновь был связан с регионами: в 2006-2009 годах он возглавлял правительство Кабардино-Балкарии.
С2009 по 2012 годы Яринтрудился на Старой площади – на должности главного советника аппарата, а после – руководителя аппарата заместителя главы администрации Александра Беглова. С июня 2012 года и по сегодняшний день Андрей Ярин был заместителем полпреда президента России в Центральном федеральном округе.
22 октября Владимир Путин назначил Андрея Ярина на должность главы управления президента по внутренней политике.