В 1981 году окончил физико-математический факультет Астраханского государственного педагогического института. После окончания института работал учителем, завучем, а затем директором Каспийской восьмилетней школы (поселок Каспий Камызякского района Астраханской области).
С 1986 года – второй секретарь, с 1987 года – первый секретарь Камызякского райкома ВЛКСМ.
В 1988–1990 годах – первый секретарь Астраханского обкома ВЛКСМ.
В 1990–1993 годах – народный депутат России, член Верховного Совета России, член фракции «Смена (Новая политика)», член комитета Верховного Совета по делам молодежи, член конституционной комиссии. В августе 1991 года принимал участие в защите Белого дома, за что был награжден медалью «Защитнику свободной России».
28 августа 1991 года указом президента Ельцина был образован новый орган руководства – администрация Астраханской области, а главой администрации назначен Анатолий Гужвин, бывший председатель исполкома областного Совета народных депутатов. Тогда же Гужвин назначил Жилкина своим первым заместителем.
В 1996 году окончил Российскую академию государственной службы при Президенте Российской Федерации, кандидат экономических наук, доктор биологических наук, почетный профессор Астраханского государственного технического университета.
Летом 2004 года были назначены очередные выборы губернатора Астраханской области – на 5 декабря 2004 года. Гужвин должен был снова баллотироваться в губернаторы. Однако в августе Анатолий Петрович скоропостижно скончался на 59-м году жизни. Александр Жилкин, как первый заместитель, стал и. о. губернатора. Досрочные выборы Государственная дума Астраханской области не стала переносить и назначила на ранее запланированную дату. Жилкин заявил об участии в выборах и, став одним из кандидатов, ушел в предвыборный отпуск. В связи с этим 3 ноября президент России Владимир Путин назначил временно исполняющим обязанности губернатора Астраханской области Александра Глазкова. На выборах 5 декабря 2004 года Александр Жилкин победил в первом туре, набрав 65,34 % голосов. Он был избран на 5 лет.
Сразу после избрания Жилкин инициировал реформирование органов исполнительной власти Астраханской области. Весной 2007 года губернатор Жилкин подписал новый устав Астраханской области.
На выборах в Государственную думу РФ V созыва 2 декабря 2007 года возглавлял региональный список партии «Единая Россия».
Полномочия Жилкина истекали в декабре 2009 года. 30 ноября президент РФ Дмитрий Медведев внес в Госдуму Астраханской области кандидатуру Жилкина для наделения полномочиями на новый пятилетний срок. 9 декабря депутаты Астраханской областной думы утвердили кандидатуру Жилкина – за это проголосовали все 53 депутата.
В связи с тем, что у Жилкина губернаторский срок заканчивался 24 декабря 2014 года, а новый порядок, требовавший избрания глав регионов, в области наступил и должен был пройти в единый день голосования, то Жилкин встретил его без приставки врио. 14 сентября 2014 года он был избран губернатором и вступил в должность 19 сентября. В рейтинге эффективности губернаторов, опубликованном в октябре 2015 года Фондом развития гражданского общества, занимает последнее 83-е место. По итогам 2015 года от ФоРГО поднялся на 82-е место.
26 сентября 2018 года подал заявление о досрочном прекращении полномочийглавы Астраханской области, которое было удовлетворено президентом России в тот же день.
Вдовец, имеет двух дочерей (Наталья и Ирина).