Родился 22 апреля 1946 года в Киеве.
Воспитанник киевской футбольной школы «Юный динамовец». Выступал за киевское «Динамо» (1963–1973). Чемпион СССР 1966–1968, 1971 годов. Обладатель Кубка СССР 1964 и 1966 годов. В списке 33 лучших игроков 6 раз (из них на 1-й позиции 3 раза).
Закончил играть рано, в 27 лет, из-за рецидива травмы колена, которую получил в 23 года.
Работал главным тренером юношеских сборных Украинской ССР и СССР (2-е место на чемпионате Европы для 17-летних в 1984 году). Олимпийская сборная СССР под руководством Анатолия Бышовца завоевала золотые медали на Играх в Сеуле в 1988 году.
В 1990–1992 годах – главный тренер сборной СССР и вышедшей в финальный турнир Евро-1992 сборной СНГ.
В 1994–1996 годах – генеральный консультант национальной сборной Южной Кореи, которую вывел в финальный турнир чемпионата мира 1994.
В 1998 году был избран главным тренером сборной России.
В 1988–1990 годах – главный тренер «Динамо» (Москва).
После Евро-92 уехал отдыхать на Кипр, где его нашли представители кипрского клуба АЕЛ (Лимасол). С командой проработал год, после чего вернулся в Россию.
22 ноября 1996 подписал двухлетний контракт с ФК «Зенит» (Санкт-Петербург). С августа 1998 параллельно стал главным тренером сборной России. С конца сентября из-за обострения гастрита у Бышовца и. о. главного тренера «Зенита» стал Анатолий Давыдов. 22 ноября 1998 Бышовец покинул клуб.
С 4 апреля по 5 октября 1999 года – главный тренер ФК «Шахтёр» (Донецк).
Главный тренер «Маритиму» (Фуншал, Португалия, 2003).
Вице-президент ФК «Химки» (2003–2004).
Спортивный директор шотландского клуба «Хартс» (2004–2005).
Главный тренер клуба «Томь» (2005).
Главный тренер ФК «Локомотив (Москва)» с 26 декабря 2006 года по 13 ноября 2007 года.
15 октября 2009 года стал тренером-консультантом ФК «Кубань», но уже менее чем через месяц, в середине ноября, покинул пост.
В декабре 2010 года было объявлено, что Бышовец стал тренером-консультантом ФК «Уфа», однако в итоге эта информация не подтвердилась.
С 2017 года входит в Технический комитет Российского футбольного союза.