Родился 12 декабря 1951, дер. Данилково, Верховажский район, Вологодская область. Как и большинство биатлонистов, Алябьев пришёл в этот спорт из лыжных гонок. В детстве ему приходилось ходить в школу в соседнюю деревню, и зимой Анатолий предпочитал передвигаться на лыжах. В 20 лет он стал призёром юниорского первенства СССР, а позже, будучи призванным на военную службу в Ленинград, стал мастером спорта. Вскоре тренер В.А. Хорунжий предложил ему перейти в биатлон, где он начал выступать за команду Вооружённых сил. В 1979 году Алябьев стал чемпионом СССР, затем выиграл Кубок СССР и отобрался в олимпийскую команду.
В качестве тренера участвовал в подготовке сборной команды России по биатлону на Олимпийских играх и чемпионатах мира (1990—1998). За свою тренерскую деятельность воспитал 43 мастера спорта, 3 мастера спорта международного класса и 1 заслуженный мастер спорта.
В настоящее время является профессором ВИФК и НГУ имени Лесгафта. Написал более 30 научных работ. Полковник запаса. Член совета Союза биатлонистов России.