А.П. Шилин родился в селе Петропавловка Саратовской области. В раннем детстве переехал с родителями в Ленинск-Кузнецкий Кемеровской области. После окончания средней школы работал десятником на шахте.
В августе 1942 г. был призван в Красную армию, в 1943 г. окончил Томское артиллерийское училище. С июня 1943 г. он в действующей армии, командир взвода управления и начальник разведки дивизиона 132-го гвардейского артиллерийского полка 60-й гвардейской стрелковой дивизии.
Воевал на Юго-Западном, 3-м Украинском и 1-м Белорусском фронтах. Принимал участие в освобождении Украины, Молдавии и Польши.
Первого звания Героя Советского Союза был удостоен за отвагу и мужество, проявленные при форсировании Днепра, захвате и удержании плацдарма на правом берегу реки. 26 октября 1943 г. А.П. Шилин во главе взвода форсировал Днепр и с захваченного плацдарма по рации корректировал артиллерийский огонь наших батарей. В бою за плацдарм на Днепре лично уничтожил два немецких пулемётных расчёта, 11 солдат, двух офицеров противника. А когда фашисты окружили его наблюдательный пункт, он вызвал огонь на себя. Благодаря этому враг был отброшен и наши войска смогли закрепиться на плацдарме.
Второй медали «Золотая Звезда» А.П. Шилин был удостоен за подвиг, совершённый в дни наступления на Магнушевском плацдарме. Начальник разведки артиллерийского дивизиона А.П. Шилин в январе 1945 г. на территории Польши в тяжёлом бою, будучи раненным, связкой гранат заставил замолчать фашистский дот, открыв путь для наступления советским солдатам.
В послевоенные годы Афанасий Петрович окончил Артиллерийскую академию им. Дзержинского и Военную академию Генерального штаба СССР. С 1975 г. и до последних дней своей жизни А.П. Шилин занимал должность заместителя председателя ЦК ДОСААФ. В 1975 г. Афанасию Петровичу присвоили воинское звание генерал-лейтенанта.