Яков Тонконогов родился 15 мая 1897 года в слободе Александровской Воронежской губернии в крестьянской семье. После окончания трёхклассной сельской школы работал батраком. В 1916 году Тонконогов был призван в царскую армию. Участвовал в Первой мировой войне. В марте 1918 года он добровольно вступил в Рабоче-Крестьянскую Красную Армию. Принимал участие в Гражданской войне в боевых действиях против войск Деникина и Врангеля. Был ранен.
В 1920 году Тонконогов окончил командные пехотные курсы. До 1930 года он командовал различными стрелковыми подразделениями, окончил пехотную школу. В 1930 году Тонконогов окончил высшие командные курсы «Выстрел», после чего до 1935 года командовал батальоном. В 1935 году он окончил разведывательные курсы при Генеральном штабе РККА, и до 1938 года командовал разведывательным батальоном. В 1938 году Тонконогов был выдвинут на должность заместителя командира 24-й Железной стрелковой дивизии. В 1939 году он был назначен командиром 141-й стрелковой дивизии. В этой должности он принял участие в советско-финской войне. 4 июня 1940 года ему было присвоено звание генерал-майора.
В первый день Великой Отечественной войны в составе Юго-Западного фронта дивизия Тонконогова вступила в бой с наступавшими немецкими войсками в районе государственной границы СССР. Дивизия принимала участие в Киевской оборонительной операции. В конце июля 1941 года она была окружена немецкими войсками. Тонконогов получил приказ о прорыве на восток. Неподалёку от линии фронта группа Тонконогова была разгромлена, а сам он попал в плен. Первоначально содержался в лагере для военнопленных в городе Замосць, а впоследствии был вывезен в Германию. В начале мая 1945 года Тонконогов был освобождён из концентрационного лагеря Дахау американскими войсками. Тонконогов вернулся в СССР, где после проверки в органах НКВД он был восстановлен в кадрах Советской Армии и направлен на курсы командиров дивизий при Военной академии имени Фрунзе.
В 1947 году Тонконогов был назначен начальником военной кафедры Саратовского экономического института. 10 февраля 1949 года он был уволен в отставку по болезни. Умер в Киеве 15 мая 1985 года.
Награждён орденом Ленина (1946), двумя орденами Красного Знамени (1938, 1946), медалью «За отвагу» (1939).