Автором значка ГТО стал 15-летний школьник В. Токтаров. Окончательный вариант подготовил художник М. С. Ягужинский. Значок стал индивидуальной наградой за сдачу утвержденных нормативов и имел номер, который указывался в грамоте.

Первые значки ГТО были торжественно вручены 23 декабря 1931 года в Колонном зале Дома Союзов 35 спортсменам. Наградные знаки первоначально изготавливались из серебра, на подвесах и покрывались горячей эмалью. Но количество спортсменов, желающих влиться в ряды значкистов, стремительно росло, и уже в 1932 году значок стал изготавливаться из бронзы с последующим серебрением или хромированием. Так родился прообраз сегодняшнего наградного знака.

Нормативы ГТО отражали исторические требования времени. Так, перед Великой Отечественной войной в комплекс ГТО были введены военно-прикладные виды упражнений (переползание через препятствие, переноска патронного ящика). Герой Советского Союза Николай Копылов высказался на эту тему: «Не будь я спортсменом, значкистом ГТО, вряд ли дошел бы до Берлина!».

Требования комплекса ГТО менялись семь раз. Последние изменения были в 1988 году, когда движение ГТО стало отходить на задний план в жизни страны.