Первые советские самозарядные пистолеты проектировались под патрон 7,65×17 мм Browning, который рассматривался Арткомитетом Красной армии как перспективный. В 1923 г. свой пистолет под этот патрон представил С. А. Коровин, а в 1924 г. – С. А. Прилуцкий. В ходе проводившихся до 1928 г. полигонных испытаний было установлено, что оба пистолета обладают достаточно высокой надежностью и неплохой кучностью боя. Отмеченные конструктивные недостатки пистолетов можно было устранить, основные же претензии испытателей касались патрона – его пуля обладала небольшим останавливающим и убойным действием, вследствие чего раненный противник мог произвести ответный выстрел. По этой причине пистолеты были признаны пригодными для использования лишь в качестве оружия самообороны высшего командного состава Красной армии (от командира корпуса и выше), служащих НКВД, партийных и хозяйственных работников. Новый армейский пистолет было решено проектировать под новый советский пистолетный патрон 7,62×25 мм, представляющий собой практически точную копию патрона 7,63×25 мм Mauser. Раненный пулей этого патрона противник, как правило, терял способность к активным действиям.
Свои пистолеты под патрон 7,62×25 мм конструкторы С. А. Коровин, С. А. Прилуцкий и Ф. В. Токарев разработали к лету 1930 г. Конкурсная комиссия, проводившая испытания пистолетов, отдала предпочтение разработке Ф. В. Токарева, признав его наиболее подходящим для принятия на вооружение. При этом Токареву было предложено повысить меткость стрельбы в первую очередь посредством улучшения прицельных приспособлений, повысить безопасность обращения с пистолетом и уменьшить усилие спуска.
13 февраля 1931 г. Реввоенсовет СССР принял постановление о заказе Тульскому оружейному заводу первой партии усовершенствованных пистолетов Токарева, получивших официальное обозначение «7,62 мм пистолет Токарева обр. 1930 г.». Использовались также обозначения «ТТ» и «ТТ-30» (ТТ – Тула, Токарев).
Процесс совершенствования пистолета продолжался и в ходе производства. В 1932–1933 гг. в его конструкцию были внесены изменения, направленные на упрощение технологии изготовления. Этот вариант пистолета получил обозначение «7,62 мм пистолет обр. 1933 г.» или «ТТ-33».
Пистолет сначала поступал на вооружение командного состава технических войск и оперативных сотрудников НКВД. По мере развертывания производства пистолеты стали получать и общевойсковые командиры. При этом имели место несчастные случаи, обусловленные прежде всего тем обстоятельством, что предохранителя как отдельной детали пистолет не имеет.
Были нарекания на отдельные конструктивные недостатки и качество изготовления пистолета. По этой причине было решено выпускать ТТ параллельно с безотказным и хорошо освоенным в производстве револьвером системы Нагана.