Считается, что улица появилась на карте городе в 1730-е годы в результате работы Комиссии о Санкт-Петербургском строении, созданной императрицей Анной Иоанновной. Согласно разработанному плану, улица должна была располагаться параллельно реке Мойке и соединять Невский проспект и Конюшенную площадь, тогда бывшую ещё лугом. Вероятно, что дорога, перпендикулярная Невскому проспекту, существовала на этом месте и раньше. Своё имя улица получила после постройки Конюшенного двора — здания императорских конюшен на Конюшенной площади. На первых порах Большая Конюшенная улица была тесно застроена невысокими деревянными домами, в которых находились различные лавки и ремесленные мастерские. Улица, как и близлежащие кварталы, были заселены приехавшим в Россию европейцами: немцами, шведами, голландцами, финнами. В дальнейшем Комиссия о Санкт-Петербургском строении рассудила, что плотная деревянная застройка улицы может стать причиной сильного пожара. Было решено заменить деревянные дома одно- или двухэтажными каменными зданиями. В конце царствования императрицы Елизаветы Петровны строить на Большой Конюшенной и набережной реки Мойки деревянные дома было окончательно запрещено, чтобы деревянные строения не портили парадного вида центральной части города.
