虽然布哈拉准确的建城日期无从考证，但在古城地下20多米纵深的范围内，发现了不同时期的大量文物和古迹，证实这片地区自古就一直有人类居住。最早的人类足迹甚至可以追溯到公元前4000多年前，那个时候渔猎部落已经来到了泽拉夫尚下游三角洲地带。
为什么布哈拉可以在此后成为古丝绸之路的重镇?一方面是源于布哈拉的地理位置，它位于中亚的中心地带；另一方面还得益于活跃在古丝路贸易交往中的粟特人。那个时候生活在泽拉夫尚河一带的粟特人热情好客，以善于经商而闻名。粟特人有这样的传统，如果家里生了男孩，那么就要在他的手上放一枚钱币，在他的舌头上抹上蜂蜜，这样就会让他在长大之后“能说好听的话”、“能赚更多的钱”。粟特人讲亚拉姆语，而恰恰那时在欧洲很多地方也使用这种语言，因此正是这些粟特商人将中国与地中海地区连接在了一起。考古学家曾在中国发现了几个非常重要的墓葬，墓主就是粟特的商队首领，此外还有双语的粟特文和汉文的墓志铭。这些都证明了布哈拉的早期居民粟特人曾沿古代丝绸之路到达了东方。
