胡杨系古地中海成分，是第三世纪残余的古老树种，在6000多万年前就在地球上生存。在古地中海沿岸地区陆续出现，成为山地河谷小叶林的重要成分。在第四纪早、中期，胡杨逐渐演变成荒漠河岸林最主要的建群种。主要分布在新疆南部、柴达木盆地西部，河西走廊等地。生在中国塔里木盆地的胡杨树，刚冒出幼芽就拼命的扎根，在极其炎热干旱的环境中，能长到30多米高。当树龄开始老化时，它会逐渐自行断脱树顶的枝杈和树干，最后降低到三、四米高，依然枝繁叶茂，直到老死枯干，仍旧站立不倒。并且在额济纳旗，人们赞扬胡杨是“生而不死一千年，死而不倒一千年，倒而不朽一千年，三千年的胡杨，一亿年的历史”。铮铮铁骨千年铸，不屈品质万年颂。
胡杨曾经广泛分布于中国西部的温带暖温带地区，新疆库车千佛洞、甘肃敦煌铁匠沟、山西平隆等地，都曾发现胡杨化石，证明它是第三纪残遗植物，距今已有6500万年以上的历史。如今，除柴达木盆地、河西走廊、内蒙古阿拉善一些流入沙漠的河流两岸还可见到少量的胡杨外，中国胡杨林面积的90%以上都蜷缩于新疆，而其中的90%又集中在新疆南部的塔里木盆地——一个被称为“极旱荒漠”的区域。
在库车千佛洞和敦煌铁匠沟第三纪古新世地层中部发现了胡杨的化石，至少也有6500万年的历史。《后汉书·西域传》和《水经注》都记载着塔里木盆地有胡桐（梧桐），也就是胡杨。维吾尔语称胡杨为托克拉克，意为“最美丽的树”。由于胡杨具有惊人的抗干旱、御风沙、耐盐碱的能力，能顽强地生存繁衍于沙漠之中，因而被人们赞誉为“沙漠英雄树”。
西汉时期，楼兰的胡杨覆盖率至少在40%以上，人们的吃、住、行都得靠胡杨。在清代，仍“胡桐（即胡杨）遍野，而成深林”。
但从20世纪的50年代中期至70年代中期的短短20年间，塔里木盆地胡杨林面积由52万公顷锐减至35万公顷，减少近三分之一；在塔里木河下游，胡杨林更是锐减70%。在幸存下来的树林中，衰退林占了相当部分。造成这种结局的原因，主要还是人类不合理的社会经济活动。胡杨及其林下植物的消亡，致使塔里木河中下游成为新疆沙尘暴两大策源区之一。
