1868年，天文学家在太阳的光谱中发现一条特殊的黄色谱线D3，这和早已知道的钠元素的D1和D2两条黄色谱线不同，由此预言在太阳中可能有一种未知元素存在。后来将这种元素命名为“氦”，意为“太阳元素” 。
20多年后，拉姆塞证实了地球上也存在氦元素。1895年，美国地质学家希尔布兰德观察到钇铀矿放在硫酸中加热会产生一种不能自燃、也不能助燃的气体。他认为这种气体可能是氮气或氩气，但没有继续研究。拉姆塞知道这一实验后，用钇铀矿重复了这一实验，得到少量气体。在用光谱分析法检验该气体时，原以为能看到氩的谱线，却意外地发现一条黄线和几条微弱的其他颜色的亮线。拉姆塞把它与已知的谱线对照，没有一种同它相似。经过苦苦思索，终于想起27年前发现的太阳上的氦。氦的光谱正是黄线，如果这两条黄线能够重合，那么钇铀矿中放出的气体应是太阳元素氦了。拉姆塞十分谨慎，请当时英国最著名的光谱专家克鲁克斯帮助检验，证实拉姆塞所得的未知气体即为“太阳元素”气体。1895年3月，拉姆塞在《化学新闻》上首先发表了在地球上发现氦的简报，同年在英国化学年会上正式宣布这一发现。后来，人们在大气中、水中、天然气中、石油气中以及铀和外的矿石中，甚至在陨石中也发现了氦。1902年，德米特里·门捷列夫接受了氦和氩元素的发现，并这些稀有气体纳入他的元素排列之内，分类为第0族，而元素周期表即从该排列演变而来 。
拉姆塞继续使用分馏法把液态空气分离成不同的成分以寻找其他的稀有气体。他于1898年发现了三种新元素：氪、氖和氙。“氪”源自希腊语“κρυπτ(kruptós)”，意为“隐藏”；“氖”源自希腊语“νο(néos)”，意为“新”；“氙”源自希腊语“ξνο(xénos)”，意为“陌生人”。氡气于1898年由弗里德里希·厄恩斯特·当发现，最初取名为镭放射物，但当时并未列为稀有气体 。直到1904年才发现它的特性与其他稀有气体相似。1904年，瑞利和拉姆塞分别获得诺贝尔物理学奖和化学奖，以表彰他们在稀有气体领域的发现 。瑞典皇家科学院主席西德布洛姆致词说：“即使前人未能确认该族中任何一个元素，却依然能发现一个新的元素族，这是在化学历史上独一无二的，对科学发展有本质上的特殊意义。 ”
稀有气体的发现有助于对原子结构一般理解的发展。在1895年，法国化学家亨利·莫瓦桑尝试进行氟（电负性最高的元素）与氩（稀有气体）之间的反应，但没有成功。直到20世纪末，科学家仍无法制备出氩的化合物，但这些尝试有助于发展新的原子结构理论。由这些实验结果，丹麦物理学家尼尔斯·玻尔在1913年提出，在原子中的电子以电子层形式围绕原子核排列，除了氦气以外的所有稀有气体元素的最外层的电子层总是包含8个电子。1916年，吉尔伯特·牛顿·路易斯制定了八隅体规则，指出最外电子层上有8个电子是任何原子最稳定的排布；此电子排布使它们不会与其他元素发生反应，因为它们不需要更多的电子以填满其最外层电子层。
但到了1962年，尼尔·巴特利特发现了首个稀有气体化合物六氟合铂酸氙。其他稀有气体化合物随后陆续被发现：在1962年发现了氡的化合物二氟化氡；并于1963年发现氪的化合物二氟化氪。2000年，第一种稳定的氩化合物氟氩化氢（HArF）在40K（-233.2℃）下成功制备。
1998年12月，俄罗斯杜布纳的联合核研究所的科学家以钙原子轰击钚来产生114号元素的单一原子，后来被命名为Fl。初步化学实验已显示该元素可能是第一种超重元素，尽管它位于元素周期表的第14族，却有着的稀有气体特性。2006年10月，联合核研究所与美国劳伦斯利福摩尔国家实验室的科学家成功地以钙原子轰击锎的方法，人工合成了Uuo，它是18族的第七个元素 。
2013年12月12日，两个研究超新星爆炸残骸的国际科研小组分别在美国《科学》杂志上报告说，他们在宇宙中首次发现了惰性气体分子，并在恒星爆炸的中心首次观测到生命的六大基本元素之一——磷的形成。
英国伦敦大学学院教授迈克·巴洛与同事利用欧洲航天局的赫舍尔太空望远镜，在远红外波段观测距地球6500光年的蟹状星云，结果发现了氩氢分子。他们所观测到的是氩的同位素氩36，来自蟹状星云中心的中子星的能量令其发生电离，然后与氢形成氩氢分子。这一发现也同时支持氩36同位素起源于超新星中心的理论。
在另一项研究中，韩国与美国研究人员发现银河系内已知最年轻的超新星残骸仙后座A中存在大量的磷。他们利用美国加州帕洛马山天文台5米口径的黑尔望远镜进行的观测表明，仙后座A中磷与铁56同位素的比率比银河系其他地方高出100倍，这说明磷也是在超新星中产生的。
在2013年以前，科学家已观测到生命的另五大基本元素碳、氢、氧、氮与硫在宇宙中的起源。
大约氮气发现的百年之后，英国化学家瑞利（Rayleigh,J.W.S.1842-1919），一方面从空气中除掉氧气、二氧化碳、水蒸气得到氮气；另一方面从氮化物分解制得氮气。他把这两种来源不同的氮气进行比较，发现在正常状态下前者的密度是1.2572克/升，后者的密度是1.2508克/升，为什么空气中的氮气密度要大些呢？是不是其中还有较重的不活泼气体？英国化学家莱姆大塞（Ramsay,W.1852-1916）用燃烧的镁与空气中的氮气作用，以除去空气中的氮，结果剩下少量的稀有气体。经光谱检验，证明是一种新的气体元素叫做氩。后几年他用分级蒸馏法，从粗制的氩中分离出其它三种稀有气体──氖、氪、氙。1895年，莱姆塞用硫酸处理沥青油矿，产生一种气体，用光谱鉴定为氦。由于他先后发现氦、氖、氪、氩、氙，获得了1904年诺贝尔化学奖。
氩，非金属元素，元素符号Ar。单质为无色、无臭和无味的气体。是稀有气体中在空气中含量最多的一个，由于在自然界中含量很多，氩是目前最早发现的稀有气体。化学性极不活泼，氩不能燃烧，也不能助燃。