据《史记·西南夷列传》记载，汉武帝时，朝廷派遭使臣辗转到达夜郎。夜郎君长问使臣：汉朝和夜郎谁大？实际上，此前汉使已先到达夜郎西边的滇国，滇国君长也向汉使间过同样的问题。这本来是身置大山的民族对山外世界渴望了解的正常发问，演释到后来，却成为某些傲慢的山外人轻蔑和讥讽的对象。“夜郎自大”得成语由此而来。
汉代牂牁郡古文献把云南、贵州及川西的少数民族统称为“西南夷”，川西谓“西夷”，云贵为“南夷”。在数十个部落之中，夜郎和滇力量最为强大。对于夜郎国的疆域范围，《史记》载：“平南夷置牂牁郡。”汉代牂牁郡在巴蜀以南，滇以东，南越之北，武陵郡之西，其范围大体是夜郎的故土。
夜郎是两千多年前战国时期大西南个很有影响的少数民族方国。《史记》记载：“西南夷君长以什数，夜郎最大。”至公元前135年，汉使唐蒙从南越得知夜郎，并进而了解到夜郎地处从巴蜀通往南越的要道上，有便捷的水路可直抵南越的都邑番禺（今广州），夜郎还拥有精兵十余万人，于是他便建议朝廷开发西南夷。汉武帝采纳了他的建议，在夜郎地区设置那县。公元前111年，夜郎派兵协同征伐南越，汉廷授予夜郎王金印。《史记》记载：“西南夷君长以百数，独夜郎、滇受王印。”可见夜郎古国和古滇国在汉朝时期是西南地区较强的两个势力。
公元前27年，因夜郎与句町、漏卧相互攻伐，太守陈立“持节和解”，夜郎王不服，“迫胁二十二邑反叛”。后来大军压境，诸小邑临阵倒戈，夜郎王被杀，夜郎国被灭。
因为迄今为止，关于夜郎国的考古成果有限，目前考古界较为流行的观点之一是，夜郎国的中心在贵州西部，北盘江和南盘江之间。
夜郎灭国后西晋时期在北盘江上游设置夜郎郡，持续二百年在南北朝被废掉。又过了三百年，唐朝在贵州的石阡、正安，湖南新晃等复设夜郎县，贵州桐梓一带设夜郎郡（诗人李白流放之地）。这些与之前的夜郎古国没有关联，只是附庸古称地名而已。
