乐府诗形成于汉朝。汉武帝时期设立名为“乐府”的音乐管理的政府机构，搜集民间和文人的歌谣，以备祭祀时用。“乐府”是一种带有音乐性诗歌的名称。可见，乐府诗歌的形成是和音乐的流行是相关的。文化受政治思想的影响。汉武帝时期“罢黜百家，独尊儒术”的思想使乐府诗歌的内容注重对儒家经典的传承。《帝临》、《青阳》都是祭祀时用的歌曲，儒家主张敬天地。这些思想影响了当时的乐府诗歌创作。

《长歌行》、《木兰诗》等是比较常见的民间诗歌。《木兰诗》与《孔雀东南飞》被并称为“乐府双璧”。这些诗歌不仅具有较高的文学价值，而且比较真实地记录了当时的民间风貌和一些民间的事件，具有一定的文史价值。《陌上桑》描写了一位民间女子不畏权贵的精神。《上邪》则是一首比较出名的爱情诗。

从形式上看，乐府诗与汉朝时期同样流行的骈俪文和赋不同。骈俪文一般是四、六句，追求结尾押韵的韵母。赋属于宫廷文学，辞藻华丽，兼具诗歌与散文的格式，是一种散文。骈俪文与赋都带有宫廷诗歌的风格，乐府诗的内容除了封建朝廷所作的音乐，其大部分诗歌来源于民间，其格式比较自由，不过于追求押韵，题材是叙事诗，拥有很强的平民视角。由于诗歌多来自民间，没有宫廷诗的华丽，更加朴实、灵活。从内容上看，乐府诗与《诗经》中的诗歌大都都来自民间，但乐府诗的内容更加重叙事。

到了魏晋时期，文坛上出现了建安三曹，分别是曹操、曹丕、曹植，其中，曹操擅长写乐府诗。他的乐府诗糅合了骈俪文的四、六句，只是语句上不追求押韵。

曹操的《短歌行》中写：“青青子衿，悠悠我心。”他的四言诗歌不仅词句清雅，并且表达了自己对霸业的理想追求。相比于曹植的赋，更容易流传。他的《蒿里行》中曾描写过当时社会的惨象：“铠甲生虮虱，万姓以死亡。白骨露于野，千里无鸡鸣。”有一定的历史价值和艺术价值。曹植用笔绮丽 ，他的《乐府》一诗中写道：“皎皎素丝，溺色染移。”其诗歌带有一种讽刺现实的意味。曹丕则擅长写七言诗，其《燕歌行》就是一首七言乐府诗，是一首描写思妇的诗歌。

建安三曹的诗歌大多以歌言志，或豪迈，或抒发自己的理想抱负和胸怀。建安文学对后世影响深远，以三曹等人为代表，诗歌中传达的豪迈的精神被称为魏晋风骨，影响了后世的诗歌、绝句的创作。

乐府诗虽然以社会现实为基础进行创作，但形式和思想却非常浪漫，并且多采用杂言的形式，不限制诗歌的长短，形式上更加自由，长短不一，不拘一格，对后世的五言诗歌、七言诗歌和许多诗人的影响非常深远。唐人李白所创造的一些诗歌，如《枯鱼过河泣》，是典型的乐府诗，模仿了乐府旧题，和以往所作的绝句诗歌有所不同。

“涛落归泥沙，翻遭蝼蚁噬。万乘慎出，柏人以为识。”——作为一位爱国主义诗人，李白的这首《枯鱼过河泣》这是一首劝诫帝王远离声色，少去微服出行，宠幸杨氏姐妹的诗词，有强烈的讽刺意味。李白的其他一些诗歌，如《古风》等也深受乐府诗的影响。

宋代人郭茂倩主编了《乐府诗集》，是一本民间的诗歌集，搜集了从上古至唐朝的乐府诗，并在其中对这些乐府诗歌进行了细致地分类，如郊庙歌辞、燕射歌辞、鼓吹曲辞、横吹曲辞、相和歌辞、清商曲辞、舞曲歌辞、清商曲辞、舞曲歌辞、琴曲歌辞、杂曲歌辞、近代曲辞、杂歌谣辞和新乐府辞这十二类。这些乐府诗都与歌曲有关。

乐府诗虽然起源于先秦，形成于两汉，直至后世各朝各代，仍然有诗人在尝试创作“乐府”这种诗歌形式。