常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
可怜云木丛，满禁碧濛濛。色润灵泉近，阴清辇路通。
玉坛标八桂，金井识双桐。交映凝寒露，相和起夜风。
数枝盘石上，几叶落云中。燕拂宜秋霁，蝉鸣觉昼空。
翠屏更隐见，珠缀共玲珑。雷雨生成早，樵苏禁令雄。
野藤高助绿，仙果迥呈红。惆怅缭坦暮，兹山闻暗虫。
穆穆上清居，沈沈中秘书。金铺深内殿，石甃净寒渠。
花树台斜倚，空烟阁半虚。缥囊披锦绣，翠轴卷琼琚。
墨润冰文茧，香销蠹字鱼。翻黄桐叶老，吐白桂花初。
旧德双游处，联芳十载馀。北朝荣庾薛，西汉盛严徐。
侍讲亲花扆，征吟步绮疏。缀帘金翡翠，赐砚玉蟾蜍。
序秩东南远，离忧岁月除。承明期重入，江海意何如。
见说南来处，苍梧指桂林。过秋天更暖，边海日长阴。
巴路缘云出，蛮乡入洞深。信回人自老，梦到月应沈。
碧水通春色，青山寄远心。炎方难久客，为尔一沾襟。
出树倚朱阑，吹铙引上官。老农持锸拜，时稼卷帘看。
水对登龙净，山当建隼寒。夕阳湖草动，秋色渚田宽。
渤海人无事，荆州客独安。谢公何足比，来往石门难。
满镜悲华发，空山寄此身。白云家自有，黄卷业长贫。
懒任垂竿老，狂因酿黍春。桃花迷圣代，桂树狎幽人。
幢盖方临郡，柴荆忝作邻。但愁千骑至，石路却生尘。
执契静三边，持衡临万姓。玉彩辉关烛，金华流日镜。
无为宇宙清，有美璇玑正。皎佩星连景，飘衣云结庆。
戢武耀七德，升文辉九功。烟波澄旧碧，尘火息前红。
霜野韬莲剑，关城罢月弓。钱缀榆天合，新城柳塞空。
花销葱岭雪，縠尽流沙雾。秋驾转兢怀，春冰弥轸虑。
书绝龙庭羽，烽休凤穴戍。衣宵寝二难，食旰餐三惧。
翦暴兴先废，除凶存昔亡。圆盖归天壤，方舆入地荒。
孔海池京邑，双河沼帝乡。循躬思励己，抚俗愧时康。
元首伫盐梅，股肱惟辅弼。羽贤崆岭四，翼圣襄城七。
浇俗庶反淳，替文聊就质。已知隆至道，共欢区宇一。