有一个叫淳于棼的人，平时喜欢喝酒。他家的院中有一棵根深叶茂的大槐树，盛夏之夜，月明星稀，晚风习习，树影婆娑，是一个乘凉的好地方。
淳于棼过生日的那天，亲朋好友都来祝寿，他一时高兴，多喝了几杯酒。夜晚，亲友们都回去了，淳于棼带着几分醉意在大槐树下歇凉，不知不觉间睡着了。
梦中，淳于棼被两个使臣邀去，进入一个树洞。洞内晴天丽日，别有世界，号称大槐国。正赶上京城举行选拔官员考试，他也报名。考了三场，文章写得十分顺手。等到公布考试结果时，他名列第一名。紧接着皇帝进行面试。皇帝见淳于棼长得很帅，又很有才气，非常喜爱，就亲笔点为头名状元，并把公主嫁给他为妻。状元郎成了驸马郎，一时京城传为美谈。
婚后，夫妻感情十分美满。不久，淳于棼被皇帝派往南柯郡任太守。淳于棼勤政爱民，经常到属地内调查研究，检查部下的工作，各地的行政都非常廉洁有效，当地百姓大为称赞。三十年过去了，淳于棼的政绩已是全国有名，他自己也有了五男二女七个孩子，生活非常得意。皇帝几次想把淳于棼调回京城升迁，当地百姓听说后，都纷纷涌上街头，挡住太守的马车，强行挽留他在南柯继任。淳于棼为百姓的爱戴所感动，只好留下来，并上表皇帝说明情况。皇帝欣赏他的政绩，就赏给他许多金银财宝，以示奖励。
有一年，擅萝国派兵侵犯大槐国，大槐国的将军们奉命迎敌，不料几次都被敌兵打得大败。败报传到京城，皇帝震动，急忙召集文武官员们商议对策。大臣们听说前线军事屡屡失利，敌人逼近京城，凶猛异常，一个个吓得面如土色，你看我，我看你，都束手无策。
皇帝看了大臣的样子，非常生气地说：“你们平时养尊处优，享尽荣华，一旦国家有事，却都成了没嘴的葫芦，胆小怯阵，要你们有什么用？”
这时宰相想起了政绩突出的南柯太守淳于棼，于是向皇帝推荐。皇帝立刻下令，调淳于棼统率全国的精锐兵力与敌军作战。
淳于棼接到皇帝的命令，立即统兵出征。可是他对兵法一无所知，与敌军刚一交战，就被打得一败涂地，手下兵马损失惨重，他自己也险些当了俘虏。皇帝得知消息，非常失望，下令撤掉淳于棼的一切职务，贬为平民，遣送回老家。淳于棼想想自己一世英名毁于一旦，羞愤难当，大叫一声，从梦中惊醒。他按梦境寻找大槐国，原来就是大槐树下的一个蚂蚁洞，一群蚂蚁正居住在那里。
“南柯一梦”有时也指人生如梦，富贵权势虚无缥缈。
