“江东鼠辈”并非出自某一特定的历史典籍原文，是在《三国演义》等文学作品及民间流传中逐渐形成的一种说法。
在《三国演义》的相关情节中，关羽常蔑视东吴众人，称其为“江东鼠辈”。例如，孙权在关羽北伐之际发动“白衣渡江”，关羽腹背受敌，最终败走麦城。关羽可能基于对东吴背信弃义行为的愤怒，以及自身的高傲，使用这样的言辞来贬低东吴势力。
不过，“江东鼠辈”这一说法的原始雏形可追溯到孙坚跨江击刘表时，刘表部将黄祖曾扬鞭骂道：“江东鼠贼，竟敢侵犯汉室宗亲城池”。这里的“江东鼠贼”可视为“江东鼠辈”的早期叫法。