刘伶嗜酒如命，经常乘坐一辆鹿车，带上一壶酒到处游玩，还让人扛着铁锹跟在后面，他说：“一旦我死了就随时将我埋掉。”当时的士大夫都认为他很贤明，所以争相仿效他的做法，还称之为放达。
钟会当时正备受司马昭的宠爱，听到嵇康的声名便前去拜访，嵇康伸着双腿坐在那里满不在乎地打铁，对钟会很不礼貌。钟会即将离去，嵇康问他道：“你听说了什么而来，现在见到了什么而去？”钟会说：“听我所听到的而来，见我所见到的而去！”从此以后他开始记恨嵇康。
山涛出任吏部郎，举荐嵇康代替自己；嵇康写信给山涛，说自己不堪忍受流俗，而又菲薄商汤、周武王。司马昭得知消息后很是愤怒。嵇康与东平的吕安是故交，吕安的哥哥吕巽诬陷吕安不孝，嵇康便为吕安作证说其并非不孝。钟会借机诬告嵇康道：“嵇康曾经想要帮助丘俭，况且吕安、嵇康声名盖世，然而他们的言论却放荡不羁，毒害时俗，扰乱政治教化，应当借此机会除掉他们。”于是司马昭便杀了吕安和嵇康。嵇康曾经造访过隐士汲郡人孙登，孙登说：“你才气多而见识少，恐怕在当今难免杀身之祸！”
曹魏政权的统治者昏庸不堪，没多久就被狡猾的司马懿夺走了王位，建立了西晋。司马氏夺取政权后，大搞高压政治，不与他们合作的人就要受到迫害。当时有些文人不愿意投靠司马氏集团，却又不敢跟它进行斗争，内心十分惶恐和苦闷，就只好采取消极抵抗的办法。他们经常几个人聚集在一起，寄情山水，饮酒赋诗，故意不拘形迹，披头散发，衣衫不整。这些人的典型代表就是“竹林七贤”。后来，在司马氏集团的威逼利诱之下，“竹林七贤”也逐渐地分化，山涛作了司马氏集团的高官，还写信给嵇康，邀请嵇康也出来做官。嵇康不但拒绝了，还写了一封《与山巨源绝交书》。这不仅是一封绝交信，还是一篇对司马氏集团的檄文，表达了自己对司马氏的厌恶和不合作态度。最终触犯了司马氏的权威，被找了个理由，杀了。不久，阮籍也郁郁而终。其他四人也先后做了司马氏的官，但是内心却是更加苦闷。
（晋武帝泰始五年）祜绥怀远近，甚得江、汉之心，与吴人开布大信，降者欲去，皆听之，减戍逻之卒，以垦田八百余顷。其始至也，军无百日之粮，及其季年，乃有十年之积。祜在军，常轻裘缓带，身不被甲，铃阁之下，侍卫不过十数人。
八年，羊祜归自江陵，务修德信以怀吴人。每交兵，刻日方战，不为掩袭之计。将帅有欲进谲计者，辄饮以醇酒，使不得言。祜出军行吴境，刈谷为粮，皆计所侵，送绢偿之。每会众江、沔游猎，常止晋地，若禽兽先为吴人所伤而为晋兵所得者，皆送还之。于是吴边人皆悦服。祜与陆抗对境，使命常通。抗遗祜酒，祜饮之不疑；抗疾，求药于祜，祜以成药与之，抗即服之。人多谏抗，抗曰：“岂有鸩人羊叔子哉！”抗告其边戍曰：“彼专为德，我专为暴，是不战而自服也。各保分界而已，无求细利。”吴主闻二境交和，以诘抗，抗曰：“一邑一乡不可以无信义，况大国乎！臣不如此，正是彰其德，于祜无伤也。”
羊祜不附结中朝权贵，荀勖、冯之徒皆恶之。从甥王衍尝诣祜陈事，辞甚清辩；祜不然之，衍拂衣去。祜顾谓宾客曰：“王夷甫方以盛名处大位，然败俗伤化，必此人也。”及攻江陵，祜以军法将斩王戎。衍，戎之从弟也，故二人皆憾之，言论多毁祜，时人为之语曰：“二王当国，羊公无德。”
晋武帝泰始五年（公元也69年），羊祜经常安抚关切远近百姓，因此在江、汉一带深得人心。他对吴人也是开诚布公，非常守信用，投降的吴人如果想离去，他都会依从他们的心愿。羊祜减裁戍边、巡逻的士卒，让他们开垦了八百多顷的农田。他和部下刚到那里的时候，军中的粮食连一百天都对付不了。可是到了后来，却有足够吃十年的屯粮。羊祜在军中，常常穿着轻暖的裘皮衣服，身上不披挂铠甲。他居住的地方，只不过有十几个侍卫。
泰始八年（公元也7也年），羊祜从江陵回来之后，投身于修整道德信义以收服吴人。每当和吴国交战，都要先约好日期才开战，从来不用出其不意、突然袭击的策略。将帅当中有企图献诡诈计谋的人，羊祜就给他喝醇厚的美酒，让他醉酒后说不出话来。羊祜的军队在吴境内行军，割下谷物做口粮，全部记下所取的数额，随后送去绢帛抵偿。每次与部众在长江、沔水一带游猎，常常只限于晋国的领地，假如禽兽是先被吴人杀伤而后才为晋兵获得的，都要送还吴人。于是吴国边境的百姓都对羊祜部众心悦诚服。羊祜与陆抗在边境对峙，双方的使者经常奉命相互往来：陆抗送给羊祜的酒，羊祜喝起来从来都是不加怀疑。陆抗生病了，请求羊祜给他些药，羊祜便把成药送给他，陆抗也立马就服下。许多人都谏阻陆抗不可不谨慎，陆抗说：“难道会有用毒酒杀人的羊祜吗？”陆抗对守边的将士说道：“对方专门施行仁德，而我们却专门作恶，这相当于不战而自己屈服。如今双方各自保住疆界就可以了，我们不要奢求占什么便宜。”吴主听说双方边境交往和谐，便因此责难陆抗，陆抗说道：“一邑一乡尚不可不讲信义，更何况大国呢！假如我不这样做，正好彰显了羊祜的仁德，对羊祜根本就是毫发无伤啊！”
羊祜从来都不攀附巴结朝廷中的权贵，荀勖、冯之徒因此都憎恶他。羊祜的堂外甥王衍曾经到羊祜那里陈述事情，言辞很是清晰明辨，羊祜却并不赞赏他，王衍气得拂袖而去。羊祜转过头来对宾客们说道：“王衍本可以凭借盛名达到高位，然而他肯定会败坏风俗、损害教化。”等到攻讨江陵的时候，羊祜曾依军法要斩杀王戎。王衍是王戎的堂弟，因此两人都非常痛恨羊祜，言谈之间时常诋毁羊祜。当时有句谚语说得好，说道：“二王当权，羊公不仁。”
咸宁三年，徙封钜平侯羊祜为南城郡侯，祜固辞不受。祜每拜官爵，常多避让，至心素著，故特见申于分列之外。祜历事二世，职典枢要，凡谋议损益，皆焚其草，世莫得闻，所进达之人皆不知所由。常曰：“拜官公朝，谢恩私门，吾所不敢也。”
四年，羊祜以病求入朝，既至，帝命乘辇入殿，不拜而坐。祜面陈伐吴之计，帝善之。以祜病，不宜数入，更遣张华就问筹策。祜曰：“孙皓暴虐已甚，于今可不战而克。若皓不幸而没，吴人更立令主，虽有百万之众，长江未可窥也，将为后患矣！”华深然之。祜曰：“成吾志者，子也。”帝欲使祜卧护诸将，祜曰：“取吴不必臣行，但既平之后，当劳圣虑耳。功名之际，臣不敢居；若事了，当有所付授，愿审择其人也。”
羊祜疾笃，举杜预自代。辛卯，以预为镇南大将军、都督荆州诸军事。祜卒，帝哭之甚哀。是日，大寒，涕泪沾须鬓皆为冰。祜遗令不得以南城侯印入柩。帝曰：“祜固让历年，身没让存，今听复本封，以彰高美。”南州民闻祜卒，为之罢市，巷哭声相接。吴守边将士亦为之泣。祜好游岘山，襄阳人建碑立庙于其地，岁时祭祀，望其碑者无不流涕，因谓之堕泪碑。
