曹丕任命曹休为镇南将军，假节都督诸军事，接替夏侯惇屯驻汝南郡召陵县，负责抵御孙权。
曹休赴任前，曹丕车驾亲临，还下了銮舆与曹休执手送别。
当时孙权派遣将领屯驻历阳，曹休到任后，立即率军将之击破，又另遣兵渡江偷袭，烧掉了吴军设在芜湖的军营数千家。
曹休于是升迁为征东将军，兼领扬州刺史，进封安阳乡侯，数次抵御东吴，屡立战功。
后曹休之母去世，曹休本是至孝之人，因此悲痛不已，守孝期间茶饭不思，饮食不进。
曹丕知道后担心曹休悲伤过度，以致损伤了自己的身体，命令侍中强行脱下他的丧服，诏令其饮食酒肉。
曹休受诏后不得已进行饮食，但形体却越发憔悴。
之后，曹休向曹丕告假请求归还故乡谯县葬母，曹丕又遣越骑校尉薛乔奉诏来劝慰其不要过度忧哀。
于是让曹休归家治丧，曹休只一宿便完成了葬礼，然后马上又归还岗位。
回来之后，曹丕特意又亲自接见了他，并多加安抚宽慰。
黄初三年，曹丕亲征，兵分三路讨伐孙权，任命曹休为征东大将军。
假黄钺，督前将军张辽、镇东将军臧霸、豫州刺史贾逵等及诸州郡二十余军从西线出击洞浦，另有上军大将军曹真进攻江陵、大将军曹仁从东线出击濡须口。
东吴派遣建威将军吕范指挥五路大军，以水军的优势抗击曹休。
曹休当时壮志满怀，盼望建立功勋，于是上表说：“臣愿率领精锐之师即刻渡江，大军虎步踏平江南，从敌人那里夺取粮草补给，则一定可以取得胜利。如果臣殒命疆场，请陛下不要挂念。”
但臧霸等人不愿孤军犯险，曹丕虽然赞叹曹休的豪气和决心，但也认为风险太大，没有准许，因此计划搁置。
不久后，暴风正好吹断了吕范船队的所有缆绳，被吹散的吴军船只纷纷漂到曹休等人的营垒前。
曹休趁机下令出战，魏军在将领王凌带领下斩杀吴军数千，俘获大量的舟船，取得大捷。
曹丕于是下令曹休的军队立即渡江，但东吴的救援船队很快开至，收拢了散卒后退还江南。
“黄初三年九月，魏文帝