Sima Yi memulai karier nya pada saat ia berusia 30 tahun. Saat itu terjadi peperangan antara pasukan Cao Cao dengan Lü Bu di Xiapi pada tahun 198. Sima Yi membantu Cao Cao untuk mengalahkan dan membunuh Lü Bu. Setelah Lü Bu mati, Sima Yi diangkat menjadi jenderal perang Wei. Setelah itu Wei menyerbu pertahanan Shu. Akhirnya Wei menang telak atas Shu. Dari sinilah Cao Cao mengangkat Sima Yi menjadi penasihat skeligus ahli militer.Setelah itu Sima Yi mengikuti Cao Cao untuk berperang melawan Dong Wu dan Shu Han di wilayah Chibi. Peperangan itu dimengangkan oleh Shu dan Wu, namun wilayah Chibi dapat direbut Sima Yi karena kecerdasannya dalam bertempur. Lama setelah itu Cao Cao meninggal karena sakit yang dia derita.
Setelah kematian Cao Cao, anaknya Cao Pi menggantikan ayahnya menjadi Kaisar Wei yang pertama. Sima Yi tetap melayani keluarga Cao. Pada saat Cao Pi menjadi kaisar Wei, Sima Yi memberikan rancangan-rancangan strategi yang baik dan genius untuk berperang melawan Shu maupun Wu. Pada saat [[Pertempuran Wuzhang]], Sima Yi yangberulang mengetahuikali diajak bertempur [[Zhuge Liang]]. sakitSima danYi kemudianyang meninggal,sebelumnya membuattidak pasukannyamengetahui menjadibahwa bersemangat.zhuge Yangliang padamati segera akhirnyamundur, pertempuransetelah itusebelumnya dimenangkandikepung oleh SimaShu Yi.Karenaitudan dikira siasat agar ia mau bertempur. Sima Yi diangkat sebagai Perdana Menteri Wei yang terbaik dan diberi mahkota berbentuk Limas Segitiga berwarna biru tua yang terbuat dari batu safir dan ditengahnya terdapat batu permata berwarna biru tua yang sangat indah. dia merupakan kakek seorang pengkhianat dari dinasti wei yang nantinya menjadi penguasa pada era Sima Yan (keturunan Sima Yi)
