Li shiminShimin lahir pada tahun 598 di Wugong (武功, Kini di wilayah Xianyang,Shaanxi). Ayahnya Li yuan yang bergelar bangsawan Tang merupakan jenderal dari Dinasti Sui dan merupakan saudara Ipar Kaisar Wen. Nenek Li Shimin juga seorang Bangsawan Dugu dan bersaudara dengan Permaisuri Dugu, dan keduanya adalah anak perempuan Dugu Xin (獨孤信) , seorang Jenderal ternama dari Dinasti Zhou utara sebelum Dinasti Sui. Ibu Li Shimin yang bergelar Bangsawan Dou merupakan anak perempuan dari Dou Yi (竇毅) yang merupakan Bangsawan dari Shenwu dan Istrinya Putri xiangyang yang berasal dari Zhou utara. Ibu Li shimin melahirkan empat putra, Li Jiancheng, Li Shimin, Li Xuanba, dan Li Yuanji beserta seorang putri (yang bergelar Putri Pingyang). Shimin dari nama Li shimin sendiri merupakan singkatan dari kalimat "menyelamatkan bumi dan menyatukan masyarakat" (濟世安民, jishi anmin). Li Shimin juga menunjukkan bakat yang cukup baik di masa mudanya, dan di tahun 613, pejabat Gao jian yang kagum dengannya menunangkan dia dengan kerabatnya (yang nantinya menjadi permaisuri Zhangsun). Pada tahun 615, ketika kaisar Wen dan putranya diserang oleh pasukan Tujue Timur di Yanmen (雁門, kini di wilayah Xinzhou, Shanxi), diadakan perekrutan pasukan untuk menyelamatkan kaisar. Li Shimin mengikuti perekrutan tersebut dan bekerja dibawah arahan Jenderal Yun Dingxing (雲定興). pada tahun 616, Li shimin mengikuti ayahnya yang ditugaskan untuk menjabat di Kota Taiyuan, sementara ketiga saudaranya Li Jiancheng, Li Yuanji dan Li Zhiyun (李智雲, putra dari selir Li yuan yang bergelar Nyonya Wan) - di kampung halaman Hedong (河東, kini di wilayah Yuncheng, Shanxi).
