Dalam aljabar linear, matriks ortogonal, atau matriks ortonormal, adalah matriks persegi real yang kolom-kolom dan baris-barisnya merupakan vektor-vektor ortonormal. Salah satu cara menyatakan hal ini adalah

dengan adalah transpos dari dan adalah matriks identitas. Hal ini menghasilkan definisi yang ekuivalen: suatu matriks adalah matriks ortogonal jika transpos matriks tersebut sama dengan matriks inversnya:

dengan adalah invers dari .