Riešenie:Dokážte, že ak $A$, je regulárna matica, tak matice $AB$ a $BA$ sú podobné.
Ak $\vec x$ je vlastný vektor matice $AB$ zodpovedajúci vlastnej hodnote $\lambda$, ako vyzerá príslušný vlastný vektor matice $BA$?
Ak $A$ je regulárna matica, tak existuje matica $A^{-1}$. Pre túto maticu platí
$A(BA)A^{-1}=AB(AA^{-1})=AB$
Teda matice $BA$ a $AB$ sú podobné.
Ak vektor $\vec x$ je vlastný vektor matice $AB$ pre vlastné číslo $\lambda$, tak platí
$\vec x AB = \lambda \vec x$
Ak túto rovnosť prenásobíme sprava maticou $A$, tak dostaneme
$(\vec x A)BA=\lambda \vec x A$.
Vidíme, že teda $\vec xA$ je vlastný vektor k tej istej vlastnej hodnote.
Teda vlastnému vektoru $\vec x$ matice $BA$ zodpovedá vlastný vektor $\vec xA$ matice $AB$.
Obrátene vlastnému vektoru $\vec x$ matice $AB$ zodpovedá vlastný vektor $\vec xA^{-1}$ matice $BA$.
Časté chyby
Viacero ľudí napísalo, že $PAP^{-1}=B$ alebo niečo podobné - o tom, či $A$ a $B$ sú podobné matice sa nehovorí nič.
V zadaní sme od vás chceli dokázať to pre ľubovoľnú regulárnu maticu $A$, nestačí to teda vyskúšať pre konkrétny príklad alebo sa obmedziť na matice $2\times2$.
Niekomu sa podarilo v písomke dokázať, že $\operatorname{Tr}(AB)=\operatorname{Tr}(BA)$. (Čo je skutočne pravda.) Spolu s faktom, že $|AB|=|BA|$ na základe toho už tvrdil, že sa zhodujú charakteristické polynómy. To ešte nutne nemusí platiť. (Zistili sme, že niektoré koeficienty charakteristických polynómov sa zhodujú. Ak by išlo o matice $2\times 2$, tak by sa zhodovali charakteristické polynómy, pre matice väčších rozmerov sú tam však aj ďalšie koeficienty.) Navyše matice s rovnakými charakteristickými polynómami ešte nemusia byť podobné. (Vedeli by ste vymyslieť príklad?)