Stručne napíšem niečo k riešeniu - hlavne som chcel spomenúť niektoré časti, ktoré sa dali riešiť o kúsoček jednoduchšie než ste ich niektorí riešili na skúške. (Vlastne sa to týka hlavne toho, že $H$ je normálna.)$\newcommand{\R}{\mathbb R}
\newcommand{\Zobr}[3]{#1\colon#2\to#3}
\newcommand{\inv}[1]{{#1}^{-1}}
\newcommand{\sm}{\setminus}$
Nech $$G=\{\begin{pmatrix}a&0\\b&a\end{pmatrix}; a,b\in\mathbb R, a\ne0\} \qquad\text{ a }\qquad H=\{\begin{pmatrix}1&0\\c&1\end{pmatrix}; c\in \mathbb R\}.$$
a) Overte, že $G$ tvorí s operáciou násobenia matíc grupu a že $H$ je podgrupa grupy $G$.
b) Je $H$ normálna podgrupa grupy $G$?
$G$ je grupa.
Binárna operácia. Tu iba potrebujeme vyskúšať, či matice uvedeného tvaru sú uzavreté na násobenie.
$$\begin{pmatrix}a_1&0\\b_1&a_1\end{pmatrix}\begin{pmatrix}a_2&0\\b_2&a_2\end{pmatrix}=
\begin{pmatrix}a_1a_2&0\\a_1b_2+b_1a_2&a_1a_2\end{pmatrix}\tag{1}$$
Vyšla nám opäť dolná trojuholníková matica. A pre $a_{1,2}\ne0$ máme aj $a_1a_2\ne0$.
Teda násobenie matíc je naozaj binárna operácia na množine $G$.
Asociatívnosť. Vieme, že násobenie matíc je asociatívne. (Samozrejme, mohli by sme si napísať súčin $\begin{pmatrix}a_1&0\\b_1&a_1\end{pmatrix}\begin{pmatrix}a_2&0\\b_2&a_2\end{pmatrix}\begin{pmatrix}a_3&0\\b_3&a_3\end{pmatrix}$ a spočítať, čo vyjde pri oboch možných uzátvorkovaniach. Keďže sme takúto vec už kedysi dokázali všeobecne, pre ľubovoľné matice, tak pri obmedzení na túto množinu matíc ju máme "zadarmo".)
Komutatívnosť. Môžeme si všimnúť, že
\begin{align*}
\begin{pmatrix}a_1&0\\b_1&a_1\end{pmatrix}\begin{pmatrix}a_2&0\\b_2&a_2\end{pmatrix}&=\begin{pmatrix}a_2&0\\b_2&a_2\end{pmatrix}\begin{pmatrix}a_1&0\\b_1&a_1\end{pmatrix}\\
\begin{pmatrix}a_1a_2&0\\a_1b_2+b_1a_2&a_1a_2\end{pmatrix}&=\begin{pmatrix}a_2a_1&0\\b_1a_2+a_1b_2&a_2a_1\end{pmatrix}
\end{align*}
V zadaní síce od nás nikto nechcel overovať aj komutatívnosť - ale asi nie je na škodu si takéto niečo všimnúť.
Napríklad sme už zvyknutí, že ak je naša operácia komutatívna, tak pri kontrole neutrálneho a inverzného prvku máme namiesto dvoch podmienok iba jednu a ušetrí nám to prácu. (Aj keď v tomto prípade by mal byť neutrálny a inverzný prvok pomerne jasný z toho, čo vieme o násobení matíc.)
Neutrálny prvok. Jednotková matica $$I=\begin{pmatrix}1&0\\0&1\end{pmatrix}$$ patrí do $G$. A vieme, že pre ľubovoľnú maticu $2\times2$ platí $I\cdot A=A\cdot I=A$. Teda táto matica bude neutrálnym prvkom.
Inverzný prvok. Keďže operácia je násobenie matíc, tak sa stačí pozrieť, či inverzná matica k matici z $G$ bude opäť v $G$.
Inverznú maticu môžeme počítať akýmkoľvek spôsobom, ktorý vieme použiť - a v tomto prípade dostaneme:
\begin{align*}
\begin{pmatrix}a&0\\b&a\end{pmatrix}^{-1}
&=\frac1{a^2}\begin{pmatrix}a&0\\-b&a\end{pmatrix}\\
&=\begin{pmatrix}\frac1a&0\\-\frac{b}{a^2}&\frac1a\end{pmatrix}
\end{align*}
Teda inverzná matica tiež patrí do $G$; vidíme, že v $G$ ku každému prvku existuje inverzný.
Spoiler:
Vidno, že jednotková matica (neutrálny prvok) patrí do $H$.
Ak skontrolujeme, že $H$ je uzavretá na násobenie aj na inverzy, tak je to podgrupa.
Obe podmienky sa dajú overiť vcelku priamočiaro.
Spoiler:
Ak sme si všimli, že $G$ je komutatívna, tak vieme, že každá podgrupa grupy $G$ je komutatívna.
(Ale aj ak sme si túto vec nevšimli, tak overenie niektorej z podmienok pre normálne podgrupy je vcelku zvládnuteľné.)
Homomorfizmus do reálnych čísel.
Ešte pridám jednu drobnú poznámku - ktorá môže pomôcť na iné zdôvodnenie, že $H$ je normálna podgrupa.
Pozrime sa na zobrazenie $f\colon G\to \R\sm\{0\}$ definované predpisom
$$f\colon \begin{pmatrix}a&0\\b&a\end{pmatrix} \mapsto a.$$
Ak zoberieme na množine $\R\sm\{0\}$ operáciu násobenia, tak toto zobrazenie je grupový homomorfizmus.
Vidno to zo vzťahu $(1)$.
Môžeme si tiež všimnúť, že jadro tohto homomorfizmu je presne množina $H$. (V jadre sú tie matice, ktoré sa zobrazia na jednotku.)
$$H=\operatorname{Ker} f$$
Z toho dostávame, že $H$ je normálna podgrupa. (Ukázali sme si na prednáške, že jadro grupového homomorfizmu je vždy normálna podgrupa.)