Mathematics Undergraduate about 10 yearsago

(2)がわかりません。 固有値を求めるには至ったのですが、うまく解けません。 どなたか、解いていただけませんか。 よろしくお願い致します。