Mathematics Undergraduate almost 10 yearsago

高校の問題が分かりません。教えて下さい。（2）の問題です。