Trong không gian với hệ tọa độ Oxyz, viết phương trình mặt phẳng (P) đi qua O, vuông góc với mặt phẳng (Q): 5x - 2y + 5z = 0 và tạo với mặt phẳng (R): x - 4y - 8z + 6 = 0 góc 450 .
Mặt phẳng (P) đi qua O(0; 0; 0) nên có phương trình dạng: Ax + By + Cz = 0 với A2 + B2 + C2 > 0
(P) ⊥ (Q) <=> 5A - 2B + 5C = 0 <=> B = (A + C) (1)
(P) tạo với (R) góc 450 nên
cos450 =
< =>
Từ (1) và (2) => √2|A - 10(A + C) - 8C| = 9
<=> 21A2 + 18AC - 3C2 = 0 =>
*) chọn A = -1, C =1 => B = 0
=> Phương trình mặt phẳng (P) là x – z = 0
*) chọn A = 1, C = 7 => B = 20
=> Phương trình mặt phẳng (P) là x + 20y + 7z = 0