Trong không gian với hệ trục tọa độ Oxyz, viết phương trình mặt phẳng (P) đi qua O, vuông góc với mặt phẳng (Q): 5x - 2y + 5z = 0 và tạo với mặt phẳng (R): x - 4y - 8z + 6 = 0 góc 45o.
Mặt phẳng (P) đi qua O(0;0;0) nên có dạng Ax + By + Cz = 0 với
A2 + B2 + C2 > 0 (P) ⊥ (Q) ⇔ 5A - 2B + 5C = 0 ⇔ B = (A + C) (1)
(P) tạo với (R) góc 45o nên
cos 45o = (2)
(1), (2)
√2|A - 10(A + C) – 8C| = 9
⇔ 21A2 + 18AC - 3C2 = 0
Chọn C = 1
* Với A = -1. C = 1 => B = 0 => Phương trình mặt phẳng (P) là x - z = 0
*Với A = , C = 1 => B = => Phương trình mặt phẳng (P) là x + 20y + 7z = 0.
Vậy phương trình mặt phẳng (P) cần tìm là x - z = 0 hoặc x + 20y + 7z = 0