長方形の面積は縦$\times$横です。
　縦を$DH$、横を$DB$ということにします。
　仮定から、$DH=6cm$です。
　$DB$は正方形$ABCD$の対角線ですから、$\triangle ABD$は直角二等辺三角形になっていて、辺の比が$1:1:\sqrt{2}$だから、 $DB=6\sqrt{2}cm$です。
　なので長方形$BDHF$の面積は、 $$6\times6\sqrt{2}=36\sqrt{2}(cm^2)$$

　$\triangle RQG$の面積の面積は、$\triangle DEG$で考えます。
　$\triangle DEG$の３辺$DE,EG,GD$はすべて、立方体のそれぞれの面の対角線になっているので、べつないいかたをすると、１辺が$6cm$の正方形の対角線になっているので、 $DE=EG=GD=6\sqrt{2}cm$です。 ３辺が等しいので$\triangle DEG$は正三角形ということになります。
　また、点$R$は$DQ$上にあります。点$Q$は面$EFGH$の対角線の交点ですから、辺$EG$の中点です。正方形の２つの対角線はそれぞれの中点で交わるからです。すると $\triangle DEQ$と$\triangle DGQ$は３辺が等しいので合同、合同な図形の対応する角だから$\angle DQE=\angle DQG$、 なので$DQ \perp EG$です。
　この$DQ$の上に点$R$があるわけなので、$\triangle RQG$の面積は、$QG$と$RQ$の長さがわかればOKです。
　$QG$を底辺とすれば、高さが$RQ$になるからです。そしてもちろん、三角形の面積は、底辺$\times$高さ$\times\cfrac{1}{2}$です。

【$QG$の長さ】
　さきほど説明したとおり、点$Q$は$EG$の中点です。$QG$の長さは、$EG$の半分です。
　$EG=6\sqrt{2}cm$なので、$QG=3\sqrt{2}cm$です。

【$RQ$の長さ】
　$RQ$の長さは、(1)の問題で面積をだした長方形$BDHF$で考えます。問題文をよく読めば、$DQ$は、長方形$BDHF$と$\triangle DEG$の交線です。 $DQ$は長方形$BDHF$の上にも$\triangle DEG$の上にもあるわけです。とうぜん$RQ$も、長方形$BDHF$にふくまれています。
　この長方形だけだとちょっと足りないので、もうちょっと線をかきくわえます。直線$BP$と直線$FH$の交点を$S$とします。
　すると、$\triangle DPB$と$\triangle HPS$で、仮定から$DP=HP$、対頂角で$\angle DPB=\angle HPS$、$\angle PDB=\angle PHS=90^{ \circ }$なので、 １組の辺とその両端の角がそれぞれ等しいので$\triangle DPC \equiv \triangle HPS$、対応する辺だから$DB=HS$です。

　また、$Q$は$EG$の中点であるのとどうじに、$HF$の中点でもあります。なので$HQ$は$HF$の半分です。
　というわけで、$DB$を②とすると、$HS$も②になるし、$HQ$は①になります。なので、$SQ$は③ということになります。$DB$を②とすると。
　この比を$\triangle DRB$ ∽$\triangle QRS$にもってきます。$DB /\!/ SQ$なのだから、$\triangle DRB$ ∽$\triangle QRS$です。 そして、その相似比は$2:3$ということになります。なので、$DR:RQ$も$2:3$です。つまり、$RQ=\cfrac{3}{5}DQ$ということになります。

　ここでさきほどの$\triangle DEG$にもどりましょう。
　$DQ$の長さを考えます。図で、正三角形の１つの内角は$60^{ \circ }$なので、$\triangle DQG$は、 角度の比が$60^{ \circ },30^{ \circ },90^{ \circ }$の直角三角形です。辺の比は$1:2:\sqrt{3}$です。また、$QG$の長さは、$EG$の半分なので$3\sqrt{2}cm$です。なので、$\triangle DQG$で、 \begin{eqnarray*} DQ:QG&=&\sqrt{3}:1\\ DQ:3\sqrt{2}&=&\sqrt{3}:1\\ DQ &=&3\sqrt{6} \\ \end{eqnarray*} 　$RQ$は$DQ$の$\cfrac{3}{5}$ですから、 $$RQ=3\sqrt{6} \times\cfrac{3}{5}=\cfrac{9\sqrt{6}}{5}(cm)$$
　なので、$\triangle RQG$の面積は、 \begin{eqnarray*} &&3\sqrt{2}\times\cfrac{9\sqrt{6}}{5} \times\cfrac{1}{2}\\ &=&\cfrac{27\sqrt{12}}{10}\\ &=&\cfrac{27\times2\sqrt{3}}{10}\\ &=&\cfrac{27\sqrt{3}}{5}(cm^2) \end{eqnarray*}


　ところでこれ、おとなしく底辺$\times$高さ$\times\cfrac{1}{2}$ということでだしていますが、 $\triangle RQG$の面積は、全体（$\triangle DEG$）の$\cfrac{1}{2}$の$\cfrac{3}{5}$になっているな、と考えて、 全体（$\triangle DEG$）の面積をだして、それに$\cfrac{3}{10}$をかけてもOKです。