そんな難しく考えなくても...、3D図を脳内作図して水平面でスライスしてみればいいじゃん

G(X)=k*X
∫[X=0,1] G(X)dX = 1 より k=2

G(Y|X) = k' * 1
∫[Y=0,X] G(Y|X)dX = 1 より k'=1/X

よって (X,Y) ∈ { (X,Y) | X≧Y } では
G(X,Y) = G(X)*G(Y|X) = 2
他では、
G(X,Y) = 0