f(x,y)=o(√(x^2+y^2))
⇔f(x,y)/√x^2+y^2→0
⇔f(h)-f(0)/|h|→0  (h=(x,y))
ですよね?
(|h^2|/2h)/h→0?|h^2|/2hとは書きましたが。
ちなみに2は√2の間違いです。