osx 10.2.1 を使っていますが、最近インストールし直した後
Dockが拡大表示されたまま、元に戻らないときがあります。
D&Dでアイテムをゴミ箱に入れたときや、Dockのアイテムを
クリック＆ホールドしたときなどにおこります。
そのようなときはクリック＆ホールドで出るメニューが出ず、
何度かやっていたり、環境設定をいじくったりするととりあえず
元に戻ります。Dock.appが問題ではないようです。