1/3ｘ+1/5ｙ+ｚ≦n
⇔1/3ｘ+1/5ｙ≦n-z
でzを固定してn-z=mとおいたわけで。
1/2(15m^2＋9m+2)はイメージ的にはz=mでスパッと切った
平面に含まれる格子点の数をmで表したもの。
だからこれをz=0からnまで（つまりm=0からnまで）動かしてその和をとれば良いだろ？