Custom Numeric Types ですね（Custom Numeric Literal とも言うのかな）。

私も NumericLiteralI が定義されたソースコード
（C:\Program Files\FSharp-1.9.6.16\source\fsharp\FSharp.Core\math\z.fs）
を見て試してみましたが、上手くいきませんでした。

とりあえずモジュールの記述をそのまま自分の *.fs にコピーしてきたのですが、
（BigInt とかの型問題はもちろん解決させた上で）
そのリテラルを使うと "This is not a valid numeric literal." と怒られますね。