今頃きづいたので、反省がてらのっけておきます orz...

.NET Framework 4 から ByteDoubleInt32 などの数値プリミティブを補足する数値型が追加されました。

名前空間は
System.Numerics

以下の2つの型が追加されました。

構造体 説明
パブリック構造体 BigInteger 任意の大きさを持つ符号付き整数を表します。
パブリック構造体 Complex 複素数を表します。
構造体 説明
パブリック構造体 BigInteger 任意の大きさを持つ符号付き整数を表します。
パブリック構造体 Complex 複素数を表します。
構造体 説明
BigInteger 任意の大きさを持つ符号付き整数を表します。 
Complex 複素数を表します。 

特徴
BigInteger 構造は、下限または上限がなく、任意の整数の値を含めることができます。
 限界がないので、MinValue プロパティ、MaxValue プロパティは存在しませんってことですね。

MSDNの BigInteger構造体にはいろいろな例が載っているので理解しやすいです。
http://msdn.microsoft.com/ja-jp/library/system.numerics.biginteger.aspx
Parse または TryParse メソッドをはじめ、これまで使ってきた感覚で使用できるのがいいですね。

いままでこのあたりのクラスを使っていた方~
C# BigInteger Class
http://www.codeproject.com/KB/cs/biginteger.aspx
互換性とかどうなのでしょうか?ぜひ感想をw


複素数(Complex)に関しては、出力形式のフォーマットが気になると思います。
そのあたりのサンプルもきっちりMSDNに掲載されていますね。
MSDNさん、いい仕事してますねぇ~
http://msdn.microsoft.com/ja-jp/library/system.numerics.complex.aspx
class ComplexFormatter :IFormatProvider, ICustomFormatter
のあたりを参照