http://www.filemaker.com/developers/resources/php/
ざっと見たところ、FileMaker Server 8 Advanced 8.0v4 の XML Publishing を利用して、fmresultset の XML文法でデータのやり取りをしているようです。PHPは4.3.xから、5.1.2にも対応。curlが必要とのこと。
大雑把にまとめると、FX.php は FMPXMLRESULT の XML文法に基づき、XMLのシリアライズ・デシリアライズと、データベースとのデータのやり取りの簡単なインタフェースを提供しているだけなのに対し、FileMaker API for PHP ではそのもう一つ上のレベルで API が用意されている印象があります。きれいなコードが書けそう。
しかし、パフォーマンスはどうなんでしょうね。パフォーマンスに関係しそうな違いは、使っている XML文法くらいのように見えますので、ここで差がでなければパフォーマンスの向上は期待薄でしょうか。
それにしても FileMaker Inc. 正式対応というのが心強いです。XMLでのデータのやり取りはAPIからは隠蔽されていますので、将来のバージョンでは、APIの互換性は保持されたままパフォーマンスが向上することも充分期待できます。