実装はしたものの結局使っていなかったので長く気づいておりませんでしたが、仰せの通り逆の結果を返しているようです。

直接MQ3DLib.cppを書き換えて関数名をIsBackFaceとするか、「 < 0」の箇所を「 >= 0」に変えて正しい動作になるよう修正お願いいたします。
今後のアップデート時に仕様変更いたします。