C++ 側がエクスポートする名前と Python が import する名前が一致していないのでdials/algorithms/image/filter/boost_python/ にある fano_filter.cc と mean_and_variance.cc を修正(3箇所)。その上で、
BOOST_ADAPTBX_FPE_DEFAULT=1 dials.background_lookup test-000[12345].osc
としたところ、mathplotlib が開いて、2つ表示された。
環境変数を付けないと、
Floating-point error (Python and libc call stacks above) This crash may be due to a problem in any imported Python module, including modules which are not part of the cctbx project. To disable the traps leading to this message, define these environment variables (e.g. assign the value 1): BOOST_ADAPTBX_FPE_DEFAULT BOOST_ADAPTBX_SIGNALS_DEFAULT This will NOT solve the problem, just mask it, but may allow you to proceed in case it is not critical.
というエラーになる。scitbx/array_family/boost_python/numpy_bridge.cpp によると、Mac OS X 固有の問題らしいが詳細不明。