FileMakerServer v16（以下 FMS ）を macOS Server10.12/10.13 にインストールする方法
FMSをmacOS10.12.6 Sierra (macOS Server 5.3.1) にインストールしようとすると WEB ベースのため「 インストールに apache の停止が必要」と、インストールできません。（ macOS10.13 High Sierra も現象確認しましたが同様でした）
基本的に FMS で WEB 公開は使用しないのですが仕様なのでどうしようもないです．．．
Server.app で WEB サイトを OFF にしましたがダメで手動で以下 2 つを名前を変えて OS を再起動しました。
/Library/Server/Web/Config/apache2/httpd_server_app.conf → 0000httpd_server_app.conf
/Library/Server/Web/Config/Proxy/apache_serviceproxy.conf → 0000apache_serviceproxy.conf
FMS で使用するポートをデフォルトの 80/443 は Server.app 側で使用したいのでインストール途中のポート指定で変更します。
（例） Web 接続 80 → 8088
HTTPS 443 → 4433
再起動後、 Sever.app が起動していたら終了し FMS のインストーラを再度実行します。
成功しましたら、先ほどの２つのファイルの名前を戻して OS 再起動します。
その後、Server.app で WEB サイトを ON に戻して動作確認をして下さい。（使用しない方は関係ないですが・・・）