UTM 4.0.9 上で、以下の設定で、OS X 10.9 Mavericks と 10.8 Mouintain Lion のインストールができました。

以下のスクリーンショットは UTM 4.1.5 のものです。UTM 4.1.5 でもインストーラが起動するところまでは確認しています。参考になれば幸いです。

設定

システム

以下のように設定します。OS X 10.9 Mavericks の最小メモリは 2GB ですのでお好みで。

  • アーキテクチャ: x86-x64
  • システム: Standard PC (Q35 + ICH9, 2009)(alias of pc-q35-6.2)(q35)
  • メモリ： 4096MB
  • CPUコア数: 4
  • マルチコアを強制にチェックを入れておく

Qemu

見えてるところは、触ってません。

以下、2つのオプションを追加するのですが、UI が非常に分かりにくいです。Qemu の設定画面を一番下までスクロールすると、新規...というテキストエリアがあるので、そこに入力します。

  1. -cpu
  2. Penryn,+ssse3,+sse4.1,+sse4.2

ドライブ

以下の手順で起動できています。

  1. 一旦、すべてのドライブを削除する
  2. なし（詳細）として追加し、OVMF.bin を読み込ませ、BIOS として設定します。OVMF はファームウェアとして機能し、CPU以外の周辺機能をエミュレートしているようです。ここから入手できます。
  1. USB として追加し、EFI-LEGACY.img を読み込ませ、ディスクイメージとして設定します。OS X のブートローダとして機能する OpenCore Image です。OS X 10.6 〜 macOS 10.14 まで起動可能とのことです。EFI-LEGACY.img は ここから入手できます。OS X 10.4 〜 10.7 では EFI-i386.img を、mac OS 10.15 以降は EFI-MODERN.img を使用します。10.6 と 10.7 はどっちを使うの？　ってなりますが、分かりません。試してみた方は教えてください。
  1. IDE（リムーバブルドライブ）として追加し、OS X 10.9 Mavericks.iso を読み込ませ、CD/DVD (ISO) イメージとして設定します。OS X 10.9 Mavericks.iso はインストーラから作成します。作成方法は、「ディスクユーティリティ」でmacOSインストール用ISOファイルを作るを参照してください。
  1. IDE として追加し、32GB の容量を設定する（メインのドライブ。容量はお好みで。参考までに、Adobe Photoshop CS6 Design Standard と ATOK 2017 Premium をインストールしたら、16GB くらいです）

リムーバブルドライブは、インストール完了後、削除しても構いません。

起動すると、途中で止まってしばらく（数分）待たされますが、インストーラが起動します。インストーラ起動後、ディスクユーティリティで HDD を HFS+ でフォーマットします。後は通常通りにインストールしてください。

おわりに

Mavericks はメモリ圧縮を搭載した最初の OS X で、メモリを潤沢に使えない VM には良いと思います。UTM 4.1.5 時点では、「英数」「かな」が効かなかったり、マウスカーソルの加速が異常だったり、サスペンドできなかったり、使用するには難ありの状態です。今後のアップデートに期待です。

参考にしたサイト