結論から言うとOBS安定です。

ここら辺の説明をあかりちゃんに丸投げお願いして貰おうかなって思ったけれど、これはどうなんだろうってなったのでとりあえず保留

shadowplayといいどのデスクトップキャプチャーもみんなvfrでキャプりたがるのでほんとやめた方がいいと思う。絶対開発した人vfrソースでエンコしたことないと思う

基本的には普通に最新VerのOBSをインストールして起動、ソース元は雑に指定しておいてください。
後は表示→統計でフレームドロップ率とかも見れるのでもしこの通りうまくいかなかったら設定下げるとかPC買い換えるなどとかしてそこらへんうまくやってね

ってここから設定になりますが、まあ1080pの60fpsのキャプチャーを無劣化でやると消費量も速度もかなーりやばいのでやるならストレージの暴力が必須だと思います。が、それさえ出来れば一番きれいにエンコードするときに出来ると思う（当たり前）
x264で1080pエンコで60fpsってCPU負荷を考慮すると絶対やりたくないのでQSVかNVEncになりますが、普通に考えてNVEncよりQSVの方がマシなのでQSVでアレします。
ゲームで使うグラボを使用しなくて済むので

ってことで適当に設定せにゃならんわけですが

使用PC　CPU:Core i7-4790K@4.7GHz VGA:GeForce GTX1070Ti ストレージ適当
matunokiパソコン備忘録 OBS Studioエンコーダ詳細解説

この辺を参考に

関係ないですが動きが激しい動画って鯖の再エンコ食らうとどのぐらいになるのだろうか･･･ってことで非公開でニコとつべで試してみるやつ（後でチェック予定）
ニコ→1080pで1080p＠6Mbpsで鯖エンコって事でご察し
つべ→わかんね（まだチェックできてない）→まあ妥当？

設定→出力で詳細に切り替えてから録画タブへ

mp4だとクラッシュ時がアレなのでみんな大好きtsで処理してる（雑
tsなら雑に切ってもどうにかなるのでOK
嫌な人は他のやつでやればいいと思う

balanced/high/Keyframe=1s/非同期深度4/LA_ICQ/ICQ=15ぐらいたしか/Lookahead=40
ターゲットをQualityにすると途中で止まるのでダメでした。
プロファイルは普通にHigh
キーフレームはなさ過ぎると再生時のシークがアレなのでファイルサイズに絡むはずだけど雑に、H.264エンコード時はfpsx10（つまり10秒程度）にしてたけどそのぐらいにするとなんかMPC-BEの挙動がアレになる気がするのでせいぜい2-3秒ぐらいが無難だと思う（つまりデフォ）
非同期深度はAsyncDepthというらしく参考元見る分にはわからんなら弄らん方が良さそうな感じがしたのでこのまま
Question / Help – Need to know what ASYNC Depth is | Open Broadcaster Software

rigayaの日記兼メモ帳 QSVEncのLookaheadモード
を雑に参考にしたらHaswellだと少なくともLookaheadなICQを使用するやつが良さそうだったので
Haswellの4790Kなうちはこれを使いました。

Skylake以降は知りませんがこれよりいい方法とかいい設定があると思います。（QSVの性能上昇で重い設定行けるとか、あと今のはHEVCもいけるらしいのでそれも影響あるかも知れない）

ICQの品質はまあ所謂CFRのノリで適当に設定しましたがx264比である程度盛らないと画質はキープできないと思います。
ってことで10-15ぐらい？ここはストレージとか画質とかのアレでうまーくやってくださいとしか
まあここでいくらきれいにしても鯖エンコで汚くなるんですけどね。でもローカルで自分が処理する分にはきれいに越したことはないので録画後どうするかはともかく自分の用途に合わせてうまーくやってください。
ちゃんときれいにエンコして消すならファイルバカ食いでもいいから元ソースはできるだけきれいにすべきだろうし、妥協できる設定でだらだら元データ保持して終わらせるだけならよって人は納得がいく設定でそのまま吐いて終わりでもいいし（両方拗らせてHDDの暴力で無劣化保持でもいいだろうし）

どの道ネットの海に動画として流すとして再エンコされない鯖なんてもうないだろうし頑張ったところでたかが知れてるのでゲームとかの動画あげてぇって人はあんまりエンコ殺しにならないような設定で録画するしかないと思う。ビトレ盛るのもいいけどどうせ再エンコで（以下略）
グラボの負荷は落ちるし、エンコ殺しの被害に遭いにくくなるし

ゲームじゃなくてもエンコ殺しにならんようにすれば適当な設定でもまあまきれいに縮むだろうしうまくやるしかないと思うけどちゃんとフレームレート決め打ちで安定キャプできるのはデカイと思うのでオススメです。

気になったのでちょっと書き直したんだけどエンコ殺しにならないようにって言ってる時点で負けですねこれ･･･