あんまりやってなかったら本格的に忘れてきてしまったので思い出す作業をしながらメモ
結構変わってたので更新（2022/02/28）悪いこといわないのである程度自分で練った方が良いです。

使用バイナリはx265-Yuuki-3.2+2-g238998f4b+26です
x265-Yuuki-Asuna – down.7086.in > x265-Yuuki-Asuna

set BT709=--colormatrix bt709 --colorprim bt709 --transfer bt709
set param=--preset veryslow --crf 20 --rc-lookahead 20 ^
    --aq-mode 3 --aq-strength 1.7 --psy-rd 1.4 --psy-rdoq 10.5 --rdoq-level 2 ^
    --bframes 4 --tu-intra-depth 1 --tu-inter-depth 1 --merange 64 --limit-refs 3 --no-limit-modes ^
    --ref 3 --max-merge 2 --rd 3 --me umh --subme 3 --keyint 240 ^
    --aq-motion --no-open-gop %BT709% --sar 4:3

普段使っているbatのパラメータ記述部分を切り出してきました。3話でアレする魔法少女アニメOPで実際使った奴です。どうでもいいですね。 当時結構絵的に満足してたはずなのにだいぶピーキーな設定してて引いたので最後に現代版もはっときます

batで1行扱いにしてるところとかsetしている以外は普通の記述です。多分。ややこしくならないように順を追って説明していきます

まず、1行目のBT709の項目でで指定しているのは色空間関係なんですけれど意図的に変換してない上に判明している場合はつけましょう（わからないならつけない方が安全だとは思います）
日本国内のテレビ放送（4K放送を除く）なら基本的にBT.709でOKなので古のAT-XとかNHK-BSが3つあった頃の1，2あたりのSDソースだったとしてもBT.709で良いんじゃないのかなって思います。多分。一応確認してね

参考ソース： デジタル放送のSDソースをエンコード | 子豚の嫁探し

4Kやりたいなら元ソースにらめっこしてBT.2020あたりでやって上げれば良いと思います。知らんけど

→2022/02/28追記
Batで使う系の自分用色空間のアレ（無保証)。自分用だけどx265のCLIの読み物読んで確認した方が良いです。

set BT601=–colormatrix smpte170m –colorprim smpte170m –transfer smpte170m
set BT709=–colormatrix bt709 –colorprim bt709 –transfer bt709
set BT2020=–colormatrix bt2020nc –colorprim bt2020 –transfer bt2020-10
set BT2100HLG=–colormatrix bt2020nc –colorprim bt2020 –transfer arib-std-b67
set BT2100PQ=–colormatrix bt2020nc –colorprim bt2020 –transfer smpte2084

presetはveryslowでいいとおもいます（placeboは論外なので）
大体のパラメはPCスペックとの戦いです。どっかで公開するような動画でもなければ何回か回せる範囲の設定で妥協しておきましょう。詰めた後の出力で弄るぐらいでもファイルサイズが変わる以外は大丈夫な…はず

crfも大体20付近で。こわい人エンコードに詳しい人がcrfは全然変えないと発言してたのであんまり弄らないようにしています。crf自体は品質を決めるタイプの物（≠ビトレ設定）なのでソースによると思いますけれど個人的には変えるにしても大体17-20あたりを彷徨えば良いんじゃないのかなって思います。ここをガチャガチャしたところで視覚的に大きく変わるかと言えばNO（ファイルサイズやエンコード速度の差は大きいと思います）

rc-lookaheadは先読みかな、このあたりも参照距離が増えれば増えるほど重くなるのでPCとの勝負ですかね…

→2022/03/01追記（日付変わってた……）
先読みは多めにすると確かに縮みやすくなるっぽいんですがあんまり増やしすぎるとフィルムグレインがのっぺり気味になるのでフレームレート分ぐらいで留めています。

aq-modeは3、aq-strengthは変えてますけれど基本的に1以上かなって思います。aq-modeによると思うんですけれど少なくとも3だと下げすぎるとボケた記憶。ただしaq関係はビットレート関係なのでファイルサイズにモロに影響出ます。 でもまあpsy-rd関係弄ってからかなって気がしてきました。

→2022/03/01追記 最近はaq-mode 1でやってますね。（台無し）

psy-rd関係

psy-rdはいかに見えないところをボカすか、psy-rdoqはいかに気になるところをぼかさないかって感じぽい、なんですけれどその説明通りみたらわかるタイプの変化なのでここの弄り具合で相当絵が変化します
。ここ弄ってみてビトレが足りなさそうな雰囲気だったらaq見直してみて上げてそれでも物足りなければcfr上げるみたいな感じでも良いと思います
あとpsy-rdoqはrdoq-levelが1か2でないと有効にならないので気をつけましょう（1敗）

正直一番書いてでもメモりたかったのがpsy-rd関係なのでほかはあんまりわからなかったやつです（後は無難な設定）

あ、あとはaq-motionはつけたくてON→（実験的な要素ぽい&破綻したフレームを吐くことがあるらしいってきいたので一旦やめてます。）、no-open-gopはデコード時の負荷にPCが耐えられてないので入れてます（好みで）
keyintはフレームレートが24とか30ならフレームレートx10だったり60だったら300みたいな感じにしてます。
rdは実質3固定みたいな感じなのでそのまま。merangeは沼っぽいので触らぬ神になんとか。わすれてたけどsar 4:3は普通にリサイズするなら要らないです。1440×1080になってる16:9の映像向けの値です。間違えるとアス比ぶっ壊れるので一応。

おまけ（追記分）

けれどこの辺がわかるだけでも視覚的には大きく変わるの十分エンコードが楽しくなるのでみんなやろう！！！！！！！！！！！！
動画エンコード自体が不可逆的な物なので実際には劣化が避けられないのでいかに心理視覚的にきれいに見えるように出来るかどうかだと思っているのでここさえ気をつければそれっぽい物が出来ると思います。たぶん。

あと煮詰めるときは、明るいところより暗部の方が同じレベルの差でも視覚的にわかりやすいので比較するなら暗部がオススメです。それとパラメータは1つずつ、最初は大きめに値を変えていった方が挙動がわかりやすいと思います。あとアニメのOPEDならおおよそ90s程度ですが場合によってはエンコードの時間が厳しくなると思うので一部切り出すのも手だと思います（そこまでやったことないですけれども）

後はちゃんとかけるレベルの領域に達していないのでここまで。

こっからは全部追記（2022/03/01）

set param=--preset veryslow --crf 19 --rc-lookahead 24 ^
    --aq-mode 1 --aq-strength 1.0 ^
    --psy-rd 1.0 --psy-rdoq 1.0 --rdoq-level 2 ^
    --bframes 4 --tu-intra-depth 1 --tu-inter-depth 1  ^
    --ref 3 ^
    --max-merge 3 --me umh --subme 3 --merange 64 ^
    --qcomp 0.6 --refine-mv 3 ^
    --rd 3 --ctu 64 --min-cu-size 8 --min-cu-size 8 --limit-refs 3 --no-limit-modes ^
    --rect --amp --no-early-skip ^
    --me umh --subme 3 ^
    --no-open-gop --keyint 120 --min-keyint 2 --scenecut 80 ^
    --rc-grain ^
    --sao --deblock 0:0 --no-cutree ^

–scenecut は適当にシーンチェンジ検出しやすいぐらいにした方がいいです。要するに適当
–rc-grain とか –no-cutreeはお試しでいれてます。