数学オリンピック本選2022 第2問

はてなブログでTeX記法が使えるみたいなので練習に

$m=n=x$ として

$f(x)^2=f^{f(x)}(x)+x^2\gt x^2$ より

$f(x)\gt x\quad\cdots(\ast)$

さらに $m=f(x),n=x$ として

$f^{f(x)+1}(x)+f(x)x=f^2(x)f(x)$

$m=x,n=f(x)$ として

$f^{f^2(x)}(x)+xf(x)=f(x)f^2(x)$

よって $f^{f(x)+1}(x)=f^{f^2(x)}(x)$

さらに $(\ast)$ から $f(x)+1=f^2(x)$

これを繰り返し適用すると $f^{f(x)}(x)=2f(x)-1$ なので $f(x)^2=f^{f(x)}(x)+x^2$ に代入し

$f(x)^2-2f(x)-x^2+1=0$

したがって $f(x)=1\pm x$

$1-x\leq 0$ なのでありえるのは常に $f(x)=x+1$ となる場合だけ

$f(x)=x+1$ が与式を満たすのは代入すれば明らかなので求める答えはこれである