设 $f(x)$ 是 $[0,\infty)$ 上的单调函数， 则对任意固定的 $a$, 有 $\dps{\vlm{n}\int_0^a f(x)\sin nx\rd x =0}$; 若同时还有 $\dps{\vlm{x}f(x)=0}$, 则 $\dps{\vlm{n}\int_0^\infty f(x)\sin nx\rd x=0}$.

证明:

(1) 由积分第二中值定理知 $$\beex \bea \sev{\int_0^a f(x)\sin nx\rd x} &=\sev{f(0)\int_0^b \sin nx\rd x+f(a)\int_b^a \sin nx\rd x}\\ &=\sev{ f(0)\frac{1-\cos nb}{n}+f(a)\frac{\cos nb-\cos na}{n} }\\ &\leq \frac{2[|f(0)|+|f(a)|]}{n} \eea \eeex$$ 即知结论. 

(2) 不妨设 $f\geq 0$, 否则利用 $$\bex \int_0^\infty f(x)\sin nx\rd x=-\int_0^\infty [-f(x)]\sin nx\rd x. \eex$$ 由 $$\beex \bea \int_0^\infty f(x)\sin nx\rd x &=\int_0^{2\pi}f(x)\sin nx\rd x +\int_{2\pi}^{3\pi}f(x)\sin nx\rd x +\int_{3\pi}^{4\pi}f(x)\sin nx\rd x+\cdots\\ &\geq \int_0^{2\pi}f(x)\sin nx\rd x +f(3\pi)\int_{2\pi}^{3\pi}\sin nx\rd x +f(3\pi)\int_{3\pi}^{4\pi}\sin nx\rd x+\cdots\\ &=\int_0^{2\pi}f(x)\sin nx\rd x,\\ \int_0^\infty f(x)\sin nx\rd x &=\int_0^\pi f(x)\sin nx\rd x +\int_\pi^{2\pi}f(x)\sin nx\rd x +\int_{2\pi}^{3\pi}f(x)\sin nx\rd x+\cdots\\ &\leq \int_0^\pi f(x)\sin nx\rd x +f(2\pi)\int_\pi^{2\pi}\sin nx\rd x +f(2\pi)\int_{2\pi}^{3\pi}\sin nx \rd x+\cdots\\ &=\int_0^\pi f(x)\sin nx\rd x \eea \eeex$$ 知 $$\bex \int_0^{2\pi}f(x)\sin nx\rd x\leq\int_0^\infty f(x)\sin nx\rd x\leq \int_0^\pi f(x)\sin nx\rd x. \eex$$ 由夹逼原理及 (1) 即知结论. 

 

注: 本题证法有误. 欢迎提出新证明. 时间有限, 我没有...[正确解答链接]