Multi-peak solutions for the fractional Schrödinger equation with Dirichlet datum

Abstract Let $$s\in (0,1)$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>s</mml:mi> <mml:mo>∈</mml:mo> <mml:mo>(</mml:mo> <mml:mn>0</mml:mn> <mml:mo>,</mml:mo> <mml:mn>1</mml:mn> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> , $$\varepsilon &gt;0$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>ε</mml:mi> <mml:mo>&gt;</mml:mo> <mml:mn>0</mml:mn> </mml:mrow> </mml:math> and let $$\Omega $$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi>Ω</mml:mi> </mml:math> be a bounded smooth domain. Given the problem $$\begin{aligned} \varepsilon ^{2s}(-\Delta )^{s} u + V(x)u = |u|^{p-1}u \quad \text{ in } \; \Omega , \end{aligned}$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mtable> <mml:mtr> <mml:mtd> <mml:mrow> <mml:msup> <mml:mi>ε</mml:mi> <mml:mrow> <mml:mn>2</mml:mn> <mml:mi>s</mml:mi> </mml:mrow> </mml:msup> <mml:msup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mo>-</mml:mo> <mml:mi>Δ</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mi>s</mml:mi> </mml:msup> <mml:mi>u</mml:mi> <mml:mo>+</mml:mo> <mml:mi>V</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>x</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mi>u</mml:mi> <mml:mo>=</mml:mo> <mml:msup> <mml:mrow> <mml:mo>|</mml:mo> <mml:mi>u</mml:mi> <mml:mo>|</mml:mo> </mml:mrow> <mml:mrow> <mml:mi>p</mml:mi> <mml:mo>-</mml:mo> <mml:mn>1</mml:mn> </mml:mrow> </mml:msup> <mml:mi>u</mml:mi> <mml:mspace/> <mml:mspace/> <mml:mtext>in</mml:mtext> <mml:mspace/> <mml:mspace/> <mml:mi>Ω</mml:mi> <mml:mo>,</mml:mo> </mml:mrow> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:math> with Dirichlet boundary conditions and $$1&lt;p&lt;(n+2s)/(n-2s)$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mn>1</mml:mn> <mml:mo>&lt;</mml:mo> <mml:mi>p</mml:mi> <mml:mo>&lt;</mml:mo> <mml:mo>(</mml:mo> <mml:mi>n</mml:mi> <mml:mo>+</mml:mo> <mml:mn>2</mml:mn> <mml:mi>s</mml:mi> <mml:mo>)</mml:mo> <mml:mo>/</mml:mo> <mml:mo>(</mml:mo> <mml:mi>n</mml:mi> <mml:mo>-</mml:mo> <mml:mn>2</mml:mn> <mml:mi>s</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> , we analyze the existence of positive multi-peak solutions concentrating, as $$\varepsilon \rightarrow 0$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>ε</mml:mi> <mml:mo>→</mml:mo> <mml:mn>0</mml:mn> </mml:mrow> </mml:math> , to one or several points of $$\Omega $$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi>Ω</mml:mi> </mml:math> . Under suitable conditions on V , we construct positive solutions concentrating at any prescribed set of its non degenerate critical points. Furthermore, we prove existence and non existence of clustering phenomena around local maxima and minima of V , respectively. The proofs rely on a Lyapunov-Schmidt reduction where three effects need to be controlled: the potential, the boundary and the interaction among peaks. The slow decay of the associated ground-state demands very precise asymptotic expansions.