A Critical Neumann problem with anisotropic $$p-$$Laplacian

Abstract We are concerned with the existence of solution of the problem where $$\Delta ^H_pu=\hbox {div }(a(\nabla u))$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:msubsup> <mml:mi>Δ</mml:mi> <mml:mi>p</mml:mi> <mml:mi>H</mml:mi> </mml:msubsup> <mml:mi>u</mml:mi> <mml:mo>=</mml:mo> <mml:mtext>div</mml:mtext> <mml:mspace/> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>a</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>∇</mml:mi> <mml:mi>u</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>)</mml:mo> </mml:mrow> </mml:mrow> </mml:math> , with $$a(\xi )=H^{p-1}(\xi )\nabla H(\xi ),\, \xi \in \mathbb {R}^N,$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>a</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>ξ</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>=</mml:mo> <mml:msup> <mml:mi>H</mml:mi> <mml:mrow> <mml:mi>p</mml:mi> <mml:mo>-</mml:mo> <mml:mn>1</mml:mn> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>ξ</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mi>∇</mml:mi> <mml:mi>H</mml:mi> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>ξ</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> <mml:mo>,</mml:mo> <mml:mspace/> <mml:mi>ξ</mml:mi> <mml:mo>∈</mml:mo> <mml:msup> <mml:mrow> <mml:mi>R</mml:mi> </mml:mrow> <mml:mi>N</mml:mi> </mml:msup> <mml:mo>,</mml:mo> </mml:mrow> </mml:math> $$N\geqslant 3,$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>N</mml:mi> <mml:mo>⩾</mml:mo> <mml:mn>3</mml:mn> <mml:mo>,</mml:mo> </mml:mrow> </mml:math> is the anisotropic p -Laplacian with $$1&lt;p&lt;N$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mn>1</mml:mn> <mml:mo>&lt;</mml:mo> <mml:mi>p</mml:mi> <mml:mo>&lt;</mml:mo> <mml:mi>N</mml:mi> </mml:mrow> </mml:math> , $$\lambda &gt;0$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>λ</mml:mi> <mml:mo>&gt;</mml:mo> <mml:mn>0</mml:mn> </mml:mrow> </mml:math> is a parameter, and $$p&lt; q&lt;p^*=pN/(N-p)$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>p</mml:mi> <mml:mo>&lt;</mml:mo> <mml:mi>q</mml:mi> <mml:mo>&lt;</mml:mo> <mml:msup> <mml:mi>p</mml:mi> <mml:mo>∗</mml:mo> </mml:msup> <mml:mo>=</mml:mo> <mml:mi>p</mml:mi> <mml:mi>N</mml:mi> <mml:mo>/</mml:mo> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>N</mml:mi> <mml:mo>-</mml:mo> <mml:mi>p</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> </mml:mrow> </mml:math> . Further, $$\Omega $$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mi>Ω</mml:mi> </mml:math> is a $$C^1$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msup> <mml:mi>C</mml:mi> <mml:mn>1</mml:mn> </mml:msup> </mml:math> bounded domain inside a convex open cone. To succeed with a variational approach, where the strong convergence of a bounded (PS) subsequence needs to be proved, one has to deal with anisotropic norms in the absence of a Tartar’s type inequality, unlike the isotropic p -Laplace case. This is overcome by proving the a.e. convergence of its gradients. Furthermore, the solution of ( P ) is shown to belong to $$C^{1,\alpha }(\Omega )$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:msup> <mml:mi>C</mml:mi> <mml:mrow> <mml:mn>1</mml:mn> <mml:mo>,</mml:mo> <mml:mi>α</mml:mi> </mml:mrow> </mml:msup> <mml:mrow> <mml:mo>(</mml:mo> <mml:mi>Ω</mml:mi> <mml:mo>)</mml:mo> </mml:mrow> </mml:mrow> </mml:math> from classical elliptic regularity theory, and is positive from a Harnack inequality, since any solution of ( P ) is bounded. This in turn is a consequence of a resu