Investigating three body charm hadron decays with missing energy within non-minimal SU(5)

Abstract In the Standard Model, the $$c \rightarrow u\nu {\bar{\nu }}$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>c</mml:mi> <mml:mo>→</mml:mo> <mml:mi>u</mml:mi> <mml:mi>ν</mml:mi> <mml:mover> <mml:mrow> <mml:mi>ν</mml:mi> </mml:mrow> <mml:mrow> <mml:mo>¯</mml:mo> </mml:mrow> </mml:mover> </mml:mrow> </mml:math> transition arises only at the one-loop level, leading to extremely suppressed branching ratios for the corresponding three-body decays of charmed hadrons. This suppression motivates the search for possible enhancements from physics beyond the Standard Model. In this work, we study the contributions to the $$c \rightarrow u\nu {\bar{\nu }}$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>c</mml:mi> <mml:mo>→</mml:mo> <mml:mi>u</mml:mi> <mml:mi>ν</mml:mi> <mml:mover> <mml:mrow> <mml:mi>ν</mml:mi> </mml:mrow> <mml:mrow> <mml:mo>¯</mml:mo> </mml:mrow> </mml:mover> </mml:mrow> </mml:math> transition from the $$R^{a2}_2$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msubsup> <mml:mi>R</mml:mi> <mml:mn>2</mml:mn> <mml:mrow> <mml:mi>a</mml:mi> <mml:mn>2</mml:mn> </mml:mrow> </mml:msubsup> </mml:math> scalar leptoquark predicted in the Non-Minimal SU(5) GUT framework. We derive constraints on the model parameters using the recent BESIII results on $$D^0 \rightarrow \pi ^0\nu {\bar{\nu }}$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:msup> <mml:mi>D</mml:mi> <mml:mn>0</mml:mn> </mml:msup> <mml:mo>→</mml:mo> <mml:msup> <mml:mi>π</mml:mi> <mml:mn>0</mml:mn> </mml:msup> <mml:mi>ν</mml:mi> <mml:mover> <mml:mrow> <mml:mi>ν</mml:mi> </mml:mrow> <mml:mrow> <mml:mo>¯</mml:mo> </mml:mrow> </mml:mover> </mml:mrow> </mml:math> and available data on $$D^0$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msup> <mml:mi>D</mml:mi> <mml:mn>0</mml:mn> </mml:msup> </mml:math> – $$\bar{D}^0$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:msup> <mml:mrow> <mml:mover> <mml:mrow> <mml:mi>D</mml:mi> </mml:mrow> <mml:mrow> <mml:mo>¯</mml:mo> </mml:mrow> </mml:mover> </mml:mrow> <mml:mn>0</mml:mn> </mml:msup> </mml:math> mixing. Additional bounds from direct LHC searches for scalar leptoquarks, lepton flavor violation processes, and the LHCb upper limit on $$\mathcal {B}(D^0 \rightarrow \mu ^+ \mu ^-)$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>B</mml:mi> <mml:mo>(</mml:mo> <mml:msup> <mml:mi>D</mml:mi> <mml:mn>0</mml:mn> </mml:msup> <mml:mo>→</mml:mo> <mml:msup> <mml:mi>μ</mml:mi> <mml:mo>+</mml:mo> </mml:msup> <mml:msup> <mml:mi>μ</mml:mi> <mml:mo>-</mml:mo> </mml:msup> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> are also taken into account. After imposing all constraints, we show that the branching ratios of the three-body charmed hadron decays with missing energy can be enhanced up to $${{\mathcal {O}}}(10^{-6})$$ <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"> <mml:mrow> <mml:mi>O</mml:mi> <mml:mo>(</mml:mo> <mml:msup> <mml:mn>10</mml:mn> <mml:mrow> <mml:mo>-</mml:mo> <mml:mn>6</mml:mn> </mml:mrow> </mml:msup> <mml:mo>)</mml:mo> </mml:mrow> </mml:math> .