Гипоэллиптический оператор — дифференциальный оператор в частных производных, фундаментальное решение которого принадлежит классу ${\displaystyle C^{\infty }}$ во всех точках пространства, за исключением начала координат.

Пусть ${\displaystyle P(\xi )}$ — вещественный полином от переменных ${\displaystyle \xi =(\xi _{1},\ldots ,\xi _{n}):}$

${\displaystyle P(\xi )=\sum _{|\alpha |\leq m}a_{\alpha }\xi ^{\alpha }:=\sum _{|\alpha |\leq m}a_{\alpha }\xi _{1}^{\alpha _{1}}\cdots \xi _{n}^{\alpha _{n}},}$

где ${\displaystyle \alpha =(\alpha _{1},\ldots ,\alpha _{n})\in \mathbb {Z} _{+}^{n}}$ и ${\displaystyle |\alpha |=\alpha _{1}+\cdots +\alpha _{n}}$.

Определим соответствующий дифференциальный оператор:

${\displaystyle P(D)=\sum _{|\alpha |\leq m}a_{\alpha }D^{\alpha }:=\sum _{|\alpha |\leq m}a_{\alpha }{\frac {\partial ^{|\alpha |}}{\partial x_{1}^{\alpha _{1}}\cdots \partial x_{n}^{\alpha _{n}}}},}$

где

${\displaystyle D=(D_{1},\ldots ,D_{n}),\quad D_{j}={\frac {\partial }{\partial x_{j}}},\quad j=1,\ldots ,n.}$

Обобщенная функция ${\displaystyle {\mathcal {E}}(x)}$ называется фундаментальным решением дифференциального оператора ${\displaystyle P(D)}$, если она является решением уравнения ${\displaystyle P(D){\mathcal {E}}(x)=\delta (x),}$ где ${\displaystyle \delta (x)}$ — дельта-функция Дирака. Оператор ${\displaystyle P(D)}$ называется гипоэллиптическим, если ${\displaystyle {\mathcal {E}}(x)}$ принадлежит классу ${\displaystyle C^{\infty }}$ при всех ${\displaystyle x\neq 0}$.^[1][2]

Следующий критерий гипоэллиптичности часто используется в качестве определения гипоэллиптического оператора:^[1]

Также имеет место следующий алгебраический критерий гипоэллиптичности, установленный Хёрмандером:^[1]

• Любой эллиптический оператор является гипоэллиптическим, например, оператор Лапласа^[2].
• Оператор теплопроводности является гипоэллиптическим, но не эллиптическим^[2].
• Оператор Д’Аламбера не является гипоэллиптическим^[2].

• Хёрмандер Л. Анализ линейных дифференциальных операторов с частными производными. — Москва: Мир, 1986—1988.
• Владимиров В.С. Обобщённые функции в математической физике. — Москва: Наука, 1979.
• Ю.В. Егоров, М.А. Шубин. Линейные дифференциальные уравнения с частными производными. Основы классической теории. — Итоги науки и техн. Сер. Соврем. пробл. мат. Фундам. направления. — Москва: ВИНИТИ, 1988. — Т. 30. — С. 5-255.
• Ж. Трев. Лекции по линейным уравнениям в частных производных с постоянными коэффициентами. — Москва, 1965.