Наименование НИР: «Методы метрической геометрии и анализа на неголономных многообразиях в задачах механики сплошных сред» (стр. 14 )

Функция принадлежит классическому пространству Соболева , если она имеет обобщенные производные порядка 1 во всех направлениях, суммируемые в степени . Решения субэллиптических уравнений ищут в пространстве функций, имеющих суммируемые в степени обобщенные производные, только в направлениях, определяемых собственными векторами матрицы  коэффициентов уравнения при старших производных,  соответствующих положительным собственным значениям.

Нормы этих функциональных пространств не эквивалентны. Однако, многие их свойства сходны. Так для «неклассических» пространств Соболева выполняются теоремы вложения [72] аналогичные классическим теоремам вложения Соболева.

Также как пространства Соболева для субэллиптической ситуации можно приспособить специальные пространства Гельдера, Никольского, Бесова и др. Для этого при определении упомянутых пространств следует рассматривать разности не вдоль всех направлений, а только вдоль интегральных линий векторных полей , соответствующих положительным собственным значениям матрицы . Отметим, что в силу перечисленных выше условий, любые две точки можно соединить такой линией.

Теория эллиптических уравнений развивается относительно давно и занимает важное место в теории уравнений в частных производных, см., например [73].

Интенсивное развитие теории субэллиптических уравнений началось относительно недавно и продолжается в настоящее время. В этой области работает много математиков, в их числе G. B. Folland, E. M. Stein, L. Capogna, N. Garofallo, D. Jerison, B. Franchi, D. Danielli, D.-M. Nhieu, D. Geller., A. Sanches-Calle, и др., см., например, [74]. 

Пионерские работы в этой, а также в смежной области связанной с изучением ультрапараболических уравнений принадлежат  [75], Л. Хермандеру, [76] и  . Л. Хермандер впервые рассмотрел специальные пространства Соболева для вывода априорных оценок решений таких уравнений [77]. Интерес к собственно субэллиптическим уравнениям возник после работы  1973 г. [78], в которой он построил фундаментальное решение для одного субэллиптического линейного оператора, и последующего цикла его работ, продолжавших это исследование.

Современное развитие теории субэллиптических уравнений связано, с одной стороны, с многочисленными приложениями, с другой стороны, с появлением подходящего математического аппарата, в частности, с развитием теории функциональных пространств.

Участники проекта продолжительное время работают в области  теории функций, теории пространств Соболева, в том числе пространств Соболева, возникающих при изучении субэллиптических уравнений. В рамках этих исследований, выведены интегральные представления типа Соболева на группах Карно, доказаны коэрцитивные оценки [78], изучены многие другие вопросы о поведении функций упомянутых специальных классов Соболева. Также участники работали в области теории квазиконформных в смысле специальной метрики отображений, имеющей отношение к субэллиптическим уравнениям аналогично тому, как теория квазиконформных в смысле евклидовой метрики отображений связана с теорией эллиптических уравнений.

Отметим связь теории субэллиптических уравнений с теорией конечномерных групп Ли. Субэллиптические уравнения с достаточно гладкими коэффициентами можно записать в виде

где квадратичная форма, соответствующая матрице положительно определена; число векторных полей меньше размерности переменного , система векторных полей удовлетворяет условиям Хермандера.  А именно, для любого целого неотрицательного числа линейная оболочка этой системы векторных полей вместе с их коммутаторами порядка не выше образует касательное подрасслоение некоторой фиксированной размерности, т. е. для любой точки размерность пространства натянутого на вектора …, не зависит от точки , и для некоторого достаточно большого эта размерность равна .

Отметим, что мы отождествляем векторные поля с операторами дифференцирования вдоль этих векторных полей.

В важном частном случае представляет из себя набор векторных полей, порождающих вместе со своими коммутаторами алгебру Ли левоинвариантных полей некоторой стратифицированной нильпотентной группы Ли с носителем в .

В этом случае представляет из себя не только производную функции вдоль векторного поля , но и производную в смысле групповой операции, соответствующую однопараметрической подгруппе рассматриваемой группы (аналог частной производной).

Описанный класс субэллиптических уравнений удобен тем, что для операторов вида можно построить фундаментальное решение. Т. е. указать ядро, групповая свертка с которым произвольной достаточно  гладкой функции будет являться решением уравнения . Под групповой сверткой (левой) ядра с функцией подразумевается функция , где обозначает произведение в смысле рассматриваемой групповой операции, мера инвариантна относительно левых и правых сдвигов на группе.

Известно, что произвольный набор векторных полей, удовлетворяющих условиям Хермандера можно локально приблизить векторными полями, порождающими алгебру Ли некоторой конечномерной группы Ли. Этот прием позволяет строить функцию Грина для любого линейного однородного субэллиптического оператора второго порядка с достаточно гладкими коэффициентами.

Как уже отмечалось, теории эллиптических и субэллиптических уравнений имеют много общего. Это означает, что многие идеи, методы и подходы, применяемые в теории эллиптических уравнений можно адаптировать для исследования задач теории субэллиптических уравнений.

Однако в некоторых случаях на этом пути возникают значительные сложности.

       Известно, что оценки Шаудера играют важную роль в теории эллиптических уравнений. Они позволяют эффективно находить решения линейных эллиптических уравнений с переменными коэффициентами методом продолжения по параметру. Кроме того, они позволяют доказывать существование решения задачи Дирихле для квазилинейных эллиптических уравнений, используя принцип Лере-Шаудера.

Попытки адаптировать доказательство Шаудера для получения априорных оценок решений субэллиптических уравнений встречают на своем пути ряд трудностей как аналитического, так и геометрического характера. Поэтому участник проекта доказал оценки сходные с оценками Шаудера, но сформулированные не в терминах пространств Гельдера, а в терминах пространств Бесова. Это позволило избежать существенных трудностей, связанных с различными геометрическими аспектами. Кроме того, это позволило применить идеи, идущие от работ ,  , ,  A. Johnsson, H. A. Wallin [80], легко адаптируемые для изучения свойств решений субэллиптических уравнений.

Мы рассматриваем модельный случай субэллиптических уравнений: =3, векторные поля , порождают алгебру Ли группы Гейзенберга.