Методы метрической геометрии и анализа на неголономных многообразиях в задачах механики сплошных сред (стр. 5 )

Нормы этих функциональных пространств не эквивалентны. Однако, многие их свойства сходны. Так для «неклассических» пространств Соболева выполняются теоремы вложения [72] аналогичные классическим теоремам вложения Соболева.

Также как пространства Соболева для субэллиптической ситуации можно приспособить специальные пространства Гельдера, Никольского, Бесова и др. Для этого при определении упомянутых пространств следует рассматривать разности не вдоль всех направлений, а только вдоль интегральных линий векторных полей , соответствующих положительным собственным значениям матрицы . Отметим, что в силу перечисленных выше условий, любые две точки можно соединить такой линией.

Теория эллиптических уравнений развивается относительно давно и занимает важное место в теории уравнений в частных производных, см., например [73].

Интенсивное развитие теории субэллиптических уравнений началось относительно недавно и продолжается в настоящее время. В этой области работает много математиков, в их числе G. B. Folland, E. M. Stein, L. Capogna, N. Garofallo, D. Jerison, B. Franchi, D. Danielli, D.-M. Nhieu, D. Geller., A. Sanches-Calle, и др., см., например, [74].

Пионерские работы в этой, а также в смежной области связанной с изучением ультрапараболических уравнений принадлежат [75], Л. Хермандеру, [76] и . Л. Хермандер впервые рассмотрел специальные пространства Соболева для вывода априорных оценок решений таких уравнений [77]. Интерес к собственно субэллиптическим уравнениям возник после работы 1973 г. [78], в которой он построил фундаментальное решение для одного субэллиптического линейного оператора, и последующего цикла его работ, продолжавших это исследование.

Современное развитие теории субэллиптических уравнений связано, с одной стороны, с многочисленными приложениями, с другой стороны, с появлением подходящего математического аппарата, в частности, с развитием теории функциональных пространств.

Участники проекта продолжительное время работают в области теории функций, теории пространств Соболева, в том числе пространств Соболева, возникающих при изучении субэллиптических уравнений. В рамках этих исследований, выведены интегральные представления типа Соболева на группах Карно, доказаны коэрцитивные оценки [78], изучены многие другие вопросы о поведении функций упомянутых специальных классов Соболева. Также участники работали в области теории квазиконформных в смысле специальной метрики отображений, имеющей отношение к субэллиптическим уравнениям аналогично тому, как теория квазиконформных в смысле евклидовой метрики отображений связана с теорией эллиптических уравнений.

Отметим связь теории субэллиптических уравнений с теорией конечномерных групп Ли. Субэллиптические уравнения с достаточно гладкими коэффициентами можно записать в виде

где квадратичная форма, соответствующая матрице положительно определена; число векторных полей меньше размерности переменного , система векторных полей удовлетворяет условиям Хермандера. А именно, для любого целого неотрицательного числа линейная оболочка этой системы векторных полей вместе с их коммутаторами порядка не выше образует касательное подрасслоение некоторой фиксированной размерности, т. е. для любой точки размерность пространства натянутого на вектора …, не зависит от точки , и для некоторого достаточно большого эта размерность равна .

Отметим, что мы отождествляем векторные поля с операторами дифференцирования вдоль этих векторных полей.

В важном частном случае представляет из себя набор векторных полей, порождающих вместе со своими коммутаторами алгебру Ли левоинвариантных полей некоторой стратифицированной нильпотентной группы Ли с носителем в .

В этом случае представляет из себя не только производную функции вдоль векторного поля , но и производную в смысле групповой операции, соответствующую однопараметрической подгруппе рассматриваемой группы (аналог частной производной).

Описанный класс субэллиптических уравнений удобен тем, что для операторов вида можно построить фундаментальное решение. Т. е. указать ядро, групповая свертка с которым произвольной достаточно гладкой функции будет являться решением уравнения . Под групповой сверткой (левой) ядра с функцией подразумевается функция , где обозначает произведение в смысле рассматриваемой групповой операции, мера инвариантна относительно левых и правых сдвигов на группе.

Известно, что произвольный набор векторных полей, удовлетворяющих условиям Хермандера можно локально приблизить векторными полями, порождающими алгебру Ли некоторой конечномерной группы Ли. Этот прием позволяет строить функцию Грина для любого линейного однородного субэллиптического оператора второго порядка с достаточно гладкими коэффициентами.

Как уже отмечалось, теории эллиптических и субэллиптических уравнений имеют много общего. Это означает, что многие идеи, методы и подходы, применяемые в теории эллиптических уравнений можно адаптировать для исследования задач теории субэллиптических уравнений.

Однако в некоторых случаях на этом пути возникают значительные сложности.

Известно, что оценки Шаудера играют важную роль в теории эллиптических уравнений. Они позволяют эффективно находить решения линейных эллиптических уравнений с переменными коэффициентами методом продолжения по параметру. Кроме того, они позволяют доказывать существование решения задачи Дирихле для квазилинейных эллиптических уравнений, используя принцип Лере-Шаудера.

Попытки адаптировать доказательство Шаудера для получения априорных оценок решений субэллиптических уравнений встречают на своем пути ряд трудностей как аналитического, так и геометрического характера. Поэтому участник проекта доказал оценки сходные с оценками Шаудера, но сформулированные не в терминах пространств Гельдера, а в терминах пространств Бесова. Это позволило избежать существенных трудностей, связанных с различными геометрическими аспектами. Кроме того, это позволило применить идеи, идущие от работ , , A. Johnsson, H. A. Wallin [80], легко адаптируемые для изучения свойств решений субэллиптических уравнений.

Мы рассматриваем модельный случай субэллиптических уравнений: =3, векторные поля , порождают алгебру Ли группы Гейзенберга.

Наряду с векторными полями , мы рассматриваем поля , , перестановочные с полями , и удовлетворяющие аналогичным коммутационным соотношениям.

Векторные поля и левоинвариантны относительно операции на группе Гейзенберга, в то время как поля и правоинвариантны относительно этой групповой операции.

Будем называть систему векторных полей , сопряженной системе полей , . Отметим, что если рассмотреть векторные поля , , (соответствующее им уравнение будет эллиптическим, а не субэллиптическим), то сопряженная система будет состоять из тех же векторных полей , , .

Рассмотрим разности вдоль направлений производных первого порядка вдоль векторных полей от некоторой функции. С помощью этих разностей определим стандартным образом пространства Бесова. В терминах норм таких пространств Бесова мы получаем априорные оценки норм решений субэллиптических уравнений.

То, что мы учитываем дифференциальные характеристики рассматриваемых функций как вдоль направлений векторных полей , так и вдоль направлений полей , дает ряд преимуществ при выводе априорных оценок.

Во-первых, правоинвариантность векторных полей позволяет получать оценки норм сингулярных интегральных операторов в смысле пространств Бесова, определяемых через разности вдоль этих векторных полей.

Во-вторых, в силу перестановочности векторных полей и , для всякой -гармонической функции (т. е. для всякого решения уравнения ) разности функции вдоль полей также будут -гармоническими функциями.

Мы получили оценку нормы решения субэллиптического уравнения через нормы коэффициентов и норму правой части уравнения, а также через норму характеризующую поведение рассматриваемого решения вблизи границы.

Эта оценка позволяет построить метод нахождения решений задачи Нейман для линейных субэллиптических уравнений с переменными коэффициентами.

В качестве вспомогательного результата мы доказали теоремы вложения и интерполяционные неравенства для рассматриваемых пространств Бесова. Доказательства этих утверждений опираются на использование интегральных представлений через разности вдоль интегральных линий векторных полей , аналогичные представлениям через производные вдоль векторных полей , выведенные в работе участника проекта [79]. Такие представления могут быть выведены также с помощью техники , см. [71], используя переход к специальной системе координат на группе Гейзенберга, см. [79], аналогичной сферической системе координат.

Кроме того, нами было начато исследование в области теории общих пространств Соболева. Было сформулировано определение пространств Соболева, состоящих из функций, заданных на произвольном метрическом пространстве с борелевской мерой. Это определение является более общим, чем известные ранее определения, в которых, как правило, налагаются условия на связь меры и метрики, например, условие удвоения. Более того, мы доказали компактность вложения таких пространств в , где зависит от и некоторых геометрических свойств рассматриваемого пространства, а также свойств рассматриваемой на этом пространстве меры. Мы доказали новый критерий компактности семейства функций из , заданных на вполне ограниченной области произвольного сепарабельного метрического пространства.

2 Отчет по обобщению и оценке результатов исследований

2.1 Модели, методы, программы и алгоритмы, позволяющие увеличить объем знаний для более глубокого понимания изучаемого предмета исследования новых явлений, механизмов или закономерностей

В 2010 г. доказано, что если кривая обладает свойством: det(g(s)-g(t))¹0 для всех s¹t, то любое решение u=u(x,y)ÎC(W), , системы

(46)

(47)

понимаемой в смысле теории обобщенных функций (распределений по Шварцу), является иэнтропическим. Это означает, что для любого kÎR функции max(u,k) и min(u,k) также являются обобщенным решением той же системы (46). Метод доказательства основан на применении результатов из теории функций с конечным искажением (см. работу [81]) и теории квазивыпуклых множеств и функций (см., в частности, работу [82] ).

Из этой теоремы вытекает множество следствий и приложений. Можно вывести, например, что для указанного решения u множество значений g(u) имеет нулевую меру Лебега. Далее, если кривая g удовлетворяет более сильному условию det(g(s)-g(t))>c|g(s)-g(t)|2 для всех s¹t, то не существует непостоянных решений системы (46)-(47) и т. д. Указанный результат также позволяет сформулировать необходимые и достаточные условия на квазиконформную кривую, чтобы она была множеством значений градиента C1-гладкой функции из R2 в R2.

Указанные выше результаты нашли важное приложение в геометрии. Далее в этом пункте приводятся результаты из статьи [83].

Как и принято, символом Ñv обозначается матрица дифференциала отображения Областью мы называем открытое связное множество. Всюду в дальнейшем Int E — внутренность множества E, ¶E — граница множества E, meas E — мера Лебега множества E (в пространстве соответствующей размерности). Некоторые другие обозначения будут вводиться по ходу работы.

Теорема 1.1. Пусть v:W®R — -гладкая функция на области . Предположим, что

IntÑv(W)=Æ. (48)

Тогда measÑv(W)=0.

Теорема 1.1 является прямым следствием следующих двух результатов.

Теорема 1.2. Пусть v:W®R — -гладкая функция на области . Предположим, что выполнено равенство (3). Тогда график функции v является нормальной развертывающейся поверхностью.

Напомним, что -гладкое многообразие называется нормальной развертывающейся поверхностью [84] (см. также [85]), если через каждую точку проходит прямолинейный отрезок IÌS (точка является внутренней точкой отрезка I) такой, что касательная плоскость к поверхности S стационарна вдоль I. Такие поверхности называют иногда торсами (см., например, [86]), а соответствующий отрезок I называется прямолинейной образующей. Известно (см., например, [85, глава 4, §3.2]), что если точка нормальной развертывающейся поверхности S не имеет окрестности, в которой S представляет собой плоскую область, то проходящая через эту точку прямолинейная образующая единственна, и никакая другая точка этой прямолинейной образующей не имеет такой окрестности, причем эта прямолинейная образующая продолжается до границы поверхности.

Теорема 1.3. Сферическое изображение всякой -гладкой нормальной развертывающейся поверхности в имеет площадь (двумерную меру Лебега) ноль.

Напомним, что сферическим изображением поверхности S называется множество {n(x)|xÎS}, где символом n(x) обозначается единичный вектор нормали к поверхности S в точке x.

Из Теорем 1.1–1.3 и классических результатов (см. [87, глава 9]) непосредственно вытекают следующие утверждения.

Следствие 1.4. Пусть сферическое изображение -гладкой поверхности в не имеет внутренних точек. Тогда эта поверхность является поверхностью нулевой внешней кривизны в смысле Погорелова.

Следствие 1.5. Всякая -гладкая нормальная развертывающаяся поверхность в является поверхностью нулевой внешней кривизны в смысле Погорелова.

Последнее утверждение дает ответ на вопрос, поставленный (см. [88, Замечание 2]).

Для теории отображений с конечным искажением существенным является следующий результата

Теорема 2.1. Пусть  — компактное множество топологической размерности не выше 1. Предположим, что существует число l>0 такое, что

Тогда для каждого липшицева отображения области, удовлетворяющего условию Ñf(x)ÎK для почти всех (п. в.) xÎW, справедливо тождество Ñfºconst.

Многие частные случаи Теоремы 2.1 (например, когда K=SO(2) или K есть отрезок) хорошо известны (см., например, [89]).

Равномерную ограниченность отношений нельзя заменить их конечностью, как показывает следующий простой

Пример 2.2. Рассмотрим отображение

,

где W={(x,y)|-y<x<0}. Элементарная проверка показывает, что K=Cl Ñf(W) есть компактное множество с топологической размерностью 1 (оно является гладкой дугой), и det(A-B)>0 для любой пары A,BÎK, A¹B.

За последний год получен ряд фундаментальных результатов по математической гидродинамике (см. [90], [91]).

Далее в этом пункте излагаются основные результаты работы [91]. Всюду в дальнейшем будем предполагать, что есть ограниченная область (открытое связное множество) с липшицевой границей. Символами Ē, ¶E обозначается замыкание и граница множества E соответственно.

Рассмотрим уравнения Эйлера в W:

(49)

Здесь, для всех qÎ[1,2). Хорошо известно, что если выполнено хотя бы одно из следующих двух условий

(i) область W односвязна;

(ii) для любой компоненты связности  границы ¶W справедливо равенство (здесь символом n обозначен вектор внешней нормали),

то существует непрерывная функция y:W®R, такая, что.

Обозначим. В силу сделанных предположений для всех qÎ[1,2).

Теорема 1 (Закон Бернулли). Пусть функции v, p суть решения уравнений Эйлера (Ошибка! Источник ссылки не найден.), причем выполнено хотя бы одно из условий (i) или (ii). Тогда для любого связного множества KÌW такого, что , справедливо утверждение

(50)

при этом последнее равенство справедливо -почти всюду (п. в.).

Здесь и далее связность понимается в смысле понятий общей топологии, символом обозначается сужение функции y на множество K, а символ означает 1-меру Хаусдорфа: ,

где.

Замечание 1. В связи с формулировкой Теоремы 1 отметим, что по классическим теоремам о следах для каждой функции  значения f(x) «хорошо определены» для - п. в. точек xζW. Поэтому на всем протяжении настоящей статьи мы считаем, что функция F и др. определены на замыкании W. Функцию y обычно называют функцией тока, ее линии уровня называются линиями тока, а функция F называется напором. Тогда закон Бернулли можно переформулировать следующим образом: напор постоянен вдоль каждой линии тока.

Прямым вычислением устанавливается, что

Из этого тождества мгновенно вытекает классическая формулировка закона Бернулли в гладком случае. Частные случаи Теоремы 1 известны и в негладком случае (см., например, Теорему 2.2 из [92]), однако они требовали всякий раз отдельного, подчас довольно трудоемкого, доказательства.

Доказательство Теоремы 1 в статье [91] основано на использовании следующих, недавно полученных, результатов.

Теорема A ([93]) Пусть . Тогда для почти всех yÎR прообраз состоит из конечного семейства непересекающихся -гладких кривых , j=1,…,N(y). Каждая кривая либо гомеоморфна окружности, либо представляет собой простую (без самопересечений) дугу с концами на ¶W (в последнем случае дуга  трансверсальна ¶W). Более того, касательный вектор к каждой кривой  является абсолютно непрерывной функцией.

Теорема B ([93]) Пусть . Тогда для каждого e>0 существует открытое множество VÌR и функция такие, что , и при f(x)∉V функция f дифференцируема в точке x с производной Ñf(x), причем справедливы соотношения f(x)=g(x), Ñf(x)=Ñg(x)¹0.

Теорема C ([93]) Пусть . Тогда для каждого e>0 существует d>0 такое, что для любого множества UÌW если , то

Во всех сформулированных теоремах и в последующем при работе с соболевскими функциями мы предполагаем, что выбираются их наилучшие представители.

Эти теоремы раскрывают неожиданный парадокс. Хотя функция может не иметь никакой классической гладкости (в частности, она может не быть даже -гладкой, тем не менее, ее почти все ее линии уровня имеют классическую -гладкость. В этом смысле, функция ведет себя лучше, чем -гладкие функции из примера Уитни.

Методы наших исследований основаны на разложениях типа Кэмпбелла − Хаусдорфа для базисных векторных полей различной степени гладкости, теории неголономного вариационного исчисления, а также геометрической теории отображений в субримановой геометрии.

Используемые нами методы являются развитием методов и подходов, разработанных в 2007 – 2011 гг и [96]-[102] для исследования субримановых структур. Основная идея этих подходов – непосредственное рассмотрение метрических объектов, “прямое” изучение их свойств без применения как методов, имеющих “сложную” структуру, так и требующих от объекта изучения таких свойств, как достаточно большая гладкость, невырожденность и т. д. (примером таких методов является применение известной формулы Бейкера – Кэмпбелла – Хаусдорфа), а также труднопроверяемых свойств.

Такой принцип выбора методов исследования делает понимание получаемых результатов более доступным, в частности, для аспирантов и студентов, так как не требует изначального знания большого количества дополнительного материала, выходящего за рамки программы обучения в вузах. Кроме того, так как методы используют минимальное количество свойств изучаемых структур, то они позволяют получать существенно более тонкие результаты сравнительно с классическими для общеизвестных ситуаций.

Рассмотрены субэллиптические уравнения вида

, где есть точка области трехмерного пространства, , .

Нетрудно видеть, что векторные поля, соответствующие дифференциальным операторам первого порядка и , удовлетворяют условия Хермандера. Более того, известно, что они порождают алгебру Ли группы Гейзенберга .

Эти векторные поля являются левоинвариантными относительно групповой операции . Пусть , . Нетрудно видеть, что поля правоинвариантны относительно групповой операции , кроме того, они перестановочны с полями .

Известно, что пространство Бесова определяется в терминах разностей. В данном случае разности берутся только вдоль интегральных линий векторных полей , при этом в соответствующую норму Бесова входят нормы подходящих разностных отношений.

Пространство состоит из функций, чьи первые производные вдоль векторных полей и принадлежат . Такая норма характеризует поведение функции вблизи границы. Мы предполагаем, что область ограничена и имеет гладкую границу.

Доказанные оценки позволяют построить метод нахождения решений задачи Неймана для рассматриваемых уравнений.

Полученные оценки верны для более широкого класса коэффициентов (с меньшим условие регулярности) чем классические оценки Шаудера. Они также как оценки Шаудера могут быть использованы для построения решений краевых задач методом продолжения по параметру.

Рассмотрен только модельный трехмерный случай. Однако он наиболее часто встречается в приложениях. С нашей точки зрения, доказательство аналогичных неравенств в многомерном случае не потребует новых идей. Хотя, возможно, оно потребует более громоздких вычислений.

Было начато исследование о возможности применения теории субэллиптических уравнений для изучения физических моделей деформации композиционных материалов. Частично цели в этом направлении достигнуты.

Было начато исследование о возможности построения теории пространств Соболева для функций со значениями в группе невырожденных матриц, а также других обобщений пространств Соболева, с целью применить соответствующий аналитический аппарат для исследования важных нелинейных задач механики сплошных сред и дифференциальной геометрии.

Даны основополагающие определения, проверена их корректность, эквивалентность некоторых определений. Исследования этих вопросов находятся на начальном этапе, но с теоретической точки зрения они являются многообещающими.

2.2 Рекомендации по возможности использования результатов НИР в реальном секторе экономики

Полученные в рамках НИР результаты по локальной структуре пространств Карно-Каратеодори их их приложения к теории оптимального управления могут быть применены для построения и анализа моделей фондовых рынков, а также для создания программных продуктов с алгоритмами планировании движения для различных механических систем.

3 Публикации результатов НИР

Заключение

В ходе третьего этапа НИР «Методы метрической геометрии и анализа на неголономных многообразиях в задачах механики сплошных сред» коллектив под руководством д. ф.-м. н. профессора спешно выполнил все анонсированные задачи.

Получены новые теоретические результаты в области метрической геометрии, теории соболевских гомеоморфизмов и квазиизометрических отображений, теории энтропийных и изэнтропийных решений, а также геометрического анализа на некоммутативных группах Ли и более общих пространствах Карно—Каратеодори. Полученные результаты применены для теоретического исследования и численного решения трехмерных нестационарных задач нелинейной теории упругости и пластичности, теории оптимального управления для неголономных систем, а также других задач механики сплошных сред.

Отметим некоторые наиболее важные результаты.

Факты, обобщение классических фактов гладкого анализа (таких, как теорема Морса-Сарда) на случай соболевских пространств, нашли применение в математической гидродинамике. В частности, доказан аналог закона Бернулли для соболеских решений уравнений Эйлера. Тем самым выкован новый тонкий инструмент исследований, что открывает новые перспективы.

Получены новые результаты о свойствах нового класса отображений римановых пространств, основным из которых является емкостная оценка для образа конденсатора. Этот класс отображений является естественным обобщением класса отображений с ограниченным искажением. Для нового класса доказано следующее обобщение теоремы Лиувилля: если существует отображение данного класса двух римановых многообразий, то образ является параболическим многообразием, если только таковым является прообраз. Как квалифицирующее средство римановых многообразий этот результат имеет такую интерпретацию: если образ – гиперболическое многообразие, а прообраз параболическое, то не существует отображения нового класса из одного многообразия в другое.

Впервые исследована проблема жесткости изометрий на трехступенчатой группе Карно – группе джетов J2(R,R). Получена количественная жесткость изометрий на областях Джона группы джетов J2(R,R) в равномерной норме и в норме Соболева.

Получены новые результаты как о тонких свойствах многообразий Карно, так и о свойствах классов поверхностей на них, разработаны новые методы исследования и новые подходы. Они будут обобщены использованы в дальнейшем для выявления существенно новых свойств субримановых и сублоренцевых структур, а также для исследования и решения адаптированных классических задач на неголономный случай. В частности, они важны для развития теории геометрического (оптимального) контроля на неголономных структруах, которая имеет огромное значение при решении важных прикладных задач физики (процесс диффузии, изучение черных дыр), квантового контроля (имеющего приложения в изучении ядерного магнитного резонанса и в медицине), экономики (финансы, теория биржевых котировок, в ценовые задачи, стохастические модели волатильности европейских фондовых рынков, в математические модели для облигаций и процентных ставок), нейробиологии (моделирование работы человеческого головного мозга, в частности, задачи визуализации), роботехники (отыскание траекторий, соединяющих две конфигурации системы, задача о машине с прицепами, движение космических аппаратов), и др. Результаты и методы могут быть использованы при подготовке спецкурсов для студентов и аспирантов.

Проведенные исполнителями НИР исследования опубликованы в ведущих российских и зарубежных журналах и доложены на всероссийских и международных конференциях.

Список литературы

[1] G. P. Leonardi, V. Magnani, Intersections of intrinsic submanifolds in the Heisenberg group // Preprint, 2010. arXiv:1009.5302v1

[2] A. Kozhevnikov, Rugosité des lignes de niveau des applications différentiables sur le groupe d'Heisenberg // Ecole Polytechnique, Palaiseau, France. Preprint, 2011.

[3] Iwaniec T., Martin G. Quasiregular mappings in even dimensions // Acta Math. 1993. V. 170,  1. P. 29–81.

[4] Donaldson S. K., Sullivan D. P. Quasiconformal 4-manifolds // Acta Math. 1989. V. 163,  3-4. P. 181–252.

[5] Решетняк Ю. Г. Теоремы устойчивости в геометрии и анализе. //

Новосибирск: Изд-во Института математики СО РАН, 1996.

[6] Решетняк Ю. Г. Пространственные отображения с ограниченным искажением // Новосибирск: «Наука», 1982.

[7] Rickman S. Quasiregular mappings. // Vol. 26 of Ergebnisse der Mathematik und ihrer Grenzgebiete (3) [Results in Mathematics and Related Areas (3)]. Berlin: Springer-Verlag, 1993.

[8] Iwaniec T., Martin G. Geometric function theory and nonlinear analysis. Oxford Mathematical Monographs. // New York: The Clarendon Press Oxford University Press, 2001.

[9] Astala K. Area distortion of quasiconformal mappings // Acta Math. 1994. V. 173. P. 37-60.

[10] Astala K. Analytic aspects of quasiconformality. In Proceedings of the International Congress of Mathematicians (Berlin, 1998). V. II // Doc. Math. 1998. Extra Vol. II. P. 617-626.

[11] Astala K., Clop A., Mateu J., Orobitg J., Uriarte-Tuero I. Distortion of Hausdorff measures and improved Painleve removability for quasiregular mappings // Duke Math. J. 2008. V. 141,  3. P. 539-571.

[12] Astala K., Iwaniec T., Saksman E. Beltrami operators in the plane // Duke Math. J. 2001. V. 107,  1. P. 27-56.

[13] Iwaniec T., Koskela P., Onninen J. Mappings of finite distortion: monotonicity and continuity // Invent. Math. 2001. V. 144, P. 507-531.

[14] Astala K., Iwaniec T., Martin G., Onninen J. Extremal mappings of finite distortion // Proc. London Math. Soc. (V. 91,  3. P. 655-702.

[15] , Квазиконформные отображения и пространства функций с первыми обобщенными производными // Сиб. мат. журн. 1976. Т. 17,  3. С. 515-531.

[16] , Введение в теорию функций с

обобщенными производными и квазиконформные отображения

// М.: «Наука», 1983.

[17] Решетняк Ю. Г. Двумерные многообразия ограниченной кривизны // Геометрия-4: Нерегулярная риманова геометрия. – М., 1989. – С. 8-189. (Итоги науки и техники. Соврем. пробл. математики. Фундам. направления; Т. 70).

[18] -изометрические погружения римановых пространств // Доклады АН. 1965. T. 163. С. 11-13.

[19] Nash J. isometric imbeddings // Ann. of Math. 1954. V. 60. P. 383-396.

[20] Kuiper N. H. On -isometric imbeddings. I // Nederl. Akad. Wetensch. Proc. Ser. A. 1955. V. 58. P. 545–556.

[21] Дифференциальные соотношения с частными производными // М.: «Мир», 1990.

[22] Müller  S. Variational Models for Microstructure and Phase Transitions // Leipzig: Max-Planck-Institute for Mathematics in the Sciences, 1998. (Lecture Notes,  2. http://www. mis. mpg. de/jump/publications. html).

[23] Ball J. M., James R. D. Fine phase mixtures as minimizers of energy // Arch. Rat. Mech. Anal. 1987. V. 100. P. 13-52.

[24] Šverák V. On regularity for the Monge-Ampere equation // Preprint, Heriot-Watt University, 1991.

[25] Chlebik M., Kirchheim B. Rigidity for the four gradient problem. // Leipzig: Max-Planck-Institute for Mathematics in the Sciences. 2000. Preprint  35. http://www. mis. mpg. de/jump/publications. html

[26] Tartar L. Some remarks on separately convex functions. In Microstructure and phase transitions. // IMA Vol. Appl. Math. 54, Springer, 1993. P. 191-204.

[27] Müller  S., Šverák V. Unexpected Solutions of First and Second Order Partial Differential Equations. In Proceedings of the International Congress of Mathematicians (Berlin, 1998). V. II // Doc. Math. 1998. Extra Vol. II. P. 691-702.

[28] Müller  S., Šverák V. Convex integration for Lipschitz mappings and counterexamples to regularity // Ann. of Math. (V. 157,  3. P. 715-742.

[29] Kirchheim B. Rigidity and Geometry of Microstructures. Habilitation thesis //University of Leipzig, 2003.

[30] Kirchheim B. Deformations with finitely many gradients and stability of quasiconvex hulls // C. R. Acad. Sci. Paris Ser. I Math. 2001. V. 332,  3. P. 289-294.

[31] Šverák V. On the problem of two wells in Microstructure and phase transitions // IMA Vol. Appl. Math. 54. Springer. 1993. P. 183-189.

[32] Kirchheim B., Müller S., Šverák V. Studying nonlinear PDE by geometry in matrix space. In Geometric analysis and Nonlinear partial differential equations. // Springer-Verlag. 2003. P. 347-395.

[33] Kirchheim B., Székelyhidi L. On the gradient set of Lipschitz maps //Preprint  16, MPI-MIS. 2007.

[34] Faraco D., Székelyhidi L. Tartar’s conjecture and localization of quasiconvex hulls in  // Preprint  60, MPI-MIS. 2006.

[35] Г. Лекции по теории обыкновенных дифференциальных уравнени // М.: Государственное издательство технико-теоретической литературы, 1949.

[36] Kolar J., Kristensen J. Gradient Ranges of Bumps on the Plane // Proceedings of the AMS. 2005. V. 133,  5. P. .

[37] Свойства C^1-гладких функций, множество значений градиента которых является нигде не плотным множеством // Сиб. мат. журн. 2007. Т.48, No.6. С..

[38] Обобщенные решения задачи Коши в целом для нелинейных уравнений первого порядка // ДАН СССР. 1969. Т.187. No1. С.29-32.

[39] Квазилинейные уравнения первого порядка со многими независимыми переменными // Матем. сборник. 1970. Т.81. No2. С.228-255.

[40]. , К теории изэнтропических решений квазилинейных законов сохранения // Современная математика и ее приложения. 2005. Т.33. С.69-78.

[41] , Об изэнтропических решениях квазилинейных уравнений первого порядка // Матем. сборник. 2006. Т.197. No.5. С.99-124.

[42] Об одном аналоге теоремы Сарда для C^1-гладких функций двух переменных // Сиб. мат. журн. 2006. Т.47, No.5. С..

[43] Пример C^1-гладкой функции, множество значений градиента которой является дугой, не имеющей касательной ни в одной точке // Сиб. мат. журн. 2008. T. 49, No. 1. С. 134-144.

[44] Mal'y J. The Darboux property for gradients // Real Anal. Exchange. 1996/97. V.22. No1. P.

[45] Об одном обобщении теоремы Дарбу на многомерный случай // Сибирский мат. журн. 2000. Т.41. No1. С.118-133.

[46] , , Интегральное представление интеграла дифференциальной формы // Функциональный анализ и математическая физика. Новосибирск: Ин-т математики СО АН СССР, 1985. С. 53-87.

[47] Сингулярные интегралы и дифференциальные свойства функций // – М.: Мир, 1973, 344 с.

[48] Aimar H., Forzani L., Toledano R. Balls and quasi-metrics: a space of

homogeneous type modelling the real analysis related to the Monge-Ampere equations // Journ of Fourier Ann. And Appl. 1998. V. 4, N 4-5. P.377−381.

[49] Jerison D., Kenig C. Boundary behavior of harmonic functions in

non-tangentially accessible domain // Adv. Math.- 1982.- V. 47, N 1.- P. 80─147.

[50] Capogna L., Garofalo N. Boundary behavior of non-negative solutions of subelliptic equations in NTA-domains for Carnot-Caratheodory metrics // Fourier Anal. Appl.- 1998.- V.4, N 4.- P. 403─432.

[51] Gromov M. Carnot-Caratheodory spaces seen from within // Sub-Reimannian geometry.- 1996.- Basel: Birkhauser.- P. 79─323.

[52] Bonfiglioli A., Lanconelli E., Uguzzoni F. Stratified Lie Groups and Potential Theory for their Sub-Laplacian // - Berlin, Heidelberg : Springer—Verlag, 2007.

[53] G. Citti, A. Sarti. A cortical based model of perceptual completion in the rototranslation space // Lecture Notes of Seminario Interdisciplinare di Matematica 3 (2004), 145 – 161.

[54] R. K. Hladky, S. D. Pauls Minimal surfaces in the roto-translation group with applicationsto a neuro-biological image completion model // arXiv:math. DG/0 27 Sep. 2005.

[55] J. Petitot Neurogéométrie de la vision. Modèles mathématiques et physiques des architectures fonctionelles // Les Éditions de l'École Polytechnique, 2008.

[56] , , Максимальные поверхности в пространстве-времени Минковского // Изд-во ВолГУ, 2011.

[57] B. Nielsen Minimal immersion, Einstein’s equations and Mach’s principle // J. Geom. Phys., Vol. 4, 1987, P. 1 – 20.

[58] Coron J.-M. Stabilization of controllable systems // Sub-Riemannian Geometry, Progress in Math. Birkhauser. 1996. V. 144. P. .

[59] Nagel A., Stein E. M., Wainger S. Balls and metrics defined by vector fields I: Basic properties // Acta Math. 1985. V. 155. P. .

[60] H. Hermes. Nilpotent and high-order approximations of vector field systems // SIAM Review. 1991. V. 33. P. .

[61] Rotshild L. P., Stein E. M. Hypoelliptic differential operators and nilpotent groups // Acta Math. 1976. V. 137. P. .

[62] Bellaiche A The tangent space in sub-Riemannian geometry // Sub-Riemannian geometry. Birkh\"auser, Basel. 1996. V. 144. P.1--78.

[63] Gromov M. Carno--Caratheodory spaces seen from within // Sub-riemannian Geometry, Progress in Mathematics. Birckhauser. 1996. V.1

[64] Karmanova M., Vodopyanov S. Geometry of Carno-Caratheodory spaces, differentiability, coarea and area formulas // Analysis and Mathematical Physics. Trends in Mathematics, Birckhauser. 2009. P..

[65] , Локальная аппроксимационная теорема на многообразиях Карно в условиях минимальной гладкости векторных полей // Докл. Акад. Наук. 2009. Т. 427, № 3. С. .

[66] Теоремы устойчивости в геометрии и анализе // Новосибирск: Изд-во ИМ СО РАН, 1996.

[67] John F. Rotations and strains // Comm Pure Appl. Math. 1961. V. 14. P. 391–413.

[68] , Точные оценки геометрической жесткости изометрий на группах Гейзенберга // ДАН 2008, Т. 420, N 5, С. 583-588.

[69] Warhurst B. Jet Spaces and Nonrigid Carnot Groups // Doct. Thesis. The University of New South Wales, 2005.

[70] Isangulova D. V., Vodopyanov S. K. Coercive estimates and integral representation formulas on Carnot groups // Eurasian Math. J. 2010, V. 1, N 3. P. 58-96.

[71] , , М. Интегральные представления функций и теоремы вложения // М.: Наука, 1975.

[72] Jerison D. The Poincare inequality for vector fields satisfying Hormander's condition // Duke Math. J. 1986. V. 53, N. 2. P. 503-523.

[73] Эллиптические дифференциальные уравнения с частными производными второго порядка (пер. с англ.).// М: Наука, 1989.

[74] Bonfiglioli A., Lanconelli E. Uguzzoni F. Stratified Lie groups and potential theory for their sub-laplacians // Springer, 20P.

[75] // Zufallige Bewegungen. Ann. of Math. 1934. V. 35, N. 2. P. 116-117.

[76] О линейных уравнениях второго порядка с неотрицательной характеристической формой // Мат. сб. 1966. Т. 69, N. 1. С. 111-140.

[77] Hormander L. Hypoelliptic second-order di_erential equations // Acta Math. 1967. V. 119. P. 147-171.

[78] Folland G. B. A fundamental solution for a subelliptic operator // Bull. Amer. Math. Soc. 1973. V. 79, N. 2. P. 373-376.

[79] Интегральные представления и теоремы вложения для функций, заданных на группах Гейзенберга Hn. // Алгебра и анализ. 2004. Т. 16, N. 2. С. 82-120.

[80] Johnsson A., Wallin H. A. Whitney extension theorem in Lp and Besov spaces // Ann. Inst. Fourier. 1978. V. 28. P. 139-192.

[81] Iwaniec T., Koskela P., Onninen J. Mappings of finite distortion: monotonicity and continuity // Invent. Math. 2001. V. 144, P. 507-531.

[82] Šverák V. On Tartar’s conjecture // Ann. Inst. H. Poincaré Anal. Non Linéaire. 1993. V. 10, No. 4. P. 405–412

[83] Свойства C^1-гладких функций, множество значений градиента которых топологически одномерно // Доклады РАН, 2010, том 430, № 1, с. 18–20.

[84] -гладкие изометрические погружения // Сиб. мат. журн. 1974. Т. 15, No. 6. С. 1372–1393.

[85] Геометрия поверхностей в евклидовых пространствах // Современные проблемы математики. Фундаментальные направления. М.: ВИНИТИ, 1989. С. 5–97. (Итоги науки и техники. Т. 48. Геометрия-3).

[86] Обобщение теоремы Погорелова-Стокера о полных развертывающихся поверхностях // Фундаментальная и прикладная математика. 2006. Т. 12, No. 1. С. 247–252.

[87]  В. Внешняя геометрия выпуклых поверхностей. // М.: «Наука», 1969.

[88] -гладкие поверхности ограниченной внешней положительной кривизны // Сиб. мат. журн. 1975. Т. 16, No. 5. С. 1122–1123.

[89] Muller S. Variational Models for Microstructure and Phase Transitions // Max-Plank-Institut fur Mathematik in den Naturwissenschaften, Leipzig (1998) (Lecture Notes, No2.)

[90] Mikhail V. Korobkov, Konstantin Pileckas and Remigio Russo. On the flux problem in the theory of steady Navier–Stokes equations with nonhomogeneous boundary conditions // arXiv:1009.4024v1, [math-ph], 21 Sep 2010.

[92] Amick Ch. J. Existence of solutions of nonhomogeneous steady Navier-Stokes Equations // Indiana U. Math. J. Vol. 33, No. 6. 1984. P. 817–830.

[93] J. Bourgain, M. V. Korobkov and J. Kristensen. On the Morse– Sard property and level sets of Sobolev and BV functions // arXiv:1007.4408v1,[math. AP], 26 July 2010

[94] Karmanova M., Vodopyanov S. Geometry of Carnot-Caratheodory spaces, differentiability, area and coarea formulas // In: Analysis and Mathematical Physics, Trends in Mathematics, Verlag Basel/Switzerland: Birkhauser. 2009. P. 233-335. 

[95] , Локальная геометрия многообразий Карно в условиях минимальной гладкости // Докл. АН, 2007. Т. 413, № 3. С. 305-311.

[96] , Локальная аппроксимационная теорема на многообразиях Карно в условиях минимальной гладкости // Докл. АН, 2009. Т. 427, No 3. С. 731-736. 

[97] Karmanova M., Vodopyanov S. An Area Formula for Contact $C^1$-Mappings of Carnot Manifolds // Complex Variables and Elliptic Equations. 2010. V. 55, Issue I-III. P. 317-329.

[98] , Формула коплощади для гладких контактных отображений многообразий Карно // Докл. АН, 2007. Т. 417, № 5. С. 583-588.

[99] , Формула площади для C1-гладких контактных отображений многообразий Карно // Докл. АН, 2008. Т. 422, № 1. С. 15-20.

[100] Б. Новый подход к исследованию геометрии пространств Карно-Каратеодори // Докл. АН, 2010. Т. 434, No. 3. С. 309-314.

[101] Формула площади для липшицевых отображений пространств Карно – Каратеодори // Докл. АН, 2008. Т. 423, № 5. С. 603-608.

[102] Характеристическое множество  гладких контактных отображений пространств Карно-Каратеодори // Докл. АН, 2009. Т. 425, № 3. С. 314-319.

[1] За это открытие Ю. Г. Решетняк удостоился премии РАН им. Н. А. Лобачевского.

[2] Введение в теорию квазивыпуклых множеств и функций см., например, в [22].