В евклидовом или другом векторном пространстве — множество, к-рое вместе с любыми двумя точками содержит все точки соединяющего их отрезка. Пересечение любой совокупности В. м. есть В. м. Наименьшая размерность плоскости, содержащей данное В. м., наз. размерностью этого В. м. Замыкание В. м. (т. е. результат присоединения к В. м. всех его предельных точек) дает В. м. той же размерности. Центральное место в теории В. м. занимает изучение выпуклых тел (в. т.) — конечных (т. е. ограниченных) замкнутых В. м. размерности п. При отказе от ограниченности говорят о бесконечных в. т., а при отказе от n-мерности — о вырожденных в. т. или в. т. более низких размерностей. В. т. гомеоморфно замкнутому шару. Бесконечное в. т., не содержащее прямых, гомеоморфно полупространству, а содержащее прямую является цилиндром с выпуклым (возможно бесконечным) поперечным сечением. Через каждую точку границы В. м. проходит хотя бы одна гиперплоскость, оставляющая это В. м. в одном замкнутом полупространстве. Такие гиперплоскости и полупространство нал. опорными для данного В. м. в данной точке границы. Замкнутое В. м. есть пересечение его опорных полупространств. Пересеченно конечного числа замкнутых полупространств есть выпуклый многогранник. Гранями в. т. называют его пересечения с опорными гиперплоскостями. Это — в. т. более низких размерностей. Само в. т. считают его n-мерной гранью. Грань грани, в отличие от случая многогранника, может но быть гранью исходного в. т. С каждой граничной точкой хв. т. связывают: открытый касательный конус, заполненный лучами, идущими из х через внутренние точки в. т.; замкнутый касательный конус — его замыкание; касательный конус поверхности — его границу. Первые два конуса выпуклые. Точки границы в. т. классифицируют по минимальной размерности граней, к-рым они принадлежат, а также по размерности множества опорных гиперплоскостей в точке. Точки нульмерных граней наз. выступающими. Крайними наз. точки в. т., не внутренние ни для одного отрезка, лежащего в этом в. т. Изучается вопрос о возможном обилии точек и множества направлений граней разного типа. Напр., точки с неединственной опорной гиперплоскостью занимают на границе нулевую ( п-1) — мерную площадь; направления лежащих на границе отрезков имеют нулевую меру среди всех направлений в пространстве. Точка, не принадлежащая в. т., строго отделена от него гиперплоскостью, оставляющей эту точку и в. т. в разных открытых полупространствах. Два непересекающихся В. м. отделены гиперплоскостью, оставляющей их в разных замкнутых полупространствах. Последнее свойство отделимости сохраняется для В. м. в бесконечномерных векторных пространствах. С в. т. Fсвязана его опорная функция H: , определяемая равенством где их — скалярное произведение. Функция — положительно однородная 1-й степени: при , и выпуклая: Любая функция с этими двумя свойствами есть опорная функция для некоторого (причем единственного) в. т. Задание опорной функции — один из основных способов задания в. т. При размещении начала координат внутри в. т. вводят функцию расстояния , определяемую при равенством и полагают . Это — тоже положительно однородная 1-й степени выпуклая функция, определяющая F. Два в. т. наз. полярными (или двойственными) друг другу, если опорная функция одного из них есть функция расстояния для другого. Существование двойственных в. т. связано с самосопряженностью . Если в. т. Рсимметрично относительно начала координат, то функция является метрикой. Это — метрика пространства Минковского (конечномерного банахова пространства), причем Fиграет роль единичного шара. Аналогично в бесконечномерном банаховом пространстве единичный шар есть В. м. Свойства пространства связаны с геометрией этого шара, в частности с наличием на его границе точек разного типа [3]. В. т. можно задавать как выпуклую оболочку точек его границы или части этих точек. Существует ряд достаточных признаков, позволяющих делать заключение о выпуклости множества (или каждого из множеств нек-рого семейства). Напр., если С 2 -гладкая замкнутая поверхность в Е 3 имеет в каждой точке неотрицательную гауссову кривизну, то эта поверхность — граница в. т.; если пересечение компактного множества с каждой плоскостью, оставляющей Fв одном полупространство, связно, то Fвыпукло [4]. На множестве в. т. (в том числе вырожденных, но не пустых) метрику можно ввести многими способами. Наиболее употребительна метрика Хаусдорфа (см. Выпуклых множеств пространство метрическое). В этой метрике каждое в. т. можно приближать выпуклыми многогранниками, а также такими в. т., к-рые допускают задание где Р — многочлен, и к-рые имеют во всех точках границы положительные главные кривизны. В. т. всегда имеют конечный объем (по Жордану), совпадающий с его n-мерной мерой Лебега. Граница в. т. имеет конечную ( п-1)-мерную площадь, причем различные способы введения площади в этом случае эквивалентны. Объем и площадь границы непрерывно (по метрике Хаусдорфа) зависят от в. т. С изучением зависимости объема линейной комбинации в. т. от коэффициентов связана теория смешанных объемов. Среди смешанных объемов находятся, кроме объема и площади границы, многие другие функционалы, связанные с в. т. [5]; напр, k-мерные объемы проекций на fc-мерные плоскости разных направлений и их средние значения. Главным достижением этой теории являются разнообразные неравенства между смешанными объемами; среди них — изопериметрическое неравенство классическое. С в. т. связывают ряд простых фигур, напр, для каждого в. т. единствен наибольший (по объему) вписанный и наименьший описанный эллипсоиды [6]. Развиты признаки, выделяющие среди всех в. т. шары, эллипсоиды, центрально-симметричные тела [1], [2]. Особое место в теории В. м. занимают теоремы о семействах В. м. [6]. Значение теории В. м.- в наглядности методов и результатов, их общности и независимости от аналитич. требований гладкости (решениями экстремальных задач часто служат негладкие в. т.). Лит.: МBonnescn Т., Fenchel W., Theorie der konvexen Кorpеr, В., 1934; [2] Valentine F., Convex sets, N. Y., 1964; [3] Дей М., Нормированные линейные пространства, пер. с англ., М., 1961; [4] Бураго Ю. Д., За л галле р В. А., Достаточные признаки выпуклости, в кн.: Вопросы глобальной геометрии, Л., 1974, с. 3-53 (Записки научных семинаров Ленинградского отделения матем. ин-та, т. 45); [5] Хадвигер Г., Лекции об объеме, площади поверхности и изопериметрии, пер. с нем., М., 1966; [6] Данцер Л., Грюнбаум Б., Кли В., Теорема Хелли и ее применения, пер. с англ., М., 1968. Ю. Д. Бурого, В. А. Залгаллер.