Я собственник жилья, могу ли выписать мать и ее двух детей на на площадь,купленную ею по мат капиталу, но меньшей площади

А вы отец этим детям и несете перед ними алиментные обязательства? или нет? если да, то дело плохо, суд может сохранить право проживания за всеми до 18 летия детей. в этом случае можно провести отчуждение недвижимости через дарение родственнику, которому доверяете (например, маме своей), а потом уже обращаться в суд от имени мамы (она не несет алиментные обязательства + тут будет не 31 ч 4 жк, а 292 гк, по которой выселить намного проще). а если вы не отец детям, то надо смотреть историю квартиры, как там эта мать с детьми оказалась и в какой период времени. исходя из этого, можно определять порядок действий.