- след матрицы, то есть сумма диагональных элементов, 
- знак транспонирования. Соответственно квадрат длины вектора (то есть матрицы A) равен 
, у которой в пересечении первой строчки и первого столбца стоит единица, а остальные нули, потом матрицы 
далее переходим на вторую строчку и так далее до последней матрицы 
.
скалярное произведение задается по той же формуле, только у второй матрицы элементы нужно заменить на комплексно сопряженные:
.
1. Интегрирование ведется по множеству 0 < x < 1, 0 < y < √(2x-x^2)
√(2x - x^2) принимает значения от 0 (x = 0) до 1 (x = 1), так что множество интегрирования является частью множеста 0 < x < 1, 0 < y < 1, где выполняется y < √(2x - x^2)
0 < y < √(2x - x^2) при 0 < x < 1 эквивалентно 0 < y^2 < 2x - x^2 = 1 - (1 - 2x + x^2) = 1 - (x-1)^2
т.е. (x-1)^2 < 1 - y^2
|x - 1| = 1 - x < √(1 - y^2)
x > 1 - √(1 - y^2)
ответ: интеграл от 0 до 1 по dy интеграл от 1 - √(1-y^2) до 1 f(x,y) по dx
2. 0 < y < 1, -√(1-y^2) < x < 1-y
-√(1-y^2) принимает значения от -1 (y = 0) до 0 (y = 1)
1 - y принимает значения от 0 (y = 1) до 1 (y = 0)
Т.е. область интегрирования: -1 < x < 1, 0 < y < 1, где одновременно -√(1-y^2) < x и x < 1-y
x < 1 - y ~ y < 1 - x
-√(1-y^2) < x :
1) При x > 0 - любой y (от 0 до 1)
2) При x < 0:
√(1-y^2) > (-x) > 0
1 - y^2 > x^2
0 < y^2 < 1 - x^2
0 < y < √(1 - x^2)
Т.е. исходные условия эквивалентны тому, что:
при x >= 0: y < 1 - x
при x < 0: одновременно y < √(1 - x^2) и y < 1 - x, но т.к. √(1 - x^2) <= 1 - x при x < 0, достаточно условия y < √(1 - x^2)
ответ: (интеграл от -1 до 0 по dx интеграл от 0 до √(1 - x^2) f(x,y) по dy) + (интеграл от 0 до 1 по dx интеграл от 0 до 1 - x f(x,y) по dy)
Или, что то же самое, интеграл от -1 до 1 по dx от 0 до min{ 1 - x, √(1 - x^2) } f(x,y) по dy
