cos^2(3x)+2a*sin(3x)-2a>a^2,
1-sin^2(3x)+2a*sin(3x)-2a-a^2>0,
-sin^2(3x)+2a*sin(3x)-a^2-2a+1>0,
sin^2(3x)-2a*sin(3x)+a^2+2a-1<0,
sin(3x)=t,
t^2-2a*t+a^2+2a-1<0,
t^2-2a*t+a^2+2a-1=0,
D1=(-a)^2-1*(a^2+2a-1)=a^2-a^2-2a+1=-2a+1,
1) D1<0, -2a+1<0, -2a<-1, a>1/2,
нет решений;
2) D1=0, a=1/2,
нет решений;
3) D1>0, a<1/2,
t1=-(-a)-√(-2a+1)=a-√(1-2a),
t2=-(-a)+√(-2a+1)=a+√(1-2a),
a-√(1-2a)<t<a+√(1-2a),
{sin3x>a-√(1-2a), (система)
{sin3x<a+√(1-2a);
3.1) a-√(1-2a)>1,
-√(1-2a)>1-a,
√(1-2a)<a-1,
{1-2a≥0, a-1>0, 1-2a<a^2-2a+1;
{a≤1/2, a>1, a^2>0; - нет решений (т.е. при любом а a-√(1-2a)≤1, и неравенство sin3x>a-√(1-2a) имеет решения);
3.2) a+√(1-2a)<-1,
√(1-2a)<-a-1,
{1-2a≥0, -a-1>0, 1-2a<a^2+2a+1;
{a≤1/2, a<-1, a^2+4a>0;
{a≤1/2, a<-1, a(a+4)>0;
a<-4 - неравенство sin3x<a+√(1-2a) не имеет решений.
нет решений;
3.3)-4<a<1/2
![\left[\begin{array}{ccc}-1&2&1\\-1&a&0\\a&2&1\end{array}\right]=\left[\begin{array}{ccc}-1&2&1\\-1&a&0\\a+1&0&0\end{array}\right]](/tpl/images/0065/4734/ed151.png)
Это из третьей строки вычли первую строку. Дальше вычтем из 1 строки вторую, получим матрицу вида
![\left[\begin{array}{ccc}0&2-a&1\\-1&a&0\\a+1&0&0\end{array}\right]](/tpl/images/0065/4734/45cb7.png)
Матрица получилась нижнетреугольная. Ранг матрицы равено количеству линейнонезависимых строк или столбцов в матрице.
Рассмотрим при каких а в матрице появляются нулевые строки
1. а+1=0, а=-1, в этом случаем третья строка зануляется и можно занулить второй столбец. Вычеркиваем нулевую строку и столбец, получаем диагональную матрицу размером 2х2. Количество линейнонезависимых строк=2 значит Rg(A)=2
2. a=0. Получается матрица вида
![\left[\begin{array}{ccc}0&2&1\\-1&0&0\\1&0&0\end{array}\right]](/tpl/images/0065/4734/336ca.png)
Видно, что вторая и третья строки линейно зависимы (2 получается из третьей домножением на -1). Действуя так же как и в случае 1, получаем матрицу 2х2 с линейнонезависимыми строками, значит Rg(A)=2
Во всех остальных случаев ранг матрицы получается равен Rg(A)=3.
Т.к при любых других значениях а матрица имеет диагональный вид. Значит количество линейнонезависимых векторов будет равно 3.
ответ: a=-1 и a=0 Rg(A)=2 , 
и ф
Rg(A)=3
= 688(-687)+687*688 = 688(687-687) = 688*0 = 0