실제로 어떤 Query를 작성 하려고 하시는 건지는 잘 모르겠지만

1.시스템 변수를 선언해서 사용하는 방법

 declare @aa char(01)
 select @aa = "2"

if @aa = "1"
  select "a"
else
 select "b"

2.if exists 를 사용하는 방법

if exists ( select 1 from tableA where aa = "1")
 begin
   select "a"
 end
else
 begin
  select "b"
 end