<input type="radio" name="arama_sec" value="radio" id="demirbas">
<input type="radio" name="arama_sec" value="radio" id="kitap">
<input type="radio" name="arama_sec" value="radio" id="yazar">

if ($_GET['arama_sec'] == 'demirbas')
{
    $sql = mysql_query("select * from tblkitap where demirbasno like '%$_GET[aranan]%'");
}

elseif ($_GET['arama_sec'] == 'kitap')
{
.......................
}

elseif ($_GET['arama_sec'] == 'yazar')
{
..................
}