[Андрей Параничев]

$.post('test.php',
  {act: 'test'},
  function (data){
    $("#captcha_container").html(data);
  }, 'html');

?

Косяк в том, что у вас с сервера приходит эта же страница, в качестве ответа. А не какой-нибудь xml, или JSON.