[mta88]

вот тут написано следущее

border-radius это составное свойство, состоящее из 4-х чисел, а animate не работает с составными свойствами

то есть нужно изменять радиусы всех углов по отдельности

$(function(){
  var state = true;
  $('.button').click(function(){
    if(state){
      $('#border_1').animate({
        'borderBottomLeftRadius': '90px',
        'borderBottomRightRadius': '90px',
        'borderTopLeftRadius': '90px'
        'borderTopRightRadius': '90px'
      }, 500);
    } else{
      $('#border_1').animate({
        'borderBottomLeftRadius': '0',
        'borderBottomRightRadius': '0',
        'borderTopLeftRadius': '0'
        'borderTopRightRadius': '0'
      }, 500);
    }
    state = !state;
  })
});